Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Việc nén mô hình AI vừa làm cho việc suy diễn trên chuỗi trở nên khả thi về mặt kinh tế lần đầu tiên.
Việc chạy một mô hình 7B tham số trước đây tốn khoảng 2-3 đô la cho mỗi lần suy diễn khi bạn tính đến phí gas và chi phí tính toán. Mức giá đó khiến bất kỳ ứng dụng AI nào hướng đến người tiêu dùng đều không thể tồn tại. Bạn không thể xây dựng một chatbot mà tốn của người dùng 2 đô la cho mỗi tin nhắn. Kinh tế không bao giờ hoạt động.
Các kỹ thuật định lượng và cắt tỉa nén các mô hình xuống còn 1-2B tham số mà không làm mất nhiều độ chính xác. Đột nhiên, chi phí suy diễn giảm xuống còn 0,10-0,20 đô la cho mỗi lần gọi. Vẫn chưa miễn phí, nhưng giờ bạn đã ở trong khoảng mà các mô hình vi thanh toán trở nên khả thi. Người dùng có thể trả một phần nhỏ của một xu cho mỗi tương tác, các nhà phát triển có thể trang trải chi phí mà không cần trợ cấp từ VC, và kinh tế đơn vị thực sự khớp lại.
Khi chi phí suy diễn đủ rẻ để hỗ trợ các ứng dụng thực sự, không chỉ là các bản demo, bạn mở khóa một không gian thiết kế hoàn toàn khác. Các tác nhân AI sống hoàn toàn trên chuỗi, tương tác liên tục với người dùng và không cần phụ thuộc vào API tập trung. Đó là khi DeAI không còn là một dự án nghiên cứu mà bắt đầu trở thành cơ sở hạ tầng.
Xem 0G.
Hàng đầu
Thứ hạng
Yêu thích
