AI Siêu lạm phát 📉 Siêu lạm phát là khi giá cả tăng 50% mỗi tháng, một cú sốc kinh tế cực đoan. Chi phí suy diễn AI tiên tiến đang giảm mạnh vượt xa điều đó. Từ hồi tưởng đến lý luận Khi chi phí/token giảm mạnh, mức tiêu thụ cũng tăng theo. Một truy vấn chatbot cơ bản có thể tốn khoảng 100 token, việc tạo mã phức tạp khoảng 100.000, và một quy trình tác động nhiều bước hoặc nhiệm vụ lý luận có thể tốn đến một triệu. Nó làm tôi nhớ đến câu ngạn ngữ cũ "Điều Intel ban cho, Microsoft lấy đi" được chuyển thể cho NVIDIA và AI.
14,1K