Hiperdeflație 📉 AI Hiperinflația este atunci când prețurile cresc cu 50% pe lună, un șoc economic extrem. Costul inferenței AI avansate se dezumflă cu mult peste asta. De la rechemare la raționament Pe măsură ce costul/tokenul se prăbușește, crește și consumul. O interogare de bază a chatbot-ului poate dura ~ 100 de tokenuri, generarea de cod complex ~ 100.000, iar un flux de lucru agentic în mai mulți pași sau o sarcină de raționament poate dura un milion. Îmi amintește de vechea zicală "Ce oferă Intel, Microsoft ia" reformulată pentru NVIDIA și AI.
14,09K