我第一篇發表的學術論文是關於摩爾定律，而現在人工智慧的發展看起來也類似：摩爾定律的指數增長並不是單一技術的結果，而是許多不同技術在數十年內的結合，當一種晶片製造方法出現問題時，其他技術便準備就緒。這條定律的穩定步伐起到了協調的作用，迫使一群不斷變化的競爭者創造出一個自我實現的預言，持續增長能力。 同樣，人工智慧的發展已經遇到了一些障礙，必須通過新的技術和研究來克服（合成數據方法、推理、新的強化學習應用等）。但除非你是內部人士（或在 X 上密切關注人工智慧），否則你不會看到這些障礙：只會看到穩定的指數增長。 考慮到這個領域的資金和人才，我預期即使預訓練或其他方法遇到瓶頸，我們也會看到整個行業迅速轉向人們正在開發的其他多種方法。你已經可以看到這一點：對世界模型的研究、替代大型語言模型的方案、新的訓練方法等。甚至還有一些替代生態系統在押注於小型、精細調整模型的興起等。這些技術中有些來自初創公司，其他則是在人工智慧實驗室內部開發的。 在 X 上的人們往往會深入細節，把人工智慧當作一項運動，為某些團隊和方法加油或反對。但在任何合理的時間範圍內，人工智慧的發展對其他人來說可能看起來在許多指標上都是平滑的指數增長。