C'est encore une idée folle que vous puissiez simplement donner une tâche à un agent AI, quitter votre ordinateur un moment et revenir pour voir que c'est fait. La capacité de lancer du codage, de construire un prototype, de faire des recherches approfondies, d'effectuer des analyses de données, de générer une présentation, ou toute autre tâche de travail de connaissance courante, puis de passer à quelque chose de totalement différent est encore si incroyable. Nous sous-estimons probablement énormément l'impact et le bénéfice réels dans un monde où le travail utile n'est plus directement lié au temps que l'humain passe derrière le clavier. Nous n'avons jamais pu découpler la production (valeur) de l'entrée humaine (temps) dans le travail de connaissance auparavant. Je parierais qu'un petit pourcentage de travailleurs de la connaissance en ce moment exploite vraiment ce phénomène. Le monde du travail va être très différent lorsque cela deviendra le comportement par défaut.

Ce document d'OpenAI contient des explications très convaincantes sur les raisons pour lesquelles les hallucinations persistent et ce qu'il faut faire à ce sujet. Plus précisément, après l'entraînement, nous devrions cesser de pénaliser les modèles pour avoir déclaré qu'ils ne connaissent pas la réponse, et arrêter de récompenser les devinettes trop confiantes. Éliminer les hallucinations serait l'une des plus grandes améliorations de l'IA pour des cas d'utilisation en entreprise tels que le droit, la finance, la santé et de nombreux autres domaines à forte valeur ajoutée. Ce serait un événement très important si nous pouvons continuer à faire des progrès significatifs dans ce domaine.

L'IA est folle car vous devez absolument éviter d'être sentimental à propos de n'importe quelle partie de l'architecture de votre produit à tout moment. Les modèles se mettent à jour à un rythme si rapide que vous devez constamment réévaluer l'échafaudage que vous avez construit et déterminer ce qui peut désormais être résolu de manière meilleure ou moins coûteuse grâce à une nouvelle avancée. Les entreprises gagneront ou perdront entièrement en fonction de leur capacité à se détacher de quelque chose dans lequel elles se sont ostensiblement bien débrouillées, car les modèles peuvent désormais résoudre cela pour elles. C'est généralement là que les startups gagnent au fil du temps, car elles émergent à une époque où quelque chose est beaucoup plus facile à résoudre de manière moderne, et l'entreprise en place ne s'adapte pas correctement. La clé est de s'assurer que vous avez une architecture qui vous donne cette flexibilité, ce qui signifie créer les bonnes abstractions dès le départ pour bénéficier de ces mises à jour constantes.