Auparavant, j'ai présenté à mes collègues les quatre articles de @SentientAGI acceptés par @NeurIPSConf, et parmi eux, le plus précieux est sans doute l'OML 1.0 qui a été sélectionné pour la compétition principale. L'OML (Open Model License / Ownership Marking Layer) est une technologie qui permet de « marquer » les grands modèles de langage avec des « marques de sécurité ». Elle peut intégrer des milliers de « empreintes digitales » à l'intérieur du modèle sans affecter ses performances — comme si de nombreux filigranes invisibles étaient cachés dans le modèle pour prouver son identité et son origine. Les méthodes précédentes d'empreintes digitales de modèle avaient de nombreuses limitations : ❶ elles ne pouvaient intégrer que quelques dizaines d'empreintes, au-delà le modèle devenait « défectueux » ; ❷ les empreintes étaient faciles à détecter ou à supprimer ; elles devenaient inefficaces après un ajustement fin, une distillation ou une fusion du modèle ; ❸ elles ne pouvaient pas réellement soutenir le suivi des droits d'auteur et la commercialisation des modèles open source. L'OML intègre des clés invisibles — des paires clé-réponse — dans les « zones périphériques » peu utilisées du modèle, permettant au modèle de fonctionner de manière totalement cohérente lors d'une utilisation normale, mais seules les personnes ayant saisi des clés spécifiques peuvent déclencher des réponses exclusives, validant ainsi l'authenticité du modèle. Dans des tests réels, Sentient a intégré 24 576 paires clé-réponse indépendantes dans la version ajustée de Llama-3.1-8B, tout en maintenant des performances stables, et celles-ci demeurent même après un ajustement fin, une distillation ou une fusion. L'OML permet au modèle d'avoir une « signature » comme une œuvre humaine. Cela ouvre de nombreuses possibilités importantes : - Traçabilité des modèles : savoir d'où vient un modèle et qui l'a entraîné. - Autorisation et commercialisation : les modèles open source peuvent également être distribués légalement et autorisés à des fins commerciales. - Protection contre la contrefaçon et la falsification : empêcher les autres de plagier ou de se faire passer pour des originaux après un ajustement fin. - Audit de confiance : il est possible de vérifier dans un environnement réel si le modèle appartient à un certain éditeur. En résumé, l'OML est le premier pas vers un « mécanisme de protection des droits d'auteur » pour les modèles d'IA, et c'est également la pierre angulaire que Sentient peut réaliser grâce à une AGI open source pilotée par la communauté.