Le raisonnement a sa place dans une machine que vous pouvez lire
La plupart des IA raisonnent dans une boîte noire de chiffres. Nous mettons le raisonnement quelque part où vous pouvez réellement regarder.
Le problème du raisonnement dans les activations
Dans un modèle conventionnel, la pensée se passe dans des activations de tokens opaques : des milliards de chiffres sans rien à quoi s'accrocher. Quand le modèle a raison, vous ne pouvez pas dire pourquoi. Quand il a tort, vous ne pouvez pas dire où. Pour bien des usages, c'est correct. Pour tout ce à quoi vous devez vous fier, ça ne l'est pas.
Le raisonnement dans une machine symbolique
Cubby fonctionne autrement. Son modèle de langage écrit un petit programme, et une machine symbolique exécute ce programme sur des modèles du monde ancrés. Chaque étape est là pour être lue — vous pouvez regarder la décision se prendre, pas juste la réponse qui en tombe. Sortir le raisonnement de l'axe des tokens pour le mettre dans cette machine explique aussi en grande partie pourquoi le système coûte peu cher à faire tourner.
Une méthode, pas un fossé
C'est quelque chose qu'on est content de montrer, parce que c'est une méthode plutôt qu'un secret. Notre agent qui résout des labyrinthes fait exactement ça à découvert : il raisonne dans une machine symbolique que vous pouvez inspecter, sans réseau de neurones qui prend les décisions. Voyez-le raisonner à découvert →