L’ancien scientifique en chef de Google, qui a aidé Google à devenir la puissance de l’IA et de la recherche qu’il est aujourd’hui, a récemment été interviewé par Diana Hu de Y Combinator. Il a expliqué que le modèle que les gens utilisent n’est de plus en plus aussi important que la manière dont le modèle est utilisé dans un système plus vaste d’outils, de récupération et d’agents d’IA.
Ses réponses étaient centrées sur l’ingénierie contextuelle et l’orchestration des outils, de la récupération et des agents d’IA dans des systèmes d’IA performants.
Le modèle d’IA utilisé est de moins en moins important
De nombreuses personnes s’inquiètent du modèle d’IA qu’elles utilisent et ressentent l’angoisse de manquer de jetons. Les réponses de Jeff Dean suggèrent que ces préoccupations pourraient conduire les gens à négliger une opportunité plus importante : ingénierie du contexte.
L’intervieweuse de Y Combinator, Diana Hu, a déclaré que le progrès n’est plus une question de modèles plus grands, puis elle ajoute qu’il lui semble qu’il s’agit de plus en plus d’« ingénierie de contexte ».
Dean était d’accord avec elle et a développé l’idée.
Diana Hu a demandé :
« Auparavant, les progrès de l’IA signifiaient simplement de meilleurs modèles. Vous disposiez de plus de données, formiez des modèles plus gros avec des paramètres plus importants. «
Mais de plus en plus, ces dernières années, tout tourne autour du modèle, pas seulement la taille du modèle, le nombre de paramètres ou davantage de données, mais tout tourne autour de choses comme la récupération, les outils, la mémoire, les outils d’agent, et cela pourrait en quelque sorte être consolidé dans ce que les gens appellent l’ingénierie de contexte, n’est-ce pas ?
Jeff Dean est d’accord, affirmant que le modèle d’IA que les gens choisissent d’utiliser n’est qu’une partie de tout ce que les gens font. Ce qui compte, a-t-il déclaré, ce sont les différents outils que le modèle d’IA peut utiliser et la manière dont il peut accéder aux informations pertinentes. Ainsi, plutôt que de se concentrer sur le modèle et d’attendre de lui qu’il fasse des choses, il insiste sur le fait que la meilleure façon de l’envisager est de doter le modèle des outils nécessaires pour accomplir le travail.
Dean a répondu :
« Oui, je veux dire, je pense que le modèle n’est en réalité qu’un élément de ce que vous essayez de faire, c’est-à-dire construire un système global capable de résoudre des problèmes vraiment intéressants.
Et cela implique un modèle qui sait utiliser différents outils. Il sait peut-être comment récupérer des informations pertinentes, peut-être a-t-il un historique d’autres informations récupérées pour des problèmes passés. Et cela peut placer les informations dans le contexte du modèle.
L’orchestration des systèmes multi-agents devient importante
Dean a poursuivi sa réponse, en s’orientant vers l’orchestration d’agents et multi-agents, ce qui signifie coordonner les agents d’IA sur la manière dont ils utilisent les outils et récupèrent les informations pertinentes pour résoudre des problèmes complexes.
Il a utilisé l’exemple d’un modèle d’IA, avec toutes ses données de formation, qui représentent une immense quantité d’informations, et l’a comparé à une IA qui examine une collection d’informations directement pertinentes par rapport à ce qu’elle doit faire. Le point auquel il amène est que le modèle est mieux à même de faire un travail lorsqu’il a le bon niveau d’orchestration et que c’est vers cela que les choses se dirigent.
Il poursuit sa réponse :
« Et ce qui est bien, c’est que les informations sont vraiment claires pour le modèle, contrairement aux données d’entraînement sur lesquelles le modèle est formé, où elles ressemblent à des milliards de jetons mélangés dans une soupe de centaines de milliards ou de milliards de paramètres.
Mais tout cela est moins clair que le contexte réel que le modèle voit directement pour ce problème ou ce cas d’utilisation particulier. Et puis je pense être capable de comprendre quels outils sont disponibles, lesquels vont aider le modèle à résoudre cette prochaine phase du problème, comment décomposer le problème en une séquence d’appels d’outils, peut-être essayer plusieurs approches pour résoudre le problème et voir lesquelles fonctionnent et être capable de l’évaluer.
C’est toute l’orchestration de systèmes complexes d’agents et multi-agents qui, je pense, va être de plus en plus importante et je dirais que c’est une période super excitante.
Les conseils de Jeff Dean pour une meilleure ingénierie du contexte
Diana Hu a repris là où Dean s’était arrêté sur le sujet de l’ingénierie de contexte et lui a demandé ses conseils sur les choses que les gens peuvent faire pour devenir meilleurs en ingénierie de contexte.
Hu a demandé :
« Et je pense que ce qui est amusant dans cet ensemble de domaines problématiques particuliers, c’est en fait quelque chose que tout le monde dans cette salle peut réellement faire car, avant, pour former un modèle, il fallait une quantité incroyable de ressources, une quantité incroyable d’accès aux GPU et aux données.
Mais pour l’ingénierie du contexte, tout le monde ici pourrait le faire.
Vous avez juste besoin de l’API pour quelque chose comme Gemini, puis travaillez sur votre propre configuration pour votre propre récupération, vos propres appels d’outils, et cetera, et cetera.
Alors, quels sont les conseils pour tout le monde ici ? Comment chacun peut-il s’améliorer et devenir exceptionnel en ingénierie contextuelle ? »
Dean a répondu que l’échec fait partie du cheminement visant à comprendre quels changements doivent être apportés afin d’obtenir les bons résultats dans la résolution de problèmes. Le point intéressant de sa réponse est qu’il a utilisé l’exemple de l’ajustement du modèle pour mieux résoudre les problèmes (ce qui est une entreprise énorme) et a comparé cela à la création de meilleures directives et compétences.
Doyen a expliqué
« Oui, je veux dire, je pense qu’une très bonne façon de le faire est d’utiliser ces modèles et ces types de harnais et d’outils, etc. pour essayer de résoudre les problèmes. Et puis, parfois, vous pouvez réellement voir où les modèles échouent. «
Et souvent, vous pouvez réellement améliorer le fonctionnement du modèle et réussir à résoudre ce genre de problème non seulement en ajustant les paramètres du modèle, ce qui est difficile à faire de l’extérieur, mais en créant de meilleures directives pour le modèle, en écrivant des compétences pour que le modèle sache comment utiliser différents outils qui seraient incroyablement utiles pour résoudre cette classe particulière de problèmes.
Et je pense qu’en faisant cela, vous vous retrouvez dans ce genre d’amélioration, d’auto-amélioration de la configuration que vous essayez d’utiliser pour résoudre les problèmes. Et c’est un très bon moyen de mieux comprendre quelles informations supplémentaires le modèle aurait besoin pour devenir plus performant.
Points à retenir
- Les modèles d’IA deviennent un composant d’un système d’IA plus vaste.
- L’ingénierie contextuelle consiste de plus en plus à orchestrer des outils, des récupérations et des agents d’IA.
- De meilleurs résultats en matière d’IA proviennent souvent de l’amélioration du système autour du modèle plutôt que du modèle lui-même.
- Améliorer les résultats de l’IA signifie souvent apprendre de ses erreurs afin de créer de meilleures lignes directrices et de meilleures compétences.
