Google a annoncé un nouveau cadre de diffusion de requêtes qui est plus rapide, moins coûteux en calcul et offre des diffusions de meilleure qualité. Le nouveau système est censé offrir une recherche « prête pour la production » à grande échelle.
Le nouveau système, appelé Retrieve-for-Train-Diffusion (R4T Diffusion Model), est une configuration en trois étapes qui combine la formation par apprentissage par renforcement (RL), la génération de données synthétiques et un petit réseau neuronal génératif (un modèle de diffusion de 53,9 millions de paramètres).
Ce qu’ils ont fait, c’est former un modèle sur ce à quoi ressemble le comportement de diffusion des requêtes coûteux en termes de calcul, enregistrer des exemples de sorties de diffusion de requêtes de haute qualité, puis former un modèle nettement plus petit pour copier le comportement du modèle plus grand.
Pourquoi les diffusions de requêtes R4T sont meilleures
R4T génère de meilleures diffusions de requêtes car il est formé pour identifier les aspects utiles de la requête de recherche d’origine. Il maintient les diffusions pertinentes pour cette requête, mais avec diversité dans le sens où il évite de générer des synonymes redondants.
Les chercheurs expliquent que la pondération du modèle lors de l’entraînement l’optimise :
« Pour nos tâches ouvertes de récupération de résumés, cette récompense composite est un équilibre pondéré de trois piliers concurrents :
- Ancrage : pénalise la distance par rapport au collecteur de base de données, garantissant que chaque sous-requête générée correspond à un élément réel et récupérable dans la base de données.
- Diversité : mesurée à l’aide du score Vendi sur l’ensemble des sous-requêtes, obligeant le modèle à explorer une large étendue sémantique.
- Alignement : ancre les sous-requêtes candidates à l’invite générale d’origine pour éviter la dérive sémantique.
Distillation de modèles plus grands
Les chercheurs de Google ont utilisé une approche appelée distillation. La distillation des connaissances sur les réseaux neuronaux, une idée phare que l’ancien Googleur Jeff Dean a aidé à lancer en 2015, est le transfert du comportement d’un grand modèle vers un modèle nettement plus petit. Cela se fait en entraînant un modèle plus petit sur les résultats d’un modèle plus grand, donnant au modèle plus petit la capacité d’accomplir pratiquement tout ce que le modèle plus grand peut faire, mais à un coût de calcul nettement inférieur.
« Brisé avec succès le goulot d’étranglement de la latence »
Le billet de blog consacré à ce nouveau modèle de répartition des requêtes indique qu’il s’agit d’une amélioration considérable par rapport aux méthodes précédentes, décrivant qu’il a « éliminé le goulot d’étranglement de la latence ». Dans ce contexte, la latence fait référence au temps nécessaire pour récupérer les diffusions de requêtes. Le résultat est qu’ils sont capables d’obtenir des requêtes de haute qualité plus rapidement et à un coût de calcul inférieur.
L’annonce de Google vante :
« En distillant ce comportement appris dans le modèle de diffusion Retrieve-for-Train à 53,9 millions de paramètres, nous avons réussi à éliminer le goulot d’étranglement de la latence. Étant donné que le modèle de diffusion génère toutes les directions cibles simultanément en un seul passage parallèle non autorégressif dans un espace d’intégration continu, il offre une accélération massive de 12 à 20 par rapport aux approches autorégressives. «
À grande échelle, alors que la latence de diffusion autorégressive s’étend linéairement jusqu’à près de 50 secondes dans de grands lots de contexte, la récupération pour la diffusion du train reste entre moins d’une seconde et quelques secondes, offrant une recherche de niveau expert prête pour la production à une fraction du coût de calcul.
Le framework R4T est évolutif pour une utilisation réelle
Le document de recherche lui-même explique également que cette nouvelle façon de produire des diffusions de requêtes est pratique, évolutive et pertinente pour les « applications du monde réel ». Et pas seulement pour la diffusion de requêtes et la recherche, R4T peut également être utilisé pour les systèmes de recommandation, comme Google Discover ou les recommandations sur YouTube.
Le document de recherche explique :
« D’un point de vue systémique, R4T fournit une voie pratique pour déployer des modèles de récupération qui optimisent les propriétés d’ordre supérieur telles que la diversité, la couverture et la complémentarité tout en maintenant une faible latence d’inférence. Ceci est particulièrement pertinent pour les applications du monde réel où la récupération par répartition est souhaitable mais où la génération autorégressive est d’un coût prohibitif, y compris les systèmes de recommandation, la recherche créative et l’accès exploratoire aux informations. «
En séparant la découverte basée sur les récompenses du déploiement par temps d’inférence, notre cadre prend en charge une récupération évolutive et personnalisable sans optimisation en ligne répétée.
Peut être utilisé au-delà de la recherche
Enfin, les chercheurs affirment que même si ce nouveau cadre est idéal pour la diffusion de requêtes, il peut également être appliqué au-delà de la « récupération » (qui est la recherche). Ils expliquent qu’il peut être utilisé pour des tâches telles que la planification et la « génération créative ».
Ils écrivent :
« L’idée d’utiliser RL pour synthétiser des données de formation alignées sur des objectifs peut s’étendre au-delà de la récupération à d’autres tâches de génération structurées où la vérité terrain est ambiguë ou subjective, comme la planification, la conception et la génération créative. Nous espérons que cela encouragera une exploration plus approfondie des approches compilées qui combinent l’apprentissage interactif avec des modèles génératifs efficaces. «
Google a-t-il déployé R4T-Diffusion ?
Ce qui ressort du billet de blog sur R4T-Diffusion, c’est qu’ils disent qu’il fournit des diffusions de requêtes « prêtes pour la production », ce qui signifie qu’il est prêt à agir dans un environnement exigeant et à grande échelle comme la recherche par IA. Le fait qu’ils aient publié un article de blog à ce sujet en plus du document de recherche montre également à quel point ce nouveau cadre est « prêt pour la production ».
Il y a eu récemment des publications sur les réseaux sociaux dans lesquelles des personnes ont remarqué une augmentation du trafic et d’autres affirment qu’il y a plus de liens affichés en mode IA. D’autres ont remarqué ce qui semble être une mise à jour inopinée de Google. Cela pourrait-il être une preuve que Google a mis à jour son système de répartition des requêtes ?
Les chercheurs ont ajouté à leur document de recherche des mises en garde qui sont absentes du billet de blog. Les chercheurs écrivent en conclusion de l’article que le cadre a bien fonctionné dans des contextes tels que la mode et la musique, mais ils ont exprimé leur inquiétude quant au fait que R4T pourrait amplifier les préjugés dans des contextes sensibles et ont exprimé leur opinion selon laquelle le déploiement dans ces contextes devrait être effectué avec soin et avec des audits.
Ils expliquent :
« Un déploiement responsable nécessite des audits biaisés spécifiques au domaine, des pratiques de conception inclusives et des mécanismes de surveillance appropriés. Nous considérons R4T comme un outil de conception de récupération contrôlée qui doit être accompagné de garanties plutôt que de se substituer au jugement humain et à la surveillance éthique. »
Le document de recherche a été publié en mars, il y a six mois. Le billet de blog de Google à ce sujet a été publié la semaine dernière, le 15 septembre. Cela a donné à Google le temps de déterminer s’il doit le déployer dans des contextes sensibles ou le réserver à des requêtes de recherche non sensibles ou mettre en place des moyens de mettre des garde-fous.
Il est curieux qu’ils aient attendu six mois pour bloguer à ce sujet afin de pouvoir en déduire qu’il est annoncé à ce moment-là car il a été déployé. Mais nous ne le savons pas avec certitude.
