Google a commencé à déployer la mise à jour anti-spam de juin, la deuxième de l’année. Il applique des politiques anti-spam documentées, et l’une de ces politiques couvre désormais plus de terrain qu’auparavant.
Les règles anti-spam de Google considèrent les tentatives de « manipulation des réponses génératives de l’IA » dans la recherche comme une violation, et c’est l’une des politiques appliquées par la mise à jour.
Une préimpression de Cornell Tech récupérée par 404 Media explique pourquoi la politique est plus difficile à appliquer que son libellé ne le laisse entendre. Les pages communautaires sur lesquelles s’appuient les agents de recherche en IA peuvent également contenir des commentaires de tiers, et un commentaire peut contenir une recommandation que l’auteur n’a jamais écrite.
Ce que Google qualifie de spam passe donc par la récupération même sur laquelle s’appuient ces agents. Et les recherches révèlent que les défenses évidentes comportent toutes des inconvénients.
Pour tous ceux qui tentent de pousser une marque vers des réponses générées par l’IA, sachez que la frontière entre optimisation et spam est en train de se redessiner.
Les enjeux
Le suivi du mode AI par SE Ranking a révélé que Google pointait de plus en plus vers ses propres propriétés, avec des auto-citations représentant environ un cinquième des citations du mode AI dans son dernier rapport.
Avec plus de citations pointant vers Google et moins vers des sites Web externes, l’attrait pour en fabriquer un augmente en conséquence.
Un marché gris a déjà commencé à se former, et les auteurs de Cornell soulignent que les spécialistes du marketing sont en train de tester des moyens de pousser les réponses générées par l’IA.
Pendant ce temps, les entreprises ne disposent pas des données dont elles ont besoin pour voir ce qui se passe. Comme nous l’avons expliqué précédemment dans notre article sur la recherche agent, aucun tableau de bord n’indique à un site s’il a atterri dans une réponse de l’IA, s’il a été cité dans un rapport généré ou s’il a été ignoré.
Le résultat est une violation que Google peut nommer, mais que le site impliqué ne peut souvent pas voir.
Ce que la recherche a trouvé
L’article, intitulé « Les agents de recherche approfondie peuvent être empoisonnés via le contenu généré par l’utilisateur », qui n’a pas été évalué par des pairs, sonde un point faible dans la manière dont les outils de recherche sur l’IA collectent leurs sources. Ces outils répondent à une question en lançant un lot de sous-requêtes associées, en récupérant les pages qui reviennent sans cesse et en assemblant un rapport avec des citations.
L’analyse a révélé que les mêmes pages de communauté apparaissaient à plusieurs reprises dans ces sous-requêtes. Au sein d’un seul groupe de sujets, une page générée par l’utilisateur est apparue dans jusqu’à 48 % des requêtes, et les plates-formes générées par l’utilisateur représentaient 17 à 23 % de chaque URL récupérée. Modifiez l’une de ces pages récurrentes et le changement peut se répercuter sur les rapports sur un sujet entier.
Les auteurs ont constaté qu’environ 13 mots de texte insérés sur une page récurrente suffisaient pour insérer l’entité choisie par un attaquant dans le rapport final dans 38 à 51 % des sessions de récupération de la page.
Dispersez le même texte sur une poignée de pages et le chiffre grimpe de 42 à 62 %. Même enfoui dans une pleine page, où il représentait moins de 4 % de ce que l’agent lisait, le texte planté apparaissait toujours dans 30 à 53 % des sessions.
Trois agents de recherche open source ont passé les tests, STORM, Co-STORM et OmniThink, tous exécutés dans une simulation afin que rien sur le Web en direct ne soit touché.
Là où l’application est difficile
Google peut qualifier la manipulation des réponses de l’IA de spam et agir en fonction de ce qu’elle détecte. L’attraper est la partie la plus difficile. Le texte planté se lit comme de vrais conseils, et il se trouve sur les mêmes pages que les outils allaient toujours lire, donc le distinguer d’un message normal est le principal problème.
L’équipe de recherche a cherché une défense contre le texte planté, mais n’en a pas trouvé. Ils ont essayé de supprimer les sources générées par les utilisateurs, de les filtrer avec un modèle de langage avant utilisation et de rechercher dans le rapport final les affirmations qui ne tenaient pas la route.
Aucun des trois n’a arrêté l’attaque sans aggraver les résultats pour l’utilisateur. Supprimez les sources générées par les utilisateurs et vous perdez les détails de la communauté qui valent la peine d’être utilisés par les outils de recherche d’IA.
Les outils que la plupart des gens utilisent ne relèvent pas de ce test. ChatGPT Deep Research et Gemini Deep Research effectuent des recherches que les chercheurs ne pouvaient pas empoisonner sans franchir une ligne éthique, ils ont donc uniquement mesuré les habitudes de citation. Gemini s’est appuyé sur le contenu généré par les utilisateurs 12,1 % du temps, ce que les auteurs appellent un soupçon d’exposition et non un résultat testé. L’outil d’OpenAI l’a beaucoup moins atteint.
Pourquoi c’est important pour les professionnels de la recherche
Les mesures qui peuvent aider une marque à accéder aux réponses de l’IA sont similaires aux tactiques de manipulation que Google appelle « spam », telles que l’insertion de mentions sur les sites lus par ces outils. Nous ne savons pas où se situe la frontière de Google entre l’obtention d’une mention et celle d’ingénierie.
Pour le e-commerce et les marques locales, le danger vient de l’autre côté.
Les cas de test étaient des questions ordinaires que les gens demandent, comme quel service appeler, quel produit acheter et où manger. Un rival ou un escroc peut glisser un nom inconnu dans ces réponses, juste à côté des options légitimes, et la marque exclue ne le saura jamais.
Pour les éditeurs de presse et les grandes marques, le souci est de faire confiance à la réponse à laquelle leur nom correspond. Une citation provenant d’un outil d’IA est considérée comme une victoire, mais une citation ne reflète que ce que l’outil a extrait, pas si cette page était correcte, et la réponse peut être orientée par le contenu que la marque n’a jamais écrit.
Il n’y a pas de solution miracle à tout cela. La visibilité de l’IA est devenue une surface que vous surveillez activement, et non seulement un canal pour lequel vous optimisez passivement.
Regarder vers l’avenir
Les auteurs ont qualifié la manipulation générée par l’utilisateur de problème ouvert qu’aucune plate-forme ne peut résoudre à elle seule. Reddit a signalé sa lutte de longue date contre la manipulation coordonnée, et Google a ajouté des étiquettes de contexte à certains documents provenant de Reddit dans les aperçus de l’IA. Ni l’un ni l’autre ne touche à la concentration de récupération évoquée par l’article.
Google n’a pas indiqué comment il entend appliquer la manipulation de l’IA générative, que ce soit via une mise à jour dédiée ou via son système SpamBrain et des examens manuels sur lesquels il s’appuie pour la plupart des violations.
Pour l’instant, la politique considère ce comportement comme interdit, et l’examen des réponses de l’IA appartient toujours à celui qui les lit.
Plus de ressources :
