L’ancien PDG de Google, Eric Schmidt, a déclaré que la trajectoire de l’IA est à la fois « séduisante » et « effrayante ». Il a souligné que l'IA n'est pas seulement une évolution de la technologie, mais qu'elle contribue à façonner l'avenir de l'humanité. Ses commentaires reflètent la façon dont les plus hauts niveaux de leaders technologiques pensent à l'IA et ont des implications sur la façon dont cela se déroulera pour le référencement.
Les entreprises technologiques ne devraient pas prendre les décisions
Lorsqu'on lui a demandé si les décisions concernant l'avenir de la technologie devaient être laissées à des personnes comme lui, Eric Schmidt a répondu non. Il a cité Henry Kissinger qui, il y a dix ans, avait déclaré que des personnes comme Schmidt ne devraient pas prendre de décisions et a utilisé l'exemple des médias sociaux pour expliquer pourquoi.
« Regardons les médias sociaux. Nous sommes maintenant arrivés à une situation où nous avons ces énormes entreprises dont je faisais partie. Et ils ont tous une énorme implication positive pour le divertissement et la culture, mais ils ont également des implications négatives significatives en termes de tribalisme, de désinformation, de préjudices individuels, en particulier contre les jeunes, et en particulier contre les jeunes femmes.
Aucun de nous n’avait prévu cela. Peut-être que si nous avions eu des personnes non techniques pour faire cela avec nous, nous aurions prévu l'impact sur la société. Je ne veux pas que nous commettions à nouveau cette erreur avec un outil beaucoup plus puissant.
L'IA est à la fois effrayante et séduisante
Eric Schmidt participe activement au développement de la technologie informatique depuis 1975 jusqu'à aujourd'hui. L'admiration qu'il exprime pour le moment où nous nous trouvons actuellement est quelque chose dont tout le monde, à tous les niveaux du marketing de recherche, de la publication, du référencement, de la publicité au commerce électronique, devrait être conscient. Le précipice dans lequel nous nous trouvons actuellement ne doit pas être sous-estimé et, à ce stade, il semble difficilement possible de le surestimer.
Étant donné que Sundar Pichai, l'actuel PDG de Google, a déclaré que la recherche allait profondément changer en 2025 et que Google Gemini 2.0 jouerait un rôle dans la recherche par l'IA, les déclarations de Schmidt sur l'ampleur ahurissante des capacités informatiques devraient être une grande importance pour les spécialistes du marketing de recherche, à la fois dans les capacités attrayantes pour eux et dans les réalités effrayantes de ce que Google fera.
Schmidt a observé :
« Il se passe actuellement deux choses vraiment importantes dans notre industrie. L’une est le développement de ce qu’on appelle les agents, où les agents peuvent faire quelque chose. Vous pouvez donc dire que je veux construire une maison, alors vous trouvez l'architecte, examinez l'utilisation du terrain et achetez les maisons. Tout peut être fait par ordinateur, pas seulement par des humains.
Et puis l’autre chose est la capacité de l’ordinateur à écrire du code. Donc, si je vous dis que je voulais en quelque sorte étudier le public de cette émission et je veux que vous trouviez comment créer une variante de mon émission pour chaque personne qui la regarde. L'ordinateur peut faire ça. C’est dire à quel point les capacités de programmation de l’IA sont puissantes.
Dans mon cas, j'ai dirigé des programmeurs toute ma vie et ils ne font généralement pas ce que je veux. Vous savez, ils font ce qu'ils veulent.
Avec un ordinateur, il fera exactement ce que vous dites. Et les gains en programmation informatique issus des systèmes d’IA sont effrayants, ils sont tous deux alléchants car ils vont changer la pente.
À l’heure actuelle, la pente de l’IA est la suivante… »
Capture d'écran de Schmidt illustrant la pente de l'IA
Il poursuit sa réponse :
« …et quand vous aurez des scientifiques en IA, c'est-à-dire des ordinateurs développant l'IA, la pente ira comme ça… ça ira wham ! Mais cette évolution donne énormément de pouvoir entre les mains d’un très grand nombre de personnes.
Capture d'écran d'Eric Schmidt illustrant la future pente de l'IA
Intégrer la bonté intrinsèque de l’humanité dans l’IA
L’entretien s’est terminé par une question et une réponse autour de la possibilité d’intégrer des valeurs humaines positives et des principes éthiques dans les systèmes d’IA au cours de leur développement.
Certaines personnes se plaignent des garde-fous éthiques placés sur l’IA, affirmant que ces garde-fous sont basés sur des valeurs politiques ou idéologiques, reflétant la tension entre ceux qui se sentent en droit d’avoir la liberté d’utiliser l’IA aux fins qu’ils désirent et ceux qui craignent que cela soit le cas. L’IA peut être utilisée à des fins malveillantes.
Eric Schmidt aborde cette tension en affirmant que les machines peuvent intégrer le meilleur de la bonté humaine.
L'intervieweur a noté que Schmidt, dans son livre, exprimait sa confiance dans le fait que les machines refléteraient « la bonté intrinsèque de l'humanité » et se demandait si l'humanité pouvait vraiment être considérée comme intrinsèquement bonne, en particulier lorsque certaines personnes ne le sont clairement pas.
Schmidt a reconnu qu'il existe un certain pourcentage de personnes qui sont mauvaises. Mais il a également déclaré qu’en général, les gens ont tendance à être bons et que les humains peuvent imposer des règles éthiques aux machines IA.
Il a expliqué :
« La bonne nouvelle est que la grande majorité des humains sur la planète sont bien intentionnés, ce sont des créatures sociales. Ils veulent qu’ils réussissent et ils veulent que leurs voisins et surtout leur tribu réussissent.
Je ne vois aucune raison de penser que nous ne pouvons pas intégrer ces règles dans les ordinateurs.
L’une des entreprises technologiques a commencé à développer son modèle en insérant la Constitution, et la Constitution a été intégrée au modèle de gestion des choses.
Bien sûr, nous pouvons être en désaccord sur ce qu’est la Constitution. Mais ces systèmes sont sous notre contrôle.
Il y a des humains qui prennent des décisions pour les former, et de plus, les systèmes que vous utilisez, que ce soit ChatGPT ou Gemini ou Claude ou autre, ont tous été soigneusement examinés après leur production pour s'assurer qu'ils n'ont pas de problèmes. des aspérités vraiment horribles.
Les humains sont donc directement impliqués dans la création de ces modèles, et ils ont la responsabilité de s’assurer qu’il n’en résulte rien d’horrible.
Cette déclaration semble présumer que ce ne sont pas des gens comme lui qui devraient prendre les décisions, mais qu'elles devraient être prises en consultation avec des personnes extérieures, comme il l'a dit au début de l'entretien. Néanmoins, les décisions sont toujours prises par les entreprises.
Voir aussi : Google propose une approche mondialiste de la réglementation de l'IA
Les gens sont bien intentionnés, mais les entreprises répondent aux bénéfices
La question qui n'a pas été posée est la suivante : à quelques exceptions près (comme l'entreprise de vêtements d'extérieur Patagonia), étant donné que les entreprises ne sont généralement pas motivées par la « bonté humaine » et ne fondent pas leurs décisions sur l'éthique, peut-on leur faire confiance pour imprégner les machines de la bonté humaine ?
Malgré les articles sur les appâts à clics contraires, Google publie toujours sa devise « ne soyez pas méchant » sur sa page Code de conduite, ils l'ont simplement déplacée au bas de la page. Néanmoins, les décisions d'entreprise de Google, y compris en matière de recherche, sont fortement basées sur le profit.
Sur la question de savoir si AI Search supprime les sites Internet d'exploitation minière, Sundar Pichai, l'actuel PDG de Google, a eu du mal à dire ce que Google fait pour préserver l'écosystème Web. C'est le résultat d'un système qui donne la priorité aux profits.
Est-ce un mal, ou est-ce simplement la banalité d’un système d’entreprise qui donne la priorité au profit avant tout le reste, conduisant à des résultats néfastes ? Qu’est-ce que cela dit sur l’avenir de l’IA Search et de l’écosystème Web ?
Capture d'écran de la devise Don't Be Evil dé-priorisée de Google
