Pourquoi Google peut adopter un codage d'ambiance pour les algorithmes de recherche

Une nouvelle tendance dans la Silicon Valley, codage d'ambiance, entraîne une accélération exponentielle dans la rapidité avec laquelle les ingénieurs peuvent développer des produits et des algorithmes. Cette approche s'aligne sur les principes décrits par le co-fondateur de Google, Sergey Brin, dans un récent e-mail à DeepMind Engineers.

Les meilleurs initiés de la Silicon Valley appellent l'ambiance codant la «voie dominante vers le code», et le message de Brin suggère que Google l'adoptera pour accélérer considérablement le développement de l'IA. Compte tenu de son potentiel, cette approche peut également s'étendre aux algorithmes de recherche de Google, entraînant davantage de modifications dans la façon dont les résultats de recherche sont classés.

Le codage de l'ambiance est là pour rester

Les Four Y Combinators dirigeaient que le codage d'ambiance est un gros problème, mais a été surpris de la vitesse à laquelle il a dépassé l'industrie. Jarede Friedman a observé que c'était comme quelque chose de la Jack de Fairy Tale et du haricot, où les haricots magiques changeants du monde poussent en gigantesques haricots pendant la nuit.

Garry Tan a accepté, en disant:

«Je pense que notre sens en ce moment est que ce n'est pas une mode. Cela ne disparaît pas. C'est en fait le moyen dominant de coder, et si vous ne le faites pas, vous pourriez être laissé pour compte. C'est là pour rester.

Qu'est-ce que le codage d'ambiance?

Le codage de l'ambiance est l'ingénierie logicielle avec l'IA:

  • Les ingénieurs logiciels utilisent l'IA pour générer du code plutôt que de l'écrire manuellement.
  • Comptez sur les invites en langage naturel pour guider le développement logiciel.
  • Prioriser la vitesse et l'itération.
  • Le temps n'est pas consacré au débogage car le code est simplement régénéré jusqu'à ce qu'il fonctionne.
  • VIBE CODING SHIFTS L'ingénierie logicielle se concentre de l'écriture de code au choix des types de problèmes à résoudre.
  • Tirez parti de l'IA pour une régénération rapide du code au lieu du débogage traditionnel.
  • Il accélère exponentiellement le codage.

Le codage de l'ambiance est un moyen de créer du code avec l'IA en mettant l'accent sur la vitesse. Cela signifie qu'il est de moins en moins nécessaire de déboguer le code, car un ingénieur peut simplement relancer les générations de code plusieurs fois jusqu'à ce que l'IA se soit bien fait.

Un récent tweet d'Andrej Karpathy a lancé une vague d'excitation dans la Silicon Valley. Karpathy, un éminent chercheur d'IA et ancien directeur de l'IA à Tesla, a décrit ce qu'est le codage d'ambiance et a expliqué pourquoi c'est le moyen le plus rapide de coder avec l'IA. C'est tellement fiable qu'il ne vérifie même pas les modifications apportées par l'IA (appelées «diffs»).

Karpathy a tweeté:

«Il y a un nouveau type de codage que j'appelle« codage d'ambiance », où vous cédez pleinement aux vibrations, embrasse les exponentielles et oubliez que le code existe même. C'est possible car les LLM (par exemple, compositeur de curseur, W Sonnet) deviennent trop bons.

De plus, je parle juste au compositeur avec super-whisper, donc je touche à peine le clavier. Je demande les choses les plus stupides comme «diminuer le rembourrage sur la barre latérale de moitié» parce que je suis trop paresseux pour le trouver. J'accepte toujours tout, je ne lis plus les diffs.

Lorsque j'obtiens des messages d'erreur, je copie simplement les coller sans commentaire, généralement cela le corrige. Le code va au-delà de ma compréhension habituelle, je devrais vraiment le lire pendant un certain temps.

Parfois, les LLM ne peuvent pas corriger un bogue, donc je travaille autour de lui ou demande des modifications aléatoires jusqu'à ce qu'elle disparaisse. Ce n'est pas trop mal pour les projets de week-end jelis, mais toujours assez amusants.

Je construis un projet ou un webapp, mais ce n'est pas vraiment le codage – je vois juste des trucs, je dis, des trucs d'exécution et des trucs de coller, et cela fonctionne surtout. « 

Sergey Brin met l'accent sur les principes de codage de l'ambiance

Un récent e-mail du co-fondateur de Google, Sergey Brin à DeepMind, a souligné la nécessité d'intégrer l'IA dans leur flux de travail pour réduire le temps consacré au codage. L'e-mail indique que le code importe le plus et que l'IA s'améliorera, conseillant que s'il est plus simple d'inviter une IA pour une solution, cela est préférable à la formation d'un modèle entièrement nouveau. Brin décrit cela comme très important pour devenir des codeurs efficaces. Ces principes s'alignent sur le codage d'ambiance, ce qui priorise la vitesse, la simplicité et le développement axé sur l'IA.

BRIN recommande également d'utiliser le code préalable (code développé par Google) au lieu de s'appuyer sur des logiciels open-source ou tiers. Cela suggère fortement que Google a l'intention de conserver ses progrès de l'IA plutôt que de l'ouverture. Cela peut signifier que toute progression créée par Google ne sera pas open source et peut ne pas apparaître dans les documents de recherche, mais peut être découverte par le biais de dépôts de brevets.

Le message de Brin dépasse l'utilisation de LORA, une technique d'apprentissage automatique utilisée pour affiner les modèles AI efficacement. Cela implique qu'il souhaite que les ingénieurs DeepMind hiérartissent des flux de travail efficaces plutôt que de passer un temps excessif à régler des modèles. Cela suggère également que Google se concentre sur des approches plus simples et plus évolutives comme le codage d'ambiance qui reposait sur l'ingénierie rapide.

Sergey Brin a écrit:

«Le code compte le plus – AGI se produira avec le décollage, lorsque l'AL s'améliorera. Initialement, ce sera probablement avec beaucoup d'aide humaine, donc le plus important est la performance de notre code. De plus, cela doit fonctionner sur notre propre code 1p. Nous devons être le codeur le plus efficace et les scientifiques du monde en utilisant notre propre Al.

Simplicité – Permet d'utiliser des solutions simples où nous pouvons. Par exemple, si l'incitation fonctionne, faites-le, ne prenez pas un modèle séparé. Pas de complexités techniques inutiles (comme Lora). Idéalement, nous aurons vraiment une recette et un modèle qui peuvent simplement être invitées à différentes utilisations.

Vitesse – Nous avons besoin de nos produits, modèles, outils internes pour être rapides. Je ne peux pas attendre 20 minutes pour fonctionner un peu de Python sur Borg. « 

Ce sont tous des principes de codage d'ambiance, il est donc important de comprendre ce que c'est et comment cela peut affecter la façon dont Google développe les algorithmes et l'IA.

Ingénieurs logiciels en transition vers les ingénieurs de produits

Un podcast récent de Y Combinator, une société d'accélérateur de démarrage de la Silicon Valley, a expliqué comment le codage d'ambiance modifie ce que signifie être un ingénieur logiciel et comment cela affectera les pratiques d'embauche.

Les hôtes du podcast ont cité plusieurs personnes:

Leo Paz, fondateur de Outlit a observé:

«Je pense que le rôle de l'ingénieur logiciel passera à l'ingénieur produit. Le goût humain est désormais plus important que jamais car les outils de codegen font de tout le monde un ingénieur 10x. »

Abhi Aiyer de Mastra a expliqué comment leurs pratiques de codage ont changé:

«Je n'écris pas beaucoup de code. Je pense et je révise.

L'un des hôtes du podcast, Jarede Friedman, associé directeur, Y Combinator, a déclaré:

«Il s'agit d'un fondateur super technique dont la dernière entreprise était également un outil de développement. Il est extrêmement capable de coder et c'est donc fascinant d'avoir des gens comme ça en disant des choses comme ça.

Ils ont ensuite cité Abhi Balijepalli de Copycat:

«Je suis beaucoup moins attaché à mon code maintenant, donc mes décisions sur la question de savoir si nous décidons de supprimer ou de refactor le code sont moins biaisés. Comme je peux coder 3 fois plus vite, il m'est facile de supprimer et de réécrire si j'en ai besoin. »

Garry Tan, président et chef de la direction, Y Combinator, a commenté:

« Je suppose que la chose vraiment cool à propos de ce truc est qu'elle est vraiment bien parallélise. »

Il a cité Yoav Tamir de Casixty:

«J'écris tout avec le curseur. Parfois, j'ai même deux fenêtres de curseur ouvertes en parallèle et je les invite à deux fonctionnalités différentes. »

Tan a commenté le sens que cela a et pourquoi ne pas avoir trois instances de curseur ouvertes afin d'accomplir encore plus.

Les panélistes du podcast ont ensuite cité Jackson Stokes de Trainloop qui explique l'échelle exponentielle de la vitesse à laquelle le codage est devenu:

«Comment le codage a changé il y a six à un mois: 10x accélération. Il y a un mois à maintenant: 100x accélération. Accélération exponentielle. Je ne suis plus ingénieur, je suis un produit.

Garry Tan a commenté:

«Je pense que cela pourrait être quelque chose qui se passe largement. Vous savez, cela finit vraiment par être deux rôles différents dont vous avez besoin. Il correspond en fait à la façon dont les ingénieurs se sont en quelque sorte attribués aujourd'hui, en ce que vous êtes frontal ou backend. Et puis le backend finit par être en réalité des infrastructures, et puis front-end est tellement plus en réalité un PM (chef de produit)… »

Harj Taggar, associé directeur, Y Combinator, a observé que les LLM vont pousser les gens au rôle de choix, que l'écriture réelle du code deviendra moins importante.

Pourquoi le débogage avec l'IA n'est pas nécessaire

Une ride intéressante dans le viblage du code est que l'une des façons dont le développement accélère est que les ingénieurs logiciels n'ont plus à passer de longues heures à déboguer. En fait, ils n'ont plus à déboguer. Cela signifie qu'ils sont capables de pousser le code par la porte plus rapidement que jamais.

Tan a commenté à quel point l'IA est mauvaise à déboguer:

«… Une chose que le sondage a indiqué est que ce genre de choses est terrible dans le débogage. Et donc… les humains doivent encore faire le débogage. Ils doivent bien comprendre, que fait réellement le code?

Il ne semble pas y avoir de moyen de le dire, de déboguer. Vous disiez que vous devez être très explicite, comme si vous donniez des instructions à un ingénieur logiciel pour la première fois. »

Jarede a offert son observation sur la capacité de l'IA à déboguer:

«Je dois vraiment la cuillère à la cuillère les instructions pour le faire déboguer. Ou vous pouvez en quelque sorte embrasser les vibrations. Je dirais que le style Andrej Karpathy, en quelque sorte, relâchez, tout comme dites-le de réessayer à partir de zéro.

Il est sauvage de la façon dont votre style de codage change lorsque l'écriture du code devient un 1000x moins cher. Comme, en tant qu'humain, vous n'aimeriez jamais simplement souffler quelque chose sur lequel vous avez travaillé pendant très longtemps et vous réécrire à partir de zéro parce que vous aviez un bug. Vous corrigeriez toujours le bug. Mais pour le LLM, si vous pouvez simplement réécrire mille lignes de code en seulement six secondes, comme pourquoi pas? « 

Tan a observé que c'est comme la façon dont les gens utilisent des générateurs d'images d'IA où s'il y a quelque chose qu'ils n'aiment pas, ils réitérent sans même changer l'invite, ils cliquent simplement sur Re-Roll cinq fois, puis à la cinquième fois cela fonctionne.

Codage d'ambiance et algorithmes de recherche de Google

Bien que l'e-mail de Sergey Brin ne mentionne pas explicitement les algorithmes de recherche, il préconise un développement basé sur l'IA et une grande vitesse à grande vitesse. Étant donné que le codage des ambiances est désormais le moyen dominant de coder, il est probable que Google adoptera cette méthodologie à travers ses projets, y compris le développement de futurs algorithmes de recherche.

Regardez la table ronde vidéo Y Combinator

Le codage de l'ambiance est l'avenir

https://www.youtube.com/watch?v=ichfkmzmr8