Le fondateur de Google revient officiellement pour rejoindre la bataille du LLM ! Instruisant Gemini R&D, la mêlée avec OpenAI et Meta est sur le point d'éclater

Source de l’article : Xinzhiyuan

Aujourd’hui, la Silicon Valley a de nouveau mis en scène un drame bouleversant. Sergey Brin est retourné dans les tranchées de Google, non seulement en guidant personnellement la recherche et le développement de Gemini, mais en ordonnant également à l’entreprise de déterrer les gens. Comment les fondateurs et les vétérans vont-ils attiser la situation de la guerre de l’IA ?

Le co-fondateur de Google, démissionnaire depuis quatre ans, est enfin de retour !

Selon le Wall Street Journal, Sergey Brin est retourné au travail pour aider les chercheurs en IA de Google à construire le puissant système Gemini.

Co-fondateur, de retour sur le champ de bataille des grands modèles

Ces derniers mois, le milliardaire Sergey Brin s’est rendu dans les bureaux de Google à Mountain View, en Californie, trois à quatre jours par semaine pour travailler avec des chercheurs travaillant sur le prochain grand système d’IA de Google.

En 2019, après que Sergey Brin ait démissionné de la société mère de Google, Alphabet, il a presque entièrement délégué le pouvoir et s’est rarement ingéré dans les affaires de l’entreprise.

Mais depuis la fin de l’année dernière, il a commencé à participer à plusieurs reprises aux conférences de Google sur l’IA, et la fréquence est devenue nettement plus élevée.

Selon des rapports, concernant le modèle d’IA tant attendu de Google, Gemini, il travaille en étroite collaboration avec des chercheurs pour étudier des questions telles que la “courbe de perte” des programmes d’IA.

Des personnes proches du dossier ont déclaré que Sergey Brin était même intervenu dans des problèmes de personnel, se souciant de la guerre des talents et exhortant Google à embaucher les meilleurs chercheurs.

Après la conférence des développeurs, le cours de l’action a grimpé jusqu’au bout

Bien que Google ait réalisé de nombreuses technologies d’IA pionnières, il est plus lent à se transformer en nouveaux produits que ses concurrents.

La concurrence dans la recherche sur l’IA s’intensifie et le récent lancement de Llama 2 par Meta est encore plus impressionnant.

Google prévoit de créer un programme d’IA à usage général Gemini, qui serait capable de combattre le GPT-4.

Demis Hassabis, le dirigeant de Google en charge du projet Gemini, a déclaré aux employés lors d’une récente réunion à l’échelle de l’entreprise que Gemini serait lancé plus tard cette année.

En 1998, Sergey Brin et Larry Page, encore doctorants à l’Université de Stanford, étudiaient la recherche sur le Web et, sur la base de cette recherche, ils ont fondé Google ensemble.

Les deux travaillent ensemble depuis leurs études de doctorat à l’Université de Stanford

Il est le deuxième actionnaire individuel d’Alphabet, la société mère de Google, après Larry Page, avec une participation d’une valeur de près de 90 milliards de dollars, selon S&P Capital IQ.

Depuis sa démission, Sergey Brin a concentré son attention sur les biens publics (comme les nouvelles formes de secours en cas de catastrophe) et les dirigeables.

Les actions de la société mère Alphabet ont augmenté de plus de 10% depuis que Google a annoncé une multitude de produits infusés d’IA lors de sa conférence des développeurs en mai, comme une nouvelle version de son moteur de recherche.

Cette hausse du cours de l’action est conforme au cours de l’action de l’ancien rival Microsoft et à l’indice composite Nasdaq.

Après que Sergey Brin et Larry Page aient quitté leur emploi pour promouvoir Pichai au poste de PDG de Google il y a quatre ans, ils lui ont parlé régulièrement, lui offrant des conseils et des encouragements, mais ne le harcelant pas tous les jours.

Bien sûr, ils contrôlent toujours la majorité des droits de vote de Google et siègent au comité exécutif avec Pichai.

On dit que Pichai était très excité par le retour de Sergey Brin et l’a encouragé à contribuer davantage.

Google Brain et DeepMind combinés

Dès 2011, Google Brain a été créé pour étudier comment utiliser l’apprentissage en profondeur pour créer des programmes d’IA largement applicables.

Cette année, Pichai a décidé de fusionner Google Brain et DeepMind.Après la fusion, le PDG de DeepMind Hassabis est devenu le PDG du nouveau groupe Google DeepMind.

De nombreux dirigeants de Hassabis et de Google DeepMind sont basés à Londres, faisant du bureau de Londres le centre de pouvoir de facto de la nouvelle agence.

Désormais, le retour de Sergey Brin peut être considéré comme une intervention bénéfique dans la période de transition de l’équipe IA de Google.

De nombreux employés de Google ont déclaré que les chercheurs ont salué la participation de Sergey Brin comme une reconnaissance de leur travail.

Gemini pourrait devenir le plus puissant adversaire du GPT-4

Auparavant, Hassabis avait annoncé aux médias que Gemini avait fusionné AlphaGo et le grand modèle de type GPT-4 Gemini, qui sortira dans quelques mois.

L’un est un système d’IA qui utilise l’apprentissage par renforcement pour vaincre les champions humains de Go et créer l’histoire, et l’autre est le grand modèle multimodal le plus puissant qui domine actuellement presque toutes les listes de modèles à grande échelle. Google veut combiner ces deux IA.

Pour cela, Google DeepMind est prêt à dépenser des dizaines de millions de dollars, voire des centaines de millions.

Après avoir fusionné AlphaGo avec les capacités linguistiques de grands modèles tels que GPT-4, les capacités de résolution de problèmes et de planification du système Gemini seront considérablement améliorées.

Et puisque Gemini intègre AlphaGO, qui utilise l’apprentissage par renforcement et la recherche arborescente, il y aura de nombreuses mises à jour.

Par exemple, l’apprentissage par renforcement permet à l’IA de résoudre des énigmes difficiles en apprenant à partir d’essais et de commentaires répétés ; les méthodes de recherche arborescente aident à explorer et à mémoriser les mouvements possibles dans une scène, comme dans une scène de jeu.

En 2017, AlphaGo Zero a rapidement dépassé AlphaGo sans utiliser de données humaines

De plus, d’autres domaines technologiques (tels que la robotique et les neurosciences) seront également intégrés à Gemini.

Hassabis a déclaré : « On peut dire que Gemini combine certains des avantages du système AlphaGo avec les incroyables capacités linguistiques du grand modèle linguistique. Et nous avons d’autres innovations intéressantes.

Gemini aurait des capacités multimodales introuvables dans les modèles précédents et est très efficace pour intégrer des outils et des API.

De plus, Gemini sera disponible dans une variété de tailles, conçues pour prendre en charge les futures innovations en matière de mémoire et de planification.

En mars, il a été dit que Gemini aurait un billion de paramètres comme GPT-4. De plus, on dit que Gemini utilisera des dizaines de milliers de puces Google TPU AI pour la formation.

Lors de la conférence Google Developers I/O le mois dernier, Google a mentionné que dès le début, l’objectif de Gemini était des outils d’intégration et des API multimodaux et efficaces.

À l’époque, l’annonce de Google était la suivante : “Bien qu’il soit encore tôt, nous avons déjà vu dans Gemini une capacité multimodale qui n’a jamais été vue dans les modèles précédents, ce qui est très impressionnant.”

Par exemple, des gros bonnets de l’IA comme LeCun ont déclaré que Transformer limite trop la capacité du modèle de langage à la portée du texte.

Comme les humains et les animaux, apprendre de l’expérience physique du monde peut être la meilleure solution pour développer l’intelligence artificielle.

Peut-être qu’en Gémeaux, l’intelligence artificielle montrera un potentiel dans d’autres directions.

De toute évidence, Gemini est la dernière position de Google.

Les références: