Le laboratoire Sakana de Tokyo, fondé par d'anciens chercheurs de Google, publie des modèles d'IA en code source libre

information fournie par Reuters •21/03/2024 à 07:35

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Anna Tong

Sakana AI, une startup d'intelligence artificielle basée à Tokyo et fondée par deux anciens chercheurs éminents de Google GOOGL.O , a publié mercredi des modèles d'intelligence artificielle qui, selon elle, ont été construits à l'aide d'une nouvelle méthode inspirée de l'évolution, qui s'apparente à la reproduction et à la sélection naturelle.

Sakana AI a utilisé une technique appelée "fusion de modèles", qui combine des modèles d'IA existants pour produire un nouveau modèle, en l'associant à une approche inspirée de l'évolution, ce qui a conduit à la création de centaines de générations de modèles.

Les modèles les plus performants de chaque génération ont ensuite été identifiés, devenant ainsi les "parents" de la génération suivante.

L'entreprise publie les trois modèles de langue japonaise et deux sont en libre accès, a déclaré David Ha, fondateur de Sakana AI, à Reuters lors d'un entretien en ligne depuis Tokyo.

Les fondateurs de l'entreprise sont d'anciens chercheurs de Google, David Ha et Llion Jones.

Jones est l'un des auteurs du document de recherche de Google de 2017 "Attention Is All You Need", qui a introduit l'architecture d'apprentissage profond "transformateur" qui a formé la base du chatbot viral ChatGPT, conduisant à la course au développement de produits alimentés par l'IA générative.

Ha était auparavant directeur de la recherche chez Stability AI et chercheur chez Google Brain.

Tous les auteurs de l'article révolutionnaire de Google ont depuis quitté l'organisation.

Les investisseurs en capital-risque ont injecté des millions de dollars dans leurs nouvelles entreprises, telles que la startup Character.AI, spécialisée dans les chatbots et dirigée par Noam Shazeer, et la startup Cohere, fondée par Aidan Gomez et spécialisée dans les grands modèles de langage. Sakana AI cherche à faire de la capitale japonaise une plaque tournante de l'IA, comme OpenAI l'a fait pour San Francisco et comme la société DeepMind l'a fait pour Londres. En janvier, Sakana AI a déclaré à l'adresse qu'elle avait levé 30 millions de dollars dans le cadre d'un financement d'amorçage dirigé par Lux Capital.