Les IA dotées d'un pouvoir de raisonnement seront moins prévisibles, selon Ilya Sutskever

information fournie par Reuters •14/12/2024 à 04:28

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Jeffrey Dastin

L'ancien scientifique en chef d'OpenAI, Ilya Sutskever, l'un des plus grands noms de l'intelligence artificielle, avait une prédiction à faire vendredi: les capacités de raisonnement rendront la technologie beaucoup moins prévisible.

En acceptant le prix "Test Of Time" pour son article de 2014 avec Oriol Vinyals et Quoc Le de Google GOOGL.O , M. Sutskever a déclaré qu'un changement majeur se profilait à l'horizon de l'intelligence artificielle.

L'idée que son équipe a explorée il y a dix ans, selon laquelle l'augmentation des données pour "pré-entraîner" les systèmes d'IA leur permettrait d'atteindre de nouveaux sommets, commence à atteindre ses limites, a-t-il déclaré. L'augmentation des données et de la puissance de calcul a permis de créer le ChatGPT, lancé par l'OpenAI en 2022 et acclamé par le monde entier.

"Mais le pré-entraînement tel que nous le connaissons va incontestablement disparaître", a déclaré M. Sutskever devant des milliers de participants à la conférence NeurIPS à Vancouver. "Alors que les calculs augmentent, les données n'augmentent pas, car nous n'avons qu'un seul Internet

M. Sutskever a proposé quelques pistes pour repousser les frontières malgré ce problème. Selon lui, la technologie elle-même pourrait générer de nouvelles données, ou les modèles d'IA pourraient évaluer plusieurs réponses avant de choisir la meilleure réponse pour un utilisateur, afin d'améliorer la précision. D'autres scientifiques se sont intéressés aux données du monde réel.

Mais son intervention s'est terminée par une prédiction d'un avenir de machines superintelligentes qu'il a dit attendre "manifestement", un point sur lequel certains ne sont pas d'accord. Cette année, M. Sutskever a cofondé la société Safe Superintelligence Inc. à la suite du rôle qu'il a joué dans l'éviction éphémère de Sam Altman de l'OpenAI, qu'il a déclaré regretter quelques jours plus tard.

Selon lui, les agents d'intelligence artificielle, qui travaillent depuis longtemps, verront le jour dans cette ère future, auront une compréhension plus profonde et seront conscients d'eux-mêmes. Selon lui, l'IA raisonnera sur les problèmes comme le font les humains.

Mais il y a un hic.

"Plus elle raisonne, plus elle devient imprévisible.

Le fait de raisonner à partir de millions d'options pourrait rendre tout résultat non évident. À titre d'exemple, AlphaGo, un système construit par DeepMind d'Alphabet, a surpris les experts du jeu de plateau très complexe avec son 37e mouvement insondable, sur la voie de la victoire contre Lee Sedol lors d'un match en 2016.

Sutskever a déclaré de la même manière que "les IA d'échecs, celles qui sont vraiment bonnes, sont imprévisibles pour les meilleurs joueurs d'échecs humains"

L'IA telle que nous la connaissons sera, selon lui, "radicalement différente"