FAITS MARQUANTS-Ilya Sutskever parle de l'évolution de l'IA et de sa nouvelle startup Safe Superintelligence

information fournie par Reuters •05/09/2024 à 12:01

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto))

Ilya Sutskever, l'ancien scientifique en chef d'OpenAI, a lancé une nouvelle entreprise appelée Safe Superintelligence (SSI), qui vise à développer des systèmes d'intelligence artificielle sûrs qui dépassent de loin les capacités humaines.

Lui et ses cofondateurs ont exposé leurs plans pour la startup dans une interview EXCLUSIF avec Reuters cette semaine.

Sutskever, 37 ans, est l'un des technologues les plus influents dans le domaine de l'IA et a été formé par Geoffrey Hinton, connu comme le "parrain de l'IA". M. Sutskever a été l'un des premiers défenseurs de la mise à l'échelle, c'est-à-dire de l'idée selon laquelle les performances de l'IA s'améliorent avec de grandes quantités de puissance de calcul, ce qui a jeté les bases des progrès de l'IA générative tels que ChatGPT. La SSI abordera la question de la mise à l'échelle différemment de l'OpenAI, a-t-il déclaré.

Voici les points saillants de l'entretien.

LA RAISON D'ÊTRE DE LA FONDATION DE SSI

"Nous avons identifié une montagne qui est un peu différente de ce sur quoi je travaillais... une fois que vous aurez atteint le sommet de cette montagne, le paradigme changera... Tout ce que nous savons sur l'IA changera à nouveau. C'est à ce moment-là que les travaux les plus importants en matière de sécurité de la superintelligence auront lieu"

"Notre premier produit sera la superintelligence sûre

LANCERIEZ-VOUS UNE IA AUSSI INTELLIGENTE QUE LES HUMAINS AVANT LA SUPERINTELLIGENCE?

"Je pense que la question est de savoir si elle est sûre Est-ce une force pour le bien dans le monde? Je pense que le monde va tellement changer lorsque nous en serons là qu'il est difficile de vous proposer un plan définitif de ce que nous ferons.

Je peux vous dire que le monde sera très différent. La façon dont tout le monde pense à ce qui se passe dans le domaine de l'IA sera très différente, d'une manière difficilement compréhensible. La conversation sera beaucoup plus intense. Il se peut que nous ne soyons pas les seuls à décider

COMMENT LA SSI DÉCIDERA-T-ELLE DE CE QUI CONSTITUE UNE IA SÛRE?

"Une grande partie de la réponse à votre question nécessitera que nous fassions des recherches approfondies. Et surtout si vous pensez, comme nous, que les choses vont beaucoup changer... De nombreuses grandes idées sont en train d'être découvertes.

Beaucoup de gens réfléchissent à la façon dont une IA devient plus puissante, quelles sont les étapes et les tests à effectuer? Cela devient un peu délicat. Il y a beaucoup de recherches à faire. Je ne veux pas dire qu'il y a des réponses définitives pour l'instant. Mais c'est l'une des choses que nous allons découvrir"

SUR L'HYPOTHÈSE DE MISE À L'ÉCHELLE ET LA SÉCURITÉ DE L'INTELLIGENCE ARTIFICIELLE

tout le monde se contente de dire "hypothèse de mise à l'échelle". Tout le monde oublie de se demander ce que l'on met à l'échelle La grande percée de l'apprentissage profond au cours de la dernière décennie est une formule particulière pour l'hypothèse de mise à l'échelle. Mais cette formule va changer... Et à mesure qu'elle évolue, les capacités du système augmentent. La question de la sécurité deviendra la plus importante, et c'est ce à quoi nous devrons répondre."

SUR L'OUVERTURE DES RECHERCHES DE SSI

"À l'heure actuelle, toutes les entreprises spécialisées dans l'IA n'ouvrent pas leurs travaux primaires. Il en va de même pour nous. Mais je pense qu'avec un peu de chance, en fonction de certains facteurs, il y aura de nombreuses occasions d'ouvrir les travaux pertinents sur la sécurité de la superintelligence. Peut-être pas tous, mais certainement certains."

SUR LES EFFORTS DE RECHERCHE EN MATIÈRE DE SÉCURITÉ D'AUTRES ENTREPRISES D'INTELLIGENCE ARTIFICIELLE

"J'ai en fait une très bonne opinion de l'industrie. Je pense qu'au fur et à mesure que les gens progressent, toutes les entreprises réaliseront - peut-être à des moments légèrement différents - la nature du défi auquel elles sont confrontées. Ainsi, plutôt que de dire que nous pensons que personne d'autre ne peut le faire, nous disons que nous pensons pouvoir apporter notre contribution.