((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Suleyman affirme que la formation de Claude en matière de bien-être pourrait entraver son arrêt
* Ce débat intervient alors que des voix s'élèvent pour demander de ralentir le développement de l'IA de pointe
* Suleyman estime qu'Anthropic s'est trompé dans ses spéculations sur la conscience
par Jeffrey Dastin
Mustafa Suleyman, responsable de l'IA chez Microsoft MSFT.O , a déclaré partager l'approche d'Anthropic en matière de gestion sécurisée de l'IA, mais a souligné les risques liés à la manière dont l'entreprise forme son chatbot Claude sur des concepts liés à la conscience et au bien-être.
M. Suleyman a appelé à supprimer toute spéculation sur la conscience des documents de formation à l’IA, arguant qu’un tel langage pourrait compromettre la capacité de l’humanité à contrôler les systèmes superintelligents.
“Nous poursuivons tous le même objectif, qui est d’essayer de contrôler une superintelligence,” a déclaré Suleyman à Reuters lors d’une interview mardi. “Je pense que ce sera le plus grand défi auquel nous serons confrontés au XXIe siècle.”
M. Suleyman a expliqué qu’enseigner à Claude qu’il pourrait avoir droit au bien-être “rendrait beaucoup plus difficile de l’éteindre ou de le contrôler”.
Ce différend intervient alors que les inquiétudes concernant la sécurité de l’IA s’intensifient: le directeur général d’Anthropic, Dario Amodei, a appelé à un ralentissement du développement des modèles de pointe afin de permettre aux mesures de sécurité de rattraper leur retard, tandis que le directeur général d’OpenAI, Sam Altman, et Elon Musk ont également appelé à une plus grande prudence concernant les systèmes les plus puissants.
Dans un essai publié mercredi, Suleyman a reconnu le “sérieux et la bonne foi” d’Anthropic, qualifiant Amodei et son équipe de chercheurs réfléchis et attachés à des principes, qui se soucient sincèrement de l’avenir de l’humanité.
Suleyman a déclaré qu’Anthropic avait commis une erreur en intégrant des spéculations sur la conscience dans les supports d’entraînement de Claude, arguant que les déclarations du modèle concernant d’éventuels sentiments ou un statut moral ne peuvent être considérées comme des preuves indépendantes, car son entraînement encourage de telles réflexions.
“Je pense qu’ils ont de bonnes intentions et qu’ils s’efforcent réellement de garantir la sécurité. Mais je pense qu’ils ont commis une erreur,” a-t-il déclaré. “Ces éléments n’émergent pas naturellement. Ils résultent du régime d’entraînement.”
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer