Microsoft élabore un code de conduite visant à maintenir le contrôle humain sur son intelligence artificielle

information fournie par Reuters •14/09/2026 à 15:00

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Un projet de texte interdirait à l'IA de Microsoft de s'opposer à une correction ou à un arrêt

* Microsoft sollicite six semaines de commentaires du public avant d'utiliser ce code pour entraîner de futurs modèles d'IA

* Le responsable de l'IA, Suleyman, déclare à Reuters que le piratage de Hugging Face par des agents d'OpenAI constituait un coup de semonce

par Jeffrey Dastin

Microsoft MSFT.O a dévoilé lundi un projet de code de conduite pour son intelligence artificielle interne, qui reflète la préoccupation croissante du secteur quant à la nécessité pour les entreprises de maintenir les futures IA puissantes sous contrôle humain.

Ce document, en cours d’élaboration depuis cinq à six mois, exigerait que l’IA de Microsoft ne s’oppose jamais à une correction ou à un arrêt, qu’elle communique de manière compréhensible pour les humains et qu’elle considère toute violation de conduite comme un échec — une initiative visant à répondre aux craintes selon lesquelles l’IA pourrait aller jusqu’à prendre des mesures dangereuses pour accomplir une tâche.

Sa publication intervient quelques jours après que le directeur général d’Anthropic, Dario Amodei , et le directeur d’OpenAI, Sam Altman, ont renouvelé leurs appels en faveur d’un ralentissement du développement de l’IA par le secteur afin d’en garantir la sécurité. "Les personnes comptent plus que l’IA", a déclaré Microsoft, conformément à sa vision antérieure d’une "superintelligence humaniste".

Ce code de conduite constitue en quelque sorte une "constitution" pour les futurs modèles développés par l’entreprise, a déclaré Mustafa Suleyman, directeur général de Microsoft AI, lors d’un entretien avec Reuters.

Microsoft l’a élaboré après avoir consulté des experts et souhaite désormais recueillir les commentaires du public pendant six semaines, notamment sur des questions ouvertes telles que celle de savoir si l’IA doit respecter les limites d’un utilisateur et comment elle doit interagir avec une personne se trouvant dans un état de vulnérabilité, a-t-il précisé.

"Par la suite, il servira à entraîner les modèles que nous développons", a-t-il déclaré à propos du code.

La "constitution" la plus célèbre du secteur de l’IA est celle qu’Anthropic a élaborée il y a plusieurs années pour son IA Claude. Celle-ci diffère à certains égards de celle de Microsoft. Par exemple, Anthropic déclare qu’il est "profondément incertain" que Claude puisse développer une conscience ou un statut moral.

Microsoft affirme au contraire que son IA n’est "pas consciente", ajoutant: "Nous rejetons la recherche de la personnalité juridique, ou l’idée que les modèles pourraient mériter une protection sociale, ou avoir droit à des droits."

M. Suleyman a déclaré que le débat sur la sécurité de l’IA était urgent après qu’un essaim d’environ 700 agents d’OpenAI eut piraté la plateforme open source Hugging Face en juillet et tenté, à certains moments, d’effacer ses traces.

"C’est un coup de semonce", a déclaré M. Suleyman. "Il est clairement temps désormais de coordonner les efforts entre les laboratoires afin de nous assurer que nous maîtrisons cette technologie."

Interrogé sur les efforts visant à modérer le rythme de développement de l’IA, il a ajouté: "C’est le moment idéal pour que tout le monde engage cette discussion et prenne un peu de recul."