L'illustration montre le logo de Microsoft et les mots « IA » (Intelligence artificielle)
Microsoft a dévoilé lundi un projet de code de conduite pour son intelligence artificielle (IA) interne, qui reflète les préoccupations croissantes du secteur quant à la nécessité pour les entreprises de maintenir sous contrôle humain la puissance des futures IA.
Ce document, dont l'élaboration a pris entre cinq et six mois, exige que l'IA de Microsoft ne s'oppose jamais à une correction ou à un arrêt, qu'elle communique d'une manière compréhensible pour les humains et qu'elle considère toute violation de ce code de conduite comme un échec.
Cette initiative se veut une répondre aux craintes nourries par certains que cette IA n'hésiterait pas à avoir recours à des méthodes extrêmes pour accomplir une tâche.
La publication de ce code de conduite intervient quelques jours après que Dario Amodei, directeur général d'Anthropic, et Sam Altman, à la tête d'OpenAI, ont réitéré leurs appels en faveur d'un ralentissement du développement de l'IA par le secteur afin d'en garantir la sécurité.
Ce code représente en quelque sorte une constitution pour les futurs modèles développés par l'entreprise, a déclaré Mustafa Suleyman, directeur général de Microsoft AI.
La société l'a mis au point après consultation d'experts et souhaite désormais recueillir les commentaires et les réponses du public pendant six semaines, notamment sur les questions du respect des limites de l'utilisateur et les interactions entre l'IA et toute personne se trouvant dans un état de vulnérabilité, a-t-il précisé.
La "constitution" la plus célèbre du secteur est celle qu'Anthropic a établie il y a plusieurs années pour son IA Claude. Celle-ci diffère à certains égards de celle de Microsoft.
A titre d'exemple, Anthropic a déclaré qu'il était "profondément incertain" que Claude puisse développer une conscience ou un statut moral.
Microsoft affirme de son côté que son IA n'est "pas consciente", ajoutant : "Nous rejetons la recherche d’une personnalité juridique ou l'idée que les modèles pourraient mériter une protection sociale ou bénéficier de droits".
Mustafa Suleyman a déclaré que le débat sur la sécurité était urgent après qu'OpenAI a dit en juillet qu'environ 700 de ses agents avaient piraté la plateforme Hugging Face dans le cadre d'un test, tout en tentant, parfois, d'effacer les traces de leur forfait.
Interrogé sur les initiatives visant à modérer le rythme de développement de l'IA, il a ajouté : "C'est le bon moment pour tout le monde d'avoir cette discussion et de prendre un peu de recul".
(Rédigé par Jeffrey Dastin à San Francisco; Version française Rihab Latrache, édité par Benoit Van Overstraeten)
2 commentaires
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer