((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) par Courtney Rozen
Une coalition de députés démocrates de la Chambre des représentants des États-Unis demande à Dario Amodei, directeur général d’Anthropic, et à Sam Altman, directeur général d’OpenAI, d’expliquer comment leurs systèmes d’IA ont pu échapper à leur confinement lors d’un test de sécurité, ajoutant que le Congrès devrait organiser des auditions sur ces incidents, selon des lettres envoyées lundi par les législateurs à ces entreprises.
OpenAI et Anthropic ont révélé en juillet que leurs agents d’IA s’étaient échappés de leurs environnements et avaient piraté les systèmes d’autres entreprises lors de tests de cybersécurité. Vingt-neuf législateurs, menés par les députés Greg Casar et Doris Matsui, ont exhorté OpenAI à expliquer comment ses agents d’IA sont surveillés pendant les tests, et si les modèles rebelles avaient contourné les contrôles de sécurité de l’entreprise. Les législateurs ont cité un article de Reuters indiquant que, lors de tests antérieurs des modèles d’OpenAI, les systèmes de surveillance avaient parfois été déconnectés. Dans une lettre distincte, 22 législateurs ont demandé à Anthropic de détailler tous les protocoles de sécurité que l’entreprise a mis en place depuis que ses agents ont piraté les systèmes de trois entreprises.
“Ces incidents de cybersécurité profondément préoccupants pourraient avoir de graves répercussions sur la sécurité nationale des États-Unis”, ont écrit les législateurs dans leur message adressé à Anthropic. Ces lettres, rendues publiques lundi, s’inscrivent dans le cadre d’un débat de plus en plus vif à Washington sur l’intensité avec laquelle il convient de réglementer un secteur de l’IA en pleine évolution, qui a jusqu’à présent fonctionné en grande partie sans nouvelles normes fédérales. Les législateurs ont présenté une série de propositions qui n’ont pas encore abouti, notamment un projet de loi qui obligerait les développeurs des modèles d’IA les plus puissants à les soumettre à des audits de sécurité indépendants. L’administration du président américain Donald Trump s’est très peu exprimée en public au sujet des agents rebelles d’Anthropic et d’OpenAI. Vendredi, le président a critiqué les propositions émanant du Congrès visant à encadrer l’IA, affirmant que les législateurs souhaitent réglementer le secteur “jusqu’à le faire disparaître”. Lundi, le sénateur libéral Bernie Sanders a, de son côté, appelé Sam Altman, Dario Amodei et Mark Zuckerberg, directeur général de Meta, à “suspendre” le développement de nouveaux modèles. Il a fait référence à une lettre signée par plus de 1 100 employés d’entreprises technologiques, exhortant le gouvernement américain à soutenir un effort international visant à développer des outils permettant de gérer le rythme du développement de l’IA avancée. Amodei a signé cette lettre, tout comme des collaborateurs de Meta Platforms, d’Anthropic, d’OpenAI et de Google (filiale d’Alphabet).
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer