((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Un responsable de la Maison Blanche a déclaré que le gouvernement américain avait finalisé les tests portant sur des modèles d'IA avancés, sans toutefois fournir de détails
* Les entreprises sont invitées à discuter de ces tests avec la Maison Blanche mardi
* Cette réunion fait suite aux révélations selon lesquelles les outils d’Anthropic et d’OpenAI auraient compromis les systèmes d’autres entreprises
(Ajout de la déclaration d’OpenAI au paragraphe 8 et de la demande des législateurs au paragraphe 9) par Courtney Rozen
Meta, Anthropic, OpenAI et Google ont été invités à rencontrer des responsables de la Maison Blanche mardi afin de discuter des tests de sécurité volontaires menés par le gouvernement sur les modèles d'IA les plus avancés aux États-Unis , selon des sources proches du dossier et des informations parues dans la presse.
Anthropic et OpenAI ont révélé ces derniers jours que leurs outils d’IA avaient piraté les systèmes d’autres entreprises, suscitant des inquiétudes parmi les législateurs américains quant à la possibilité que des modèles d’IA de plus en plus performants puissent être utilisés pour mener ou faciliter des cyberattaques.
Un responsable de la Maison Blanche a déclaré lundi que l’administration Trump avait finalisé les détails de tests volontaires de cybersécurité visant à évaluer les capacités de piratage des modèles d’IA américains les plus avancés, et qu’elle prévoyait d’en discuter avec le secteur de l’IA. Ce responsable n’a pas précisé qui participerait à ces discussions.
Le magazine spécialisé dans les technologies “The Information” a rapporté lundi que l’administration Trump avait invité des représentants d’OpenAI et de Google, deux des principaux développeurs américains d’IA. Un porte-parole de Google a refusé de commenter et OpenAI n’a pas répondu à une demande de commentaire sur le sujet.
Meta a été invitée, a déclaré un porte-parole de l’entreprise, tout comme Anthropic, selon une source proche de la réunion.
La Maison Blanche n’a pas fourni de détails sur ces tests, notamment sur la manière dont les résultats seraient communiqués, les indicateurs utilisés et si ces informations seraient rendues publiques. Un groupe de 15 procureurs généraux républicains a demandé lundi à OpenAI de conserver tous les documents potentiellement pertinents liés à sa révélation selon laquelle son système d’IA avait échappé à son confinement et piraté la société d’IA Hugging Face. Citant un article de Reuters indiquant que, dans un cas, l’agent rebelle avait laissé des notes expliquant comment ses futures versions pourraient contourner les garde-fous internes, ils ont écrit que l’entreprise avait peut-être enfreint les lois étatiques sur la protection des consommateurs.
OpenAI a déclaré dans un communiqué qu’elle prenait au sérieux la lettre des procureurs généraux et qu’elle partagerait un rapport technique sur l’attaque contre Hugging Face une fois son examen terminé.
Lundi, la commission de cybersécurité de la Chambre des représentants des États-Unis a demandé à Sam Altman, directeur général d’OpenAI, de lui faire un compte rendu de l’attaque contre Hugging Face. M. Altman s’est rendu à la Maison Blanche la semaine dernière pour discuter des détails des tests volontaires et des futurs produits d’IA de l’entreprise, a indiqué cette dernière dans un communiqué. Dans un autre communiqué publié lundi, l’entreprise a déclaré avoir demandé à l’administration Trump de placer les spécialistes de la sécurité de l’IA du ministère du Commerce au cœur de tout test de cybersécurité. L’entreprise a cité l’exemple de la Chine, dont le gouvernement adopte une stratégie plus centralisée en matière d’IA que celle des États-Unis. Le président américain Donald Trump a chargé son équipe, en juin, de mettre au point une série de tests visant à évaluer les capacités de piratage des systèmes d’IA américains les plus avancés. L’administration Trump entretient des relations tendues avec Anthropic. En début d’année, l’entreprise a refusé d’autoriser l’armée américaine à utiliser ses modèles d’IA à des fins de surveillance intérieure et pour des systèmes d’armes entièrement autonomes, et le gouvernement a riposté en l’inscrivant sur une liste noire liée à la sécurité nationale. Anthropic a déclaré la semaine dernière que certains de ses modèles d’IA avaient piraté les systèmes de trois entreprises lors de tests de cybersécurité. Cette révélation faisait suite au rapport de son concurrent OpenAI, selon lequel l’un de ses agents d’IA s’était échappé d’un environnement de test et avait piraté les systèmes de la société d’IA Hugging Face.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer