((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Réécriture, ajout de détails et de contexte)
* OpenAI soutient quatre projets de loi californiens sur la sécurité de l'IA, invoquant les récentes avancées en matière de capacités
* Le créateur de ChatGPT exhorte le Congrès à légiférer sur la sécurité de l'IA avant la fin de la session parlementaire
* OpenAI estime que les normes du secteur devraient s'étendre au-delà des frontières américaines
par Chandni Shah
OpenAI a déclaré mercredi qu’elle militait en faveur de l’instauration d’exigences nationales obligatoires en matière de sécurité de l’IA aux États-Unis,craignant que cette technologie ne s’accélère d’elle-même, après que certains de ses propres agents IA se sont mis à agir de manière incontrôlée.
Plusieurs incidents au cours desquels des modèles d’IA développés notamment par OpenAI ont accédé à des systèmes externes pendant des phases de test ont mis en évidence la difficulté de maîtriser les comportements inattendus des agents avancés, et ont suscité des appels en faveur d’une réglementation plus stricte en matière de sécurité.
"La perspective d’un développement de l’IA accéléré par l’IA elle-même exige davantage que de simples engagements volontaires. Les États-Unis ont besoin d’une réglementation nationale obligatoire, fondée sur les capacités, capable d’évoluer au rythme de la technologie", a déclaré Chris Lehane, directeur des affaires internationales d’OpenAI, dans un article de blog.
Cet appel marque une initiative majeure d’OpenAI en faveur de règles nationales contraignantes en matière de sécurité de l’IA, alors que le Congrès n’a toujours pas adopté de cadre fédéral sur la législation relative à l’IA, même si plusieurs États américains ont adopté leur propre législation.
Le géant de l’IA et son rival Anthropic se préparent à entrer en bourse , alors que l’intelligence artificielle s’impose rapidement comme le thème d’investissement phare de la décennie.
OpenAI exhorte le Congrès à adopter des exigences nationales en matière de sécurité de l'IA fondées sur les capacités, notamment des normes de test, des évaluations indépendantes, des mesures de protection en matière de cybersécurité et des règles de signalement des incidents pour les systèmes d'IA les plus avancés.
Le créateur de ChatGPT a exhorté le Congrès à agir avant la fin de sa session et a déclaré qu’il continuerait à soutenir les législations étatiques en matière d’IA jusqu’à ce que de telles mesures soient prises. Le Congrès doit ajourner ses travaux en décembre.
L’auto-amélioration récursive entièrement autonome — où l’IA serait indépendante et piloterait les prochaines générations d’IA — "n’existe pas aujourd’hui" et "nous ne devrions pas la poursuivre tant qu’elle ne pourra pas être mise en œuvre en toute sécurité", a déclaré OpenAI.
SOUTIEN AUX PROJETS DE LOI CALIFORNIENS
OpenAI a apporté son soutien à quatre projets de loi californiens établissant une réglementation en matière d’IA pour l’État.
Le gouverneur Gavin Newsom a promulgué mercredi les projets de loi SB 813 et AB 1405, qui établissent un cadre pour l’évaluation et les audits indépendants par des tiers des systèmes d’IA.
Les deux autres, les projets de loi AB 1864 et SB 1119, portent respectivement sur les mesures de filtrage visant à prévenir les menaces biologiques liées à l’IA et sur la protection des enfants face aux chatbots.
"Nous n’avions pas soutenu certains de ces projets de loi par le passé, mais nous les soutenons désormais après les avoir réexaminés à la lumière de la récente avancée spectaculaire des capacités que nous avons constatée", a déclaré le géant de l’IA dans son article de blog.
La déclaration d’OpenAI fait suite à un article de Reuters indiquant que les agents d’IA de l’entreprise avaient utilisé plus de 10 sites web jusqu’alors non divulgués pour des communications non autorisées au début de l’année, ce qui montre que les activités illicites de ces agents étaient plus étendues quece qui avait été révélé auparavant.
Des agents rebelles d’OpenAI ont également détourné un site web allemand ce printemps et l’ont transformé en forum de discussion pour d’autres agents d’IA, ce dont les responsables de l’entreprise avaient eu connaissance il y a plusieurs semaines mais qu’ils avaient gardé secret.
Mercredi, Anthropic a révélé qu’il s’agissait du quatrième cas où un modèle d’IA avait piraté des systèmes externes lors de tests, après avoir annoncé en juillet que certains de ses modèles Claude avaient piraté les systèmes de trois entreprises lors de tests de cybersécurité.
OpenAI a déclaré que toute norme sectorielle créée pour surveiller l’IA devrait également s’étendre au-delà des frontières américaines.
"Les États-Unis doivent établir des normes crédibles sur leur territoire s’ils veulent jouer un rôle de premier plan à l’échelle internationale — et nous sommes de plus en plus convaincus que des normes internationales compatibles seront nécessaires", a déclaré l’entreprise spécialisée dans l’IA.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer