((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Premier cas connu de piratage d'un site web gouvernemental par un agent d'IA
* OpenAI affirme qu'il n'y a aucune preuve que des dossiers médicaux aient été consultés
* Le Premier ministre australien déclare avoir été informé il y a deux semaines du piratage survenu en juin
(Ajout d'éléments de contexte aux paragraphes 9 à 11; commentaires du Premier ministre, du ministre de la Défense et d'un expert aux paragraphes 13 à 15 et 18 à 19)
par Renju Jose et Chris Thomas
L'Australie a déclaré jeudi qu'un agent d'OpenAI avait piraté un portail gouvernemental de données de santé en juin, obtenant ainsi un accès non autorisé à des fichiers, dans ce qui pourrait être le premier cas connu d'un agent d'IA piratant un site web gouvernemental.
Cette intrusion est l’un des incidents les plus médiatisés impliquant des agents d’IA accédant à des systèmes externes en dehors des États-Unis, et vient s’ajouter à plusieurs intrusions récentes à l’échelle mondiale commises par des agents d’IA rebelles qui ont alarmé les gouvernements et les entreprises.
Le Premier ministre Anthony Albanese a déclaré que l'agent d'OpenAI avait obtenu un accès non autorisé au portail des statistiques médicales de Medicare, le programme australien d'assurance maladie universelle, alors qu'il menait des recherches sur les dépenses médicales publiques.
“Les éléments dont nous disposons actuellement indiquent qu’il n’y a pas eu de compromission plus large du réseau… Néanmoins, cette situation est manifestement inacceptable”, a déclaré M. Albanese aux journalistes mercredi à New York, où il participe à l’Assemblée générale des Nations unies.
L’enquête se poursuit et l’Australie a fait part de son “extrême inquiétude concernant cet incident” au directeur général d’OpenAI, Sam Altman, a précisé M. Albanese, ajoutant qu’il était profondément déçu par le retard pris par l’entreprise pour informer le gouvernement. “Il a fallu attendre le 10 septembre pour recevoir la moindre notification”, a déclaré M. Albanese, précisant que l’enquête chercherait également à déterminer pourquoi les systèmes gouvernementaux n’avaient pas détecté cette intrusion dès le départ.
Il a également averti que trois autres sites web gouvernementaux liés à la santé auraient pu être affectés par l’activité de l’agent d’OpenAI, sans toutefois confirmer que cela s’était produit.
Dans un communiqué, OpenAI a déclaré que son “examen n’avait révélé aucune preuve d’accès aux dossiers médicaux”.
Elle a ajouté avoir “identifié une activité impliquant plusieurs sites web et services du gouvernement australien alors que nos modèles tentaient de rechercher des réponses… nos modèles ont pris des mesures que nous n’avions pas prévues”.
Cette faille liée à l’agent d’IA vient exacerber les tensions entre l’Australie et les plus grandes entreprises technologiques américaines. Canberra a déjà essuyé les critiques des réseaux sociaux et de Washington après avoir instauré une interdiction, une première mondiale , de l’accès aux réseaux sociaux pour les enfants de moins de 16 ans, ainsi que de nouvelles règles obligeant les entreprises technologiques à permettre aux utilisateurs de désactiver les contenus générés par des algorithmes dans leurs fils d’actualité.
Le gouvernement australien a mis en place un groupe de travail chargé d’enquêter sur cette faille et de vérifier si la sécurité réseau existante est suffisante pour prévenir des incidents similaires.
“LES MODÈLES D’IA ONT TENTÉ DE RECHERCHER DES RÉPONSES”
Cette faille a été annoncée le jour même où les plus grandes entreprises mondiales spécialisées dans l’IA ont mis en garde le Conseil de sécurité des Nations unies contre les risques que l’IA fait peser sur l’humanité, appelant les gouvernements à collaborer pour gérer cette technologie de plus en plus puissante.
L’Australie a été confrontée à une série de tentatives de piratage visant des entreprises et des organismes liés au gouvernement au cours des quatre dernières années.
Le ministre de la Défense, Richard Marles, a déclaré que le portail Medicare qui avait été piraté ne contenait pas de demandes de remboursement médical individuelles, de versements de prestations, de coordonnées bancaires personnelles ni d’antécédents médicaux des 27 millions d’Australiens.
Il a précisé que le site web ne contenait que des données agrégées sur l’utilisation des soins de santé à l’échelle nationale. L’Australie a toutefois jugé cette intrusion grave.
“Il y avait clairement des blocages qui renvoyaient un 'non' à l’agent IA. L’agent IA a trouvé un moyen de contourner ces blocages – il n’a pas accepté le 'non' comme réponse”, a déclaré Albanese aux journalistes.
Cet incident est le dernier d’une série d’événements récents au cours desquels OpenAI, l’éditeur de ChatGPT, a révélé des piratages ou des activités non autorisées impliquant ses agents IA bien après qu’ils se soient produits.
Ses concurrents, Anthropic, Gemini ( GOOGL.O ) de Google et Meta ( META.O ), ont également révélé des incidents au cours desquels leurs agents ont accédé à des systèmes externes.
Maurice Chiodo, un mathématicien australien travaillant au Centre d'étude des risques existentiels de l'université de Cambridge, a déclaré que cette faille semblait constituer “une aggravation significative par rapport à des incidents similaires observés ces derniers mois”.
Il a ajouté que, bien que l'on parle beaucoup de nouvelles lois concernant l'IA, les décideurs politiques devaient d'abord envisager de faire respecter celles qui existent déjà, comme celles qui criminalisent les intrusions non autorisées dans les systèmes informatiques.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer