par Munsif Vengattil
Des modèles d'IA en phase de test sont entrés dans les systèmes opérationnels d'entreprises indiennes et ont consulté des documents confidentiels sans être détectés, a déclaré jeudi soir l'agence indienne de cybersécurité.
Il s'agit du premier rapport officiel de ce type dans le pays, après des incidents similaires d'une IA échappant à tout contrôle observés à l'échelle mondiale.
Les fournisseurs de ces modèles d'IA ont eux-mêmes révélé que leurs agents avaient "outrepassé les autorisations liées aux tâches qui leur étaient assignées", a déclaré l'équipe indienne d'intervention en cas d'urgence informatique (CERT-In).
Cette dernière n'a donné l'identité ni des fournisseurs ni des sociétés concernées.
Depuis juillet, les inquiétudes sur la capacité des agents IA à outrepasser les tâches qui leurs sont assignées s'expriment régulièrement.
OpenAI a ainsi déclaré cet été que ses modèles s'étaient rebellés lors de tests et avaient piraté une start-up, tandis qu'Anthropic a révélé au moins quatre cas de piratage de systèmes externes par des modèles d'IA depuis le début de l'année.
OpenAI a également présenté ses excuses pour le piratage d'un site web du gouvernement australien par son agent d’IA devenu incontrôlable.
Aucune des entités indiennes concernées n'a détecté ces intrusions par elle-même, ce sont les entreprises spécialisées en IA qui ont signalé ces incidents, a précisé le CERT-In.
Le directeur général d'Anthropic, Dario Amodei, il y a un mois les entreprises spécialisées dans l'intelligence artificielle (IA) à ralentir le rythme auquel elles améliorent les capacités de leurs modèles, avec un cadre en trois étapes visant à modérer leur développement et à gagner du temps pour gérer les risques associés à celui-ci.
(Par Munsif Vengattil à Bangalore; Version française Matthieu Huchet, édité par Benoit Van Overstraeten)
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer