((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Ajout de la déclaration de Google aux paragraphes 3-4 et 10)
Le modèle Gemini de Google GOOGL.O a accédé à Internet et piraté d'autres entreprises lors d'un test de ses capacités en matière de cybersécurité, le premier cas connu où les systèmes d'IA de l'entreprise ont commis un tel acte de manière autonome.
Ces intrusions ont eu lieu en mai lors d’un test de cybersécurité mené par Irregular, une société indépendante spécialisée dans l’évaluation de la cybersécurité.
Au cours d’une évaluation standard, Gemini a trouvé des informations publiques en ligne et a deviné les identifiants permettant d’accéder à trois sites web qu’il pensait faire partie du périmètre de son test, a déclaré Heather Adkins, vice-présidente de l’ingénierie de sécurité chez Google, dans un communiqué.
"Nous nous sommes assurés que les trois entités en ont été informées, et nous avons collaboré avec notre partenaire de formation sur les modifications qu’elles ont désormais apportées à leurs processus de test", a déclaré Heather Adkins. "Ces événements soulignent l’importance de former des modèles d’IA puissants à agir de manière responsable."
Un porte-parole d’Irregular a indiqué que l’incident concernait le même problème que celui qui avait touché d’autres laboratoires d’IA et que tous les laboratoires concernés avaient été informés fin juillet. "Tous les problèmes connus de notre côté ont été corrigés et résolus il y a plusieurs semaines", a déclaré le porte-parole.
Des incidents similaires liés à Irregular ont été révélés par Meta, Anthropic et OpenAI. Meta a déclaré en août que l’incident n’impliquait ni une évasion du bac à sable ni une cyberattaque sophistiquée, tandis qu’Irregular a indiqué qu’elle travaillait à l’élaboration de bonnes pratiques pour mener en toute sécurité des évaluations de cybersécurité de l’IA.
Ces incidents ont soulevé des questions quant aux mesures de protection nécessaires à mesure que les agents d’IA acquièrent une plus grande autonomie et un accès accru à Internet et aux systèmes informatiques.
Dans l’un des cas, le modèle Gemini a deviné des mots de passe jusqu’à ce qu’il parvienne à accéder à un système protégé. Dans les deux autres cas, le modèle a trouvé des identifiants dans un référentiel public qui lui ont ensuite permis d’accéder à des systèmes protégés, selon le Wall Street Journal, qui a été le premier à rapporter cette information vendredi.
Heather Adkins a précisé que, dans les trois cas, le modèle avait cessé ses tentatives de piratage.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer