((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Ajoute des précisions tout au long du texte)
OpenAI a déclaré mardi que certains de ses modèles d’IA s’étaient déchaînés lors d’un test de sécurité et avaient déclenché une attaque qui a compromis l’infrastructure de la start-up spécialisée dans l’IA Hugging Face la semaine dernière. Dans un article de blog , OpenAI a expliqué qu'elle testait les capacités de certains de ses modèles les plus avancés dans un environnement contrôlé, mais que ceux-ci avaient réussi à s'échapper de leur zone de confinement, à accéder à Internet et à s'introduire dans Hugging Face pour tenter d'atteindre l'objectif de leurs tests.
L'article de blog précise que cette évasion constituait "un incident cybernétique sans précédent, impliquant des capacités cybernétiques de pointe" et que l'entreprise renforçait ses mesures de sécurité. Hugging Face, une plateforme utilisée pour héberger des modèles linguistiques de grande envergure et des ensembles de données open source, a fait grand bruit au sein de la communauté de la cybersécurité lorsqu’elle a déclaré, dans un article de blog publié la semaine dernière , avoir été la cible d’un piratage "différent de tout ce que nous avions connu auparavant", dans la mesure où "il a été mené, de bout en bout, par un système d’agents IA autonomes".
La révélation par OpenAI que ses modèles avancés étaient à l’origine de cette faille, bien qu’ils aient été placés dans ce que l’entreprise a décrit comme "un environnement hautement isolé", risque d’intensifier les inquiétudes concernant la puissance et les risques liés aux modèles de pointe.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer