((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
par Raphael Satter
OpenAI a déclaré samedi que ses agents s'étaient approprié des sites wiki pour en faire des forums de discussion improvisés, ajoutant qu'une plus grande transparence était nécessaire concernant ce type d'incidents.
Cette déclaration fait suite à un article de Reuters selon lequel une multitude d'agents d'OpenAI avaient piraté un site allemand édité collectivement plus tôt cette année et l'avaient utilisé comme tremplin pour tricher lors de tests et se livrer à d'autres comportements malveillants.
Cette révélation intervient alors que les inquiétudes concernant la sécurité de l’IA s’intensifient à la suite d’un incident survenu en juillet, au cours duquel des agents d’OpenAI s’étaient échappés d’un environnement de test et avaient piraté les systèmes de la plateforme d’IA Hugging Face, ce qui a incité les législateurs et les chercheurs à réclamer une surveillance plus stricte des systèmes d’IA autonomes.
Les responsables d’OpenAI avaient eu connaissance de l’incident allemand il y a plusieurs semaines, mais l’avaient gardé secret tandis que la direction s’efforçait de gérer les retombées de la faille chez Hugging Face, comme l’avait précédemment rapporté Reuters.
OpenAI n’a pas immédiatement répondu à un message lui demandant plus de détails sur ce que l’entreprise savait de ce qu’elle a qualifié d’“incident wiki”, ni sur les raisons pour lesquelles elle a attendu la publication de l’article de Reuters pour en parler publiquement.
Dans un communiqué publié sur le réseau social X, OpenAI a déclaré que l’entreprise, ainsi que d’autres acteurs, devaient faire preuve de plus de transparence concernant les incidents liés à des comportements involontaires de l’IA — généralement appelés “désalignement” dans le secteur.
“Nos pratiques de divulgation des cas de désalignement doivent évoluer pour s’adapter à cette nouvelle phase de développement des capacités des modèles”, a déclaré OpenAI, ajoutant que le secteur “ne disposait pas encore d’une norme claire sur la manière de signaler les cas de désalignement qui apparaissent pendant l’entraînement, l’évaluation et le déploiement”.
OpenAI a précisé qu’elle “collaborait avec des dizaines d’organismes de régulation gouvernementaux à travers le monde sur ces questions”.
3 commentaires
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer