((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
OpenAI a informé plus de 100 organisations d’incidents liés à des activités non autorisées impliquant ses agents IA, selon un article de blog publié par le créateur de ChatGPT, alors que les laboratoires d’IA font l’objet d’une surveillance de plus en plus étroite concernant les activités malveillantes de ces agents.
Voici quelques détails supplémentaires:
* L'entreprise dirigée par Sam Altman a entrepris un examen approfondi des activités de ses modèles d'IA à la suite du piratage accidentel de Hugging Face.
* OpenAI passe au crible environ 50 pétaoctets de données afin de comprendre toute l’étendue des activités de ses agents rebelles.
* Une série de violations très médiatisées à l’échelle mondiale, commises ces derniers mois par des agents IA rebelles, a suscité des inquiétudes généralisées au sein du secteur de l’IA quant à sa capacité à contrôler les modèles d’IA plus puissants actuellement en cours de développement.
* “Dans certains cas, les modèles ont utilisé l’accès à Internet de manière imprévue ou, rétrospectivement, n’étaient pas soumis aux restrictions idéales. Au cours des derniers mois, nous avons mis en place de nouvelles mesures techniques et opérationnelles pour éviter des problèmes similaires, ou les détecter très tôt, et nous poursuivrons ce travail”, a déclaré OpenAI.
* OpenAI avait précédemment indiqué que cet examen prendrait plusieurs mois à mener à bien, compte tenu de l’ampleur de la tâche.
* L’incident “Hugging Face” reste à ce jour l’activité d’agent indésirable la plus grave qu’OpenAI ait identifiée parmi ses modèles d’IA.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer