((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
OpenAI, dirigée par Sam Altman, a annoncé vendredi avoir repris l'entraînement par apprentissage par renforcement et l'utilisation en interne de ses solutions d'IA les plus avancées, après avoir renforcé ses contrôles de sécurité et bloqué l'accès à Internet pour l'entraînement des modèles de pointe.
Les inquiétudes grandissent quant à la capacité des agents d’IA, de plus en plus performants, à identifier et à exploiter les failles logicielles, y compris au sein des dispositifs de protection.
* OpenAI avait suspendu l’entraînement et l’évaluation de ses modèles les plus performants après qu’un modèle de recherche interne eut brièvement exploité une erreur de configuration pour obtenir un accès limité à Internet le 2 septembre, a-t-elle indiqué dans un article de blog
* Le créateur de ChatGPT a repris l’entraînement par apprentissage par renforcement et l’inférence interne de ses modèles de pointe le 1er octobre après avoir mis en place des mesures de sécurité supplémentaires
* Elle a lancé une campagne visant à analyser son infrastructure de recherche à la recherche de vulnérabilités qui pourraient permettre aux modèles de s’échapper d’environnements informatiques isolés, a déclaré OpenAI
* Les organismes d’évaluation de la sécurité de l’IA METR et Redwood Research ont déclaré jeudi avoir découvert plusieurs nouvelles vulnérabilités dans le système interne d’OpenAI
* La société a procédé à un examen approfondi de l’activité de ses modèles d’IA après le piratage accidentel de Hugging Face
* OpenAI a informé plus de 100 organisations des incidents d’activité non autorisée liés à ses agents d’IA
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer