Aller au contenu principal Activer le contraste adaptéDésactiver le contraste adapté
Fermer

"Du grand n'importe quoi", "il est hanté" : un bug fait débloquer l'IA ChatGPT pendant plusieurs heures
information fournie par Boursorama avec Media Services 22/02/2024 à 12:18

( AFP / SEBASTIEN BOZON )

( AFP / SEBASTIEN BOZON )

OpenAI a expliqué mercredi 21 février qu'une "optimisation de l'expérience utilisateur" avait "introduit un bug dans la manière dont le modèle traite le langage".

Des réponses sans queue ni tête. Mardi 20 février, ChatGPT a débloqué pendant plusieurs heures, un rappel que les modèles d'intelligence artificielle (IA) générative restent des programmes informatiques sans compréhension du langage humain.

OpenAI, la start-up californienne qui a lancé l'interface fin 2022, a indiqué mercredi matin sur son site que ChatGPT fonctionnait à nouveau "normalement". Plus tard, dans l'après-midi, elle a publié un bref communiqué d'explications sur le bug informatique responsable du problème, survenu à la suite d'une mise à jour.

"L'argent pour le bit et la liste est l'un des étrangers et l'internet où la monnaie et la personne du coût est l'un des amis et la monnaie. La prochaine fois que vous regarderez le système, l'échange et le fait, n'oubliez pas de donner", avait par exemple répondu ChatGPT à une question de "scott.eskridge", un utilisateur. Sur le forum des développeurs qui se servent des outils d'OpenAI, il s'est plaint mardi que toutes ses conversations avec le modèle de langage "se transformaient rapidement en grand n'importe quoi depuis trois heures".

Avec le succès de ChatGPT, OpenAI a suscité un engouement massif pour l'IA générative, qui permet de produire toutes sortes de contenus (textes, sons, vidéos) - d'ordinaire de qualité bluffante - sur simple requête en langage courant. Mardi après-midi - à l'heure de San Francisco, où elle est basée - elle avait annoncé "enquêter sur des signalements de réponses inattendues de la part de ChatGPT". Quelques minutes plus tard, l'entreprise star de la Silicon Valley avait assuré avoir "identifié le problème" et "être en train de le résoudre".

De nombreux utilisateurs ont mis en ligne des captures d'écran montrant des réponses erratiques ou incompréhensibles du modèle. "Il génère des mots totalement inexistants, omet des mots et produit des séquences de petits mots-clés qui me sont inintelligibles, entre autres anomalies", a ainsi relaté un utilisateur baptisé "IYAnepo", sur le même forum. "On pourrait penser que j'ai spécifié de telles instructions, mais ce n'est pas le cas. J'ai l'impression que mon GPT est hanté (...)".

OpenAI a expliqué mercredi qu'une "optimisation de l'expérience utilisateur" avait "introduit un bug dans la manière dont le modèle traite le langage". "Les modèles de langage génèrent des réponses en échantillonnant des mots de manière aléatoire, en partie sur la base de probabilités", a souligné l'entreprise, avant de donner plus détails techniques et de conclure que l'incident a été "résolu" après "l'installation d'un correctif".

L'incident rappelle que l'IA, même générative, n'a pas de conscience ni de compréhension de ce qu'elle "dit", contrairement à l'impression qu'elle peut donner lors des "conversations" avec les utilisateurs. A leurs débuts il y a un an, des interfaces comme ChatGPT ou ses rivales de Google et Microsoft avaient régulièrement tendance à "halluciner", c'est-à-dire à inventer des faits ou même simuler des émotions.

Gary Marcus, spécialiste de l'IA, espère que l'incident de mardi sera perçu comme un "signal d'alarme". "Ces systèmes n'ont jamais été stables. Personne n'a jamais été en mesure de mettre au point des garanties de sécurité autour de ces systèmes", a-t-il écrit dans sa newsletter mardi. "Le besoin de technologies totalement différentes, moins opaques, plus interprétables, plus faciles à entretenir et à déboguer - et donc plus faciles à mettre en œuvre - reste primordial", a-t-il ajouté.

3 commentaires

  • 22 février 14:04

    ça promet quand l'IA va piloter vos voitures, avions, missiles etc... show devant!!


Signaler le commentaire

Fermer

A lire aussi

  • À Bucarest, les partisans du candidat d'extrême droite célèbrent sa victoire au premier tour
    information fournie par France 24 04.05.2025 23:24 

    Les sympathisants du candidat d'extrême droite George Simion, représentant de l'Alliance pour l'unité des Roumains (AUR), se sont rassemblés devant le QG de campagne du candidat à Bucarest après l'annonce des premiers sondages de sortie des urnes le donnant loin ... Lire la suite

  • Des partisans du chef du parti AUR George Simion saluent sa victoire au premier tour de la présidentielle, le 4 mai 2025 à Bucarest ( AFP / Daniel MIHAILESCU )
    information fournie par AFP 04.05.2025 23:01 

    Le candidat a changé mais l'extrême droite reste en tête: cinq mois après l'annulation choc du premier tour de la présidentielle, la Roumanie a confirmé dans un nouveau vote dimanche son virage nationaliste. George Simion, fan de Donald Trump qui se rêve en "président ... Lire la suite

  • L'Essentiel politique : Bayrou, le RN, les violences du 1er mai...
    information fournie par France 24 04.05.2025 22:52 

    Au menu : les violences du 1er mai contre des élus socialistes, les premières crispations au sein du Rassemblement national, et l’interview de François Bayrou au Journal du dimanche, il évoque entre autres son souhait de soumettre les finances de l’Etat à référendum. ... Lire la suite

  • Martin Fayulu s'exprime sur France 24
    information fournie par France 24 04.05.2025 22:31 

    Dans un geste politique inédit, Martin Fayulu, Moïse Katumbi, Delly Sesanga et Joseph Kabila signent une déclaration commune dénonçant la mauvaise gouvernance et la dérive autoritaire du régime de Félix Tshisekedi. Ils appellent à un dialogue national pour sortir ... Lire la suite