par Mike Scarcella
Un avocat de la défense, qui faisait appel de la condamnation pour meurtre de son client, a déposé un mémoire contenant des témoignages policiers et des témoignages de témoins inventés de toutes pièces par ChatGPT d'OpenAI, a indiqué la plus haute juridiction de l'Etat du Nouveau-Mexique.
La Cour suprême du Nouveau-Mexique (Etats-Unis) a infligé mercredi une amende à l’avocat Stephen Aarons et l’a reconnu coupable d’outrage à la cour pour ne pas avoir vérifié l’exactitude d’un document déposé auprès de la justice, qu’il a déclaré avoir préparé avec l’aide de l’intelligence artificielle.
Le dossier "contenait de faux témoignages provenant de témoins entièrement inventés", a déclaré la Cour.
La collège de juges a également estimé que Stephen Aarons avait "fait preuve d’un manque de remords et d’indifférence envers son client". Les juges l'ont condamné à une amende de 5.000 dollars (4.310 euros) et ont indiqué son renvoi devant un conseil de discipline des avocats pour qu’une enquête soit menée.
Dans une déclaration à Reuters, Stephen Aarons a expliqué avoir utilisé ChatGPT pour résumer le déroulement du procès lorsqu’il avait accepté de prendre en charge l’appel du prévenu l’année dernière, et qu’il n’avait pas compris à quel point l’IA pouvait "inventer de toutes pièces" des faits.
"Je suis plein de remords, mais j’espère que la commission disciplinaire tiendra compte du fait qu’il s’agissait d’une erreur de bonne foi", a-t-il déclaré. "C’est une leçon à retenir pour tous les professionnels qui s’appuient sur cette technologie puissante mais parfois instable."
OpenAI n’a pas immédiatement répondu à une demande de commentaire.
La sanction prononcée par le tribunal s’inscrit dans une série croissante d’affaires où des juges d’État et fédéraux ont sanctionné des avocats pour avoir déposé des documents judiciaires générés par des outils d’IA sans les avoir suffisamment vérifiés.
Des dizaines d’avocats ont été sanctionnés pour avoir déposé des plaidoiries dans lesquels l’IA avait inventé des références jurisprudentielles ou cité la loi de manière erronée. Le dossier déposé par Stephen Aarons semble être allé plus loin, puisqu’il contenait un témoignage inventé de toutes pièces dans le cadre d’un appel en matière pénale.
Stephen Aarons, avocat privé basé à Santa Fe, s’occupait de l’appel d’Oscar Renee Sandoval, qui avait plaidé non coupable du meurtre de la mère de ses enfants avant d’être reconnu coupable et condamné l’année dernière à la prison à perpétuité.
L’appel est toujours en cours et a été confié le 2 septembre à Kim Chavez Cook, une avocate commise d’office du Nouveau-Mexique qui a refusé de faire tout commentaire.
Le bureau du procureur du comté de Doña Ana a également refusé de s’exprimer.
La Cour suprême de l’État a ordonné le mois dernier à Stephen Aarons d’expliquer comment ces éléments inventés de toutes pièces - qui, selon elle, semblaient inclure "des déclarations fictives selon lesquelles le tireur portait un pantalon foncé et une chemise blanche" - avaient été intégrés à son document principal dans le cadre de l’appel.
Lors d’une audience tenue le 21 août, Stephen Aarons a déclaré à la cour qu’il avait fourni à ChatGPT une transcription générée par ordinateur ainsi que d’autres documents relatifs à l’affaire, en partant du principe que l’outil produirait "un résumé irréfutable".
Les juges se sont montrés incrédules face au fait que Stephen Aarons ne soit pas pleinement conscient des erreurs que peut commettre l’IA.
"Maître, regardez-vous les informations ? Écoutez-vous la radio ? Lisez-vous quoi que ce soit sur ce qui se passe dans le monde ?", a demandé la juge C. Shannon Bacon lors de l’audience.
"Car le problème des avocats qui s’appuient sur les hallucinations de l’IA fait la une des journaux tous les jours."
(Reportage de Mike Scarcella; Version française Matthieu Huchet, édité par Benoit Van Overstraeten)
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer