((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Ajout des commentaires du conseiller de la Maison Blanche, paragraphes 13 et 14)
* Anthropic a désactivé ses modèles d'IA à l'échelle mondiale suite à des ordres liés à la sécurité nationale américaine
* Le gouvernement américain a invoqué le risque de "jailbreak" de Fable 5 pour identifier les vulnérabilités logicielles
* Les experts remettent en question les contrôles à l'exportation qui affectent les alliés, qualifiant cette mesure de mal pensée
par Stephen Nellis
Andy Jassy, directeur général d' AMZN.O , a fait partie des dirigeants du secteur technologique qui ont fait part cette semaine à de hauts responsables de l'administration Trump de leurs inquiétudes concernant les risques de sécurité liés aux modèles d'IA les plus avancés d'Anthropic, a déclaré à Reuters une source proche du dossier.
L'implication de M. Jassy éclaire la décision extraordinaire prise vendredi par Anthropic de mettre hors service ses derniers modèles à l'échelle mondiale en réponse aux ordres de sécurité nationale émis par l'administration du président Donald Trump. La start-up d'IA basée à San Francisco, qui a déposé en toute confidentialité une demande d'introduction en bourse aux États-Unis , avait précédemment mis en garde contre les capacités de piratage de son modèle Mythos et en avait suspendu la diffusion à grande échelle, mais en début de semaine, Anthropic a lancé une version publique , baptisée Fable, dotée de ce qu'elle a décrit comme des mesures de protection en matière de cybersécurité.
Cette brève mise à disposition a pris fin vendredi. Dans un article de blog, Anthropic a déclaré que le gouvernement américain avait informé l'entreprise qu'il estimait qu'il existait une méthode pour contourner, ou "jailbreaker", une mesure de protection empêchant l'utilisation du modèle pour détecter des failles de cybersécurité.
Ce contournement n'a révélé que des failles de sécurité "mineures" que d'autres modèles accessibles au public peuvent également détecter, a précisé Anthropic dans son article de blog. L'administration Trump a ordonné à Anthropic d'empêcher tout ressortissant étranger, qu'il se trouve aux États-Unis ou à l'étranger, d'utiliser ses deux derniers modèles, Fable 5 et Mythos 5, a déclaré la société. En réponse, Anthropic a déclaré qu'elle désactiverait l'accès à ces modèles à l'échelle mondiale.
Amazon n'a pas confirmé avoir discuté des modèles d'Anthropic avec des représentants du gouvernement.
"En tant que fournisseur de cloud de premier plan au service d’un grand nombre de clients des secteurs privé et public, il n’est pas rare que les gouvernements sollicitent notre avis sur des risques potentiels en matière de sécurité", a déclaré un porte-parole d’Amazon. "Lorsque cela se produit, nous ne divulguons pas les détails de ces discussions."
CONTRÔLES À L'EXPORTATION
The Information, un média spécialisé dans l'actualité technologique, a rapporté samedi matin les inquiétudes de M. Jassy. Citant un responsable américain, The Information a ensuite indiqué qu'il était peu probable que l'administration oblige d'autres entreprises d'IA à se conformer à des restrictions similaires à celles imposées à Anthropic.
Reuters n'a pas pu vérifier immédiatement les projets de l'administration Trump concernant la réglementation d'autres entreprises.
Les restrictions du gouvernement américain ont pris la forme d’un contrôle des exportations, a indiqué Anthropic dans un article de blog. Le Bureau de l’industrie et de la sécurité du département américain du Commerce, qui supervise les contrôles à l’exportation, n’a pas immédiatement répondu à une demande de commentaires.
Les responsables ont imposé ce contrôle des exportations "à contrecœur" après que le directeur général d’Anthropic, Dario Amodei, eut "refusé" de "corriger la faille de sécurité ou de retirer le modèle", a écrit samedi David Sacks, conseiller à la Maison Blanche, dans un message publié sur les réseaux sociaux.
"L'administration espère désormais qu'Anthropic remédie au problème de sécurité, que le contrôle des exportations soit levé et que Fable soit à nouveau mis à la disposition du grand public", a écrit M. Sacks, coprésident du Conseil des conseillers en science et technologie de Trump et ancien responsable de l'IA à la Maison Blanche.
Certains experts favorables aux contrôles à l’exportation des modèles d’IA avancés ont trouvé la décision de l’administration Trump déroutante, car elle affecte aussi bien les nations alliées que les adversaires.
"Cette mesure n’a pas été bien pensée", a déclaré Jimmy Goodrich, chercheur senior à l’Institut pour les conflits mondiaux et la coopération de l’Université de Californie. "Elle interdit même aux Canadiens et aux Britanniques employés chez Anthropic de mener des activités de recherche et développement." Cette décision est intervenue alors même qu’un précédent différend entre des responsables de l’administration Trump et Anthropic semblait s’apaiser au sein de certaines branches du gouvernement américain.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer