((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Ajoute des précisions dans les paragraphes 4, 9, 10 et 13)
* La FTC va exiger des informations auprès d'Anthropic, d'OpenAI et de METR
* L'agence prévoit de contraindre les dirigeants à témoigner
* Cette enquête constitue la première mesure coercitive prise par l'administration Trump contre les piratages "agentiques"
par Jody Godoy
La Commission fédérale du commerce (FTC) mène actuellement une enquête à l’échelle du secteur sur Anthropic, OpenAI et d’autres laboratoires d’IA afin de mettre en lumière les dangers potentiels que leur technologie fait peser sur les consommateurs, a déclaré mercredi à Reuters un haut responsable de la FTC.
Cette enquête constitue la première mesure officielle prise aux États-Unis pour lutter contre les agents d’IA rebelles, suite à une recrudescence d’incidents signalés pour la première fois en juillet, qui ont attisé les craintes du public quant au risque qu’une IA incontrôlée puisse un jour nuire aux êtres humains.
La FTC prévoit d’émettre des demandes officielles d’informations et d’exiger des témoignages de la part des dirigeants des principaux développeurs d’IA, notamment Anthropic, OpenAI et le groupe de recherche METR, a précisé ce responsable.
Anthropic et OpenAI ont fait appel à METR pour mener des enquêtes indépendantes sur des incidents de sécurité impliquant leur technologie d’IA "agentique".
Anthropic, OpenAI et METR n’ont pas immédiatement répondu aux demandes de commentaires de Reuters. C’est le New York Post qui a été le premier à révéler cette information.
Le président de la FTC, Andrew Ferguson , nourrissait déjà des inquiétudes concernant ces entreprises avant que des agents IA développés par OpenAI ne piratent la plateforme open source Hugging Face, a précisé ce responsable.
Mais l'incident au cours duquel des agents d'OpenAI avaient sondé la plateforme de codage d'IA à la recherche de failles avant de mener une attaque à grande échelle a renforcé l'urgence de la question, a déclaré ce responsable.
M. Ferguson a suggéré la semaine dernière , lors d’un entretien avec Reuters, que les développeurs qui chargent des agents d’effectuer des tests de cybersécurité aboutissant à des piratages devraient être tenus responsables des dommages causés.
Les États-Unis devraient se pencher sur les lois existantes avant d’en adopter de nouvelles pour réglementer l’IA, a déclaré M. Ferguson lors de l’événement "Reuters Momentum AI" à Austin.
La FTC dispose de larges pouvoirs pour poursuivre les entreprises en justice en cas de pratiques déloyales ou trompeuses, et elle a déjà utilisé ces pouvoirs par le passé pour prendre des mesures à l’encontre d’entreprises n’ayant pas pris de mesures raisonnables pour sécuriser les données des consommateurs.
Le président américain Donald Trump a rencontré mardi les principaux dirigeants du secteur de l’IA , où les entreprises ont convenu d’établir des normes volontaires.
M. Trump a qualifié à plusieurs reprises les craintes concernant l’IA de "canular", cherchant à privilégier la domination américaine dans ce domaine technologique plutôt que la réglementation. Dans le même temps, il a également déclaré que le gouvernement pouvait recourir aux lois existantes contre les entreprises d’IA pour tout préjudice qu’elles pourraient causer.
Anthropic a indiqué que la technologie d’IA "agentique" comportait des risques juridiques importants et imprévisibles dans le prospectus de son introduction en bourse, a rapporté en exclusivité Reuters mardi.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer