((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Ajout d'informations au paragraphe 2)
Le laboratoire d'IA Anthropic a annoncé vendredi qu'il s'associerait à Accenture ACN.N pour l'évaluation indépendante de ses modèles d'IA de pointe, les deux entreprises s'engageant chacune à investir au moins 1 milliard de dollars au cours des cinq prochaines années afin de renforcer leurs capacités pour mener à bien ce travail.
L'action Accenture a progressé de 7 % en séance prolongée.
Ce partenariat intervient alors que les développeurs d’IA font face à une pression croissante de la part des régulateurs, des entreprises et des chercheurs, qui exigent qu’ils garantissent la sécurité et la fiabilité de leurs modèles avancés.
Plusieurs incidents récents, notamment celui d’agents IA s’échappant d’environnements sécurisés, ont fait craindre que l’IA puisse à terme contribuer à son propre développement avec une intervention humaine limitée, rendant son comportement plus difficile à surveiller et à contrôler.
Samedi, le directeur général d’Anthropic, Dario Amodei, a appelé les entreprises d’IA à ralentir le développement des modèles de pointe et à accorder aux évaluateurs indépendants un accès plus large à leurs systèmes.
Son concurrent OpenAI a déclaré mercredi qu’il allait commencer à publier régulièrement des rapports sur les comportements inattendus ou préoccupants de ses modèles, tout en diffusant six rapports sur ce type d’incidents.
Faculty, la division d’Accenture spécialisée dans l’IA, dirigera ce partenariat et se chargera d’évaluer et de tester les modèles du laboratoire d’IA en adoptant une approche de "red team", en réalisant des évaluations d’alignement et en testant les dispositifs de sécurité des modèles.
L’investissement de ces entreprises soutiendra ce qu’Anthropic appelle "l’évaluation intégrée", dans le cadre de laquelle des évaluateurs indépendants travaillent au sein même des entreprises d’IA avec un accès comparable à celui d’un employé.
"Depuis ce poste d’observation privilégié, les évaluateurs intégrés peuvent analyser le fonctionnement d’une entreprise, vérifier qu’elle respecte ses engagements en matière de sécurité et identifier ses angles morts", a déclaré Anthropic.
Les évaluateurs peuvent également signaler des incidents et fournir au public une analyse plus éclairée des avantages et des risques, a-t-elle ajouté.
Anthropic et Accenture prévoient de collaborer avec d’autres évaluateurs et développeurs d’IA dans le cadre de missions similaires.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer