((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Ajout d'un commentaire METR au paragraphe 10)
par Aditya Soni
Anthropic a accordé à l'association à but non lucratif METR un accès à ses systèmes au niveau des employés et est en pourparlers avec d'autres acteurs, dont Hugging Face, alors que les entreprises spécialisées dans l'IA font appel à des évaluateurs externes afin de faire progresser la technologie en toute sécurité sans ralentir son développement.
Le développeur des modèles Claude collabore également avec SecureBio, une association à but non lucratif spécialisée dans la biosécurité, et avec Faculty, la division IA d’Accenture, en tant qu’évaluateurs, a-t-il indiqué jeudi dans un article de blog.
Reuters avait révélé en exclusivité en début de semaine qu’Anthropic et OpenAI avaient cherché à exercer un contrôle important sur ce que les évaluateurs externes pouvaient publier, craignant que leurs conclusions ne divulguent des secrets commerciaux.
Une source proche du dossier a déclaré à Reuters que les discussions avec Anthropic avaient évolué récemment, l’entreprise se montrant désormais plus ouverte dans les négociations.
L’un des principaux points de discorde entre les évaluateurs et les laboratoires d’IA réside dans le fait que les informations que les entreprises pourraient considérer comme une propriété intellectuelle cruciale peuvent également être pertinentes pour évaluer les risques d’un modèle, ce qui conduit à des différends et à des expurgations, a déclaré à Reuters une autre source proche des discussions.
Des experts ont également souligné que l’indépendance des évaluateurs était source de préoccupation, dans la mesure où ce sont Anthropic et OpenAI qui choisissent les personnes chargées de mener ces évaluations.
L’issue de ces discussions contribuera à déterminer comment le monde examinera une technologie dont certains de ses créateurs avertissent qu’elle pourrait évoluer au-delà de la capacité de l’humanité à la maîtriser.
LE PARTENARIAT AVEC METR
Anthropic a déclaré jeudi que six employés de METR — ou Model Evaluation and Threat Research — disposaient de matériel informatique, d’espaces de bureau et d’un accès aux systèmes internes de l’entreprise à peu près équivalents à ceux de ses équipes d’évaluation des risques. Toutefois, les données clients, les informations protégées par le secret professionnel et l’architecture des modèles resteront hors de leur portée.
L’entreprise a précisé qu’elle ne pouvait pas opposer son veto aux conclusions de METR concernant les risques, les incidents et les pratiques, mais qu’elle pouvait exiger des expurgations strictement définies. METR peut également remettre publiquement en question ces expurgations sans révéler les informations dissimulées.
« Conformément à nos politiques de transparence, notre rapport décrira ouvertement la portée, les conditions d’accès et les autres limites de notre travail », a déclaré METR. L’association à but non lucratif avait proposé mercredi que les développeurs autorisent des entretiens privés avec le personnel, la publication en temps opportun des évaluations et la transparence concernant les limites d’accès et les expurgations.
Anthropic a indiqué que ses autres partenariats avec des évaluateurs en sont à un stade précoce, avec des droits d’accès et de publication plus limités.
L’entreprise met en place trois niveaux d’accès. Les évaluateurs du premier niveau mèneront des enquêtes à portée restreinte et devront obtenir une autorisation pour publier. Ceux du deuxième niveau recevront davantage d’informations et pourront publier sans autorisation, sous réserve de caviardages que les évaluateurs pourront contester publiquement.
Le troisième niveau, utilisé par METR, offre un accès similaire à celui des employés, avec des droits de publication comparables à ceux du deuxième niveau.
SecureBio se trouve au premier niveau et examine actuellement le chapitre consacré aux armes chimiques et biologiques du rapport sur les risques publié en août par Anthropic, après avoir publié une analyse pilote du rapport précédent. Anthropic a indiqué qu’elle envisagerait d’étendre les droits d’accès et de publication de SecureBio à l’issue de cette analyse.
Anthropic a également annoncé le mois dernier qu’elle travaillait à un partenariat avec Faculty portant notamment sur l’évaluation des modèles, les tests adversariaux et la vérification du bon fonctionnement des modèles, entre autres domaines.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer