((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
Anthropic a déclaré que Claude "dirige" 26 % des travaux de recherche et développement en intelligence artificielle au sein de l’entreprise, dans le cadre de nouvelles mesures qu’elle publiera régulièrement afin de montrer au grand public à quelle vitesse l’IA développe la prochaine génération de cette technologie.
L’IA a également collaboré avec des humains sur plus de 90 % des travaux de recherche menés au sein de l’entreprise en août, a indiqué jeudi la start-up basée à San Francisco dans un article de blog.
Anthropic a précisé que Claude ne fonctionnait pas de manière entièrement autonome dans aucun des domaines d’activité évalués, mais que sa contribution au développement de la technologie avait augmenté rapidement, passant de 1 % en mars selon une échelle mise au point par Epoch AI, une organisation indépendante à but non lucratif qui suit l’évolution de cette technologie.
Ces chiffres constituent l’un des aperçus publics les plus détaillés de la manière dont les entreprises leaders du secteur développent cette technologie, alors que l’on craint de plus en plus que l’IA n’atteigne bientôt un stade où elle pourrait alimenter son propre développement avec très peu d’intervention humaine.
Les chercheurs ont averti qu’à mesure que les agents d’IA gagnent en autonomie, ils pourraient développer des comportements s’écartant des intentions de leurs créateurs et devenir plus difficiles à surveiller ou à contrôler.
Mercredi, le concurrent de l’entreprise, OpenAI, a annoncé qu’il commencerait à publier régulièrement des rapports sur les comportements inattendus ou non autorisés de l’IA, tout en divulguant six rapports faisant état de comportements inattendus ou préoccupants de ses modèles.
Anthropic a indiqué qu’environ 30.000 agents d’IA effectuaient simultanément des travaux de recherche et d’ingénierie sur sa principale plateforme interne au mois d’août. L’entreprise a ajouté que chaque action entreprise par les agents était filtrée avant d’être exécutée, et que sur plus d’un milliard de décisions prises ce mois-là, environ une sur 47.000 avait été bloquée.
L’entreprise a également révélé qu’environ 6 % de la puissance de calcul utilisée par Anthropic pour la recherche en IA avait été consacrée à des travaux de sécurité au cours d’une semaine type en juillet, ce chiffre s’élevant à 12 % pour les recherches menées par l’IA elle-même. Elle a précisé que ces chiffres étaient prudents, car la puissance de calcul qui contribuait à la fois à l’amélioration de la sécurité et des capacités était comptabilisée comme relevant des travaux sur les capacités.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer