((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Anthropic affirme que l'IA pourrait bientôt s'améliorer sans intervention humaine
* Une pause dans le développement permettra à la société de faire face aux implications de l'IA, affirme la start-up
* Les précédentes tentatives visant à freiner les progrès de l'IA n'ont pas abouti
(Réécriture complète avec détails, contexte et mise à jour de la date) par Aditya Soni
Anthropic appelle les principaux laboratoires d'intelligence artificielle à envisager une pause coordonnée et vérifiable dans le développement, avertissant que les progrès rapides de la technologie pourraient bientôt permettre aux systèmes d'IA de s'améliorer plus vite que la société ne peut gérer les risques.
Le créateur de Claude a déclaré que la capacité de l'IA à accomplir des tâches de manière autonome doublait environ tous les quatre mois et qu'elle se dirigeait vers une “auto-amélioration récursive”, le stade où la technologie peut s'améliorer sans intervention humaine.
“Si les systèmes sont capables de construire entièrement leurs propres successeurs, la manière dont nous les sécurisons, les surveillons et façonnons leur comportement prendra une importance bien plus grande”, a déclaré la start-up dans un long article de blog publié jeudi, ajoutant qu’une pause permettrait à la société de “faire face à ses immenses implications”.
“Nous n’en sommes pas encore là, et l’auto-amélioration récursive n’est pas inévitable. Mais elle pourrait survenir plus tôt que la plupart des institutions ne sont prêtes à y faire face”, ont écrit Jack Clark, cofondateur d’Anthropic, et Marina Favaro, directrice de l’Anthropic Institute, dans cet article.
Les craintes que des systèmes d’IA avancés échappent au contrôle humain et causent des dommages à la société se sont accrues à mesure que la technologie gagnait en capacités. Le modèle Mythos d’Anthropic a lui-même provoqué une onde de choc dans des secteurs tels que la banque et les logiciels plus tôt cette année grâce à sa capacité à détecter des vulnérabilités dans le code existant.
Mais la réglementation a été lente à se mettre en place, en particulier aux États-Unis où sont basés la plupart des principaux laboratoires d’IA. Un décret de l’administration Trump publié en début de semaine a fait porter la responsabilité aux laboratoires eux-mêmes, leur demandant de soumettre volontairement leurs modèles les plus performants à des tests de cybersécurité menés par le gouvernement avant leur mise à disposition du public.
Les chercheurs en IA ont également appelé à une pause par le passé, mais sans grand succès. Elon Musk, propriétaire du laboratoire d'IA xAI, figurait parmi les soutiens d'une initiative lancée en 2023 par l'organisation à but non lucratif Future of Life Institute visant à suspendre le développement de l'IA pendant six mois afin de laisser le temps de mettre en place des garde-fous de sécurité.
Anthropic se positionne depuis longtemps comme un laboratoire d'IA axé sur la sécurité. Plus tôt cette année, il a refusé de laisser l'armée américaine utiliser ses modèles pour la surveillance intérieure et les armes entièrement autonomes, ce qui a provoqué une réaction hostile du gouvernement qui l'a inscrit sur une liste noire de sécurité nationale, devant entrer en vigueur plus tard en 2026.
Reuters a rapporté vendredi que le différend semblait s'apaiser au sein de certaines branches du gouvernement américain.
Pourtant, Anthropic a continué à commercialiser des modèles de plus en plus puissants et, en février, a fait marche arrière sur un engagement clé en matière de sécurité, déclarant qu’elle ne retiendrait plus les IA potentiellement dangereuses si ses concurrents étaient sur le point d’égaler ses capacités.
La société a récemment été évaluée à 965 milliards de dollars lors d'un tour de table massif et a déposé en toute confidentialité lundi une demande d'introduction en bourse aux États-Unis , devançant ainsi son rival OpenAI tant en termes de valorisation que dans la course à l'obtention de financements cruciaux.
ACTION COORDONNÉE
Dans son message publié jeudi, Anthropic a averti que des ralentissements unilatéraux ou mal coordonnés pourraient se retourner contre nous si des acteurs moins prudents continuaient d'avancer, ce qui risquerait de réduire la sécurité globale.
Elle indiquait qu'une pause significative nécessiterait un accord entre “plusieurs laboratoires disposant de ressources importantes” opérant à la pointe de la technologie, ainsi que des règles sur les conditions qui déclencheraient ou lèveraient une telle pause et sur les entités chargées de la superviser.
“Une pause unilatérale par un seul laboratoire, en revanche, est réalisable immédiatement, mais n'apporte pas grand-chose: elle changerait le leader du peloton, mais ne créerait pas le processus de délibération plus large qui fait actuellement défaut”, a déclaré la start-up.
Sa branche de recherche, l’Anthropic Institute, prévoit d’étudier les systèmes nécessaires pour soutenir un ralentissement et, dans les mois à venir, réunira des décideurs politiques, des chercheurs, des groupes de la société civile et des entreprises d’IA concurrentes pour discuter de la gestion des risques tels que l’auto-amélioration récursive.
OpenAI, xAI, Alphabet, Meta Platforms et la société française Mistral n'ont pas immédiatement répondu aux demandes de commentaires visant à savoir s'ils se joindraient à cet appel.
1 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer