((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
Anthropic a déclaré jeudi que les développeurs d'IA de pointe devraient mettre en place un mécanisme coordonné et vérifiable permettant de ralentir ou de suspendre temporairement le développement si les systèmes avancés commençaient à s'améliorer plus rapidement que la société ne peut gérer les risques.
Une IA capable de se construire elle-même constituerait une avancée majeure dans l'histoire de la technologie, mais "une auto-amélioration récursive complète pourrait également accroître les risques que les humains perdent le contrôle des systèmes d'IA", a déclaré la start-up spécialisée dans l'IA.
"Si les systèmes sont capables de construire entièrement leurs propres successeurs, les moyens que nous utilisons pour les sécuriser, les surveiller et façonner leur comportement prennent alors une importance bien plus grande."
À titre d’exemple, Anthropic a indiqué qu’en mai, plus de 80 % du code intégré à sa base de code avait été rédigé par Claude.
Il serait "bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe afin de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des progrès technologiques", a déclaré l’entreprise.
Elle a toutefois mis en garde contre le fait que des ralentissements unilatéraux ou mal coordonnés pourraient s'avérer contre-productifs si des acteurs moins prudents continuaient à aller de l'avant, ce qui risquerait de réduire la sécurité globale.
Elle a souligné qu'une pause significative nécessiterait un accord entre "plusieurs laboratoires dotés de ressources importantes" opérant à la pointe de la technologie, ainsi que des règles précisant les conditions qui déclencheraient ou lèveraient une telle pause et qui la superviserait.
Une pause unilatérale décidée par une seule entreprise serait plus facile à mettre en œuvre, a ajouté Anthropic, mais aurait un impact limité, entraînant principalement un changement de leadership plutôt que de favoriser une réflexion mondiale plus large.
Sa branche de recherche, l'Anthropic Institute, prévoit d'étudier et de contribuer à la mise en place des systèmes nécessaires pour soutenir un ralentissement.
Au cours des prochains mois, Anthropic prévoit d’organiser des discussions réunissant des décideurs politiques, des chercheurs, des groupes de la société civile et d’autres entreprises spécialisées dans l’IA afin d’examiner des questions clés.
Ces questions portent notamment sur la manière de gérer les risques liés à l'IA, tels que l'auto-amélioration récursive, et sur la manière d'améliorer les mécanismes de coordination.
Le mois dernier, Anthropic a conclu un tour de table qui a valorisé l'entreprise à 965 milliards de dollars et a déposé en toute confidentialité un document en vue d'une introduction en bourse aux États-Unis lundi.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer