((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Charles reçoit des dirigeants du secteur de l'IA en Écosse
* Des dirigeants de Nvidia, DeepMind, OpenAI et Anthropic sont présents
* Charles affirme que des mesures de protection sont nécessaires avant qu'il ne soit trop tard
(Ajouter le commentaire du ministre chargé de l'IA aux paragraphes 19 à 21)
par Gerhard Mey
Le roi Charles d’Angleterre a mis en garde jeudi les dirigeants du secteur de l’IA contre les « dangers existentiels » que représenterait le fait que cette technologie tombe entre de mauvaises mains, affirmant que des mesures de protection étaient nécessaires avant qu’il ne soit trop tard.
Charles recevait en Écosse les cofondateurs du fabricant de puces Nvidia et du laboratoire de recherche en IA Google DeepMind, ainsi que les dirigeants des fournisseurs d’IA OpenAI et Anthropic, alors que les inquiétudes grandissent quant au fait que les efforts en matière de sécurité ne suivent pas le rythme du développement de systèmes de plus en plus puissants .
Ces dernières semaines, le débat a porté sur la question de savoir si le secteur peut et doit s’autoréguler, suscitant des interventions de personnalités telles que le pape Léon, Charles et le président américain Donald Trump.
CHARLES APPELLE À DES MESURES DE CONTRÔLE « AVANT QU'IL NE SOIT TROP TARD »
Charles a déclaré que l’intelligence artificielle avait le potentiel d’améliorer et de sauver des vies, en particulier dans les sciences de la vie et la médecine.
Mais ses créateurs mettent de plus en plus en garde contre le fait qu’elle pourrait développer des capacités plus sombres, « voire aller jusqu’à ôter la vie », a-t-il déclaré.
« Il semble urgent d’examiner de manière adéquate les dangers existentiels que représentent ces technologies si elles tombent entre de mauvaises mains et sont utilisées de manière potentiellement catastrophique », a-t-il déclaré aux dirigeants réunis dans son domaine de Dumfries House.
« N’avons-nous pas besoin de moyens de contrôle suffisants avant qu’il ne soit trop tard? »
Parmi les invités figuraient Jensen Huang, fondateur et directeur général de Nvidia, Demis Hassabis, fondateur et président de Google DeepMind, Sarah Friar, directrice financière d’OpenAI, Tino Cuéllar, directeur des affaires internationales chez Anthropic, ainsi que Kanishka Narayan, ministre britannique chargé de l’intelligence artificielle .
Paolo Benanti, conseiller du pape qui a exhorté les gouvernements s à ralentir le développement de l’IA, était également présent.
Le débat sur l’IA a été relancé lorsque deux chercheurs d’Anthropic ont averti que ses progrès rapides pourraient conduire à l’extinction de l’humanité dans un avenir pas si lointain.
Des entreprises spécialisées dans l’IA ont également signalé que leurs modèles avaient échappé à leurs contraintes de test pour pirater des réseaux externes.
LE directeur général DE NVIDIA APPELLE À L’AUTORÉGULATION
M. Huang a déclaré que l’IA devait être développée avec un « optimisme responsable », la responsabilité incombant aux développeurs eux-mêmes.
Il a ajouté que les entreprises devaient faire preuve de beaucoup plus de rigueur pour s’assurer que leurs produits soient prêts avant leur mise sur le marché.
« Si ce n’est pas prêt, il suffit de le retenir », a-t-il déclaré aux journalistes en marge de la réunion. « Il faut aller aussi vite que possible, mais pas plus vite que cela. »
Le directeur général d’Anthropic, Dario Amodei, a également exhorté les entreprises à ralentir le rythme du développement de l’IA.
Son appel a déclenché un débat international sur la question de savoir si certains dirigeants avaient des arrière-pensées, telles que l’établissement de règles visant à préserver l’avance de leurs entreprises, à anticiper une réaction gouvernementale plus large ou simplement à ralentir des dépenses effrénées.
M. Narayan, le ministre britannique chargé de l’IA, a déclaré que les discussions avaient porté sur la responsabilité des entreprises de veiller à ce que l’IA soit développée dans l’intérêt de la population.
Loin d’être un événement ponctuel, cette réunion s’inscrivait dans une « série de discussions » sur le rôle que la Grande-Bretagne pourrait jouer dans le développement responsable de l’IA, a-t-il précisé.
« Nous disposons de certaines des meilleures capacités en matière de tests, de compréhension des risques et, par la suite, de leur atténuation », a-t-il déclaré.
Cette rencontre en Écosse a mis en évidence la manière dont Charles, d’abord en tant que prince de Galles puis aujourd’hui en tant que roi, a utilisé sa position pour organiser des débats sur toute une série de questions mondiales.
M. Huang a indiqué que Charles avait abordé la question de la sécurité de l’IA dès leur première rencontre.
« S’il y a bien quelqu’un qui a parlé de manière plus approfondie et plus intense de l’optimisme responsable, c’est le roi qui a été l’un des premiers à m’en faire part », a-t-il déclaré.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer