Au sommet britannique sur l'IA, les développeurs et les gouvernements s'accordent sur des tests pour mieux gérer les risques

information fournie par Reuters •02/11/2023 à 23:23

*

Les participants s'accordent sur la nécessité de tester les modèles avant leur commercialisation

*

Les gouvernements, dont celui des États-Unis et de la Chine, ont signé la déclaration mercredi

*

Selon M. Sunak, le sommet a fait pencher la balance en faveur de l'humanité

*

Elon Musk dit à Sunak qu'il y a 80 % de chances que l'IA soit une force pour le bien

(Ajout des citations de Sunak aux paragraphes 4 et 5, et de l'interview Sunak-Musk aux paragraphes 19 et 20) par Martin Coulter et Paul Sandle

Les principaux développeurs d'IA ont accepté de collaborer avec les gouvernements pour tester les nouveaux modèles avant qu'ils ne soient mis sur le marché, afin d'aider à gérer les risques liés au développement rapide de la technologie, dans le cadred'une "réalisation historique" concluant le sommetbritannique sur l'intelligence artificielle.

Certains dirigeants du monde de la technologie et de la politique ont prévenu que l'IA présentait d'énormes risques si elle n'était pas contrôlée, allant de l'érosion de la vie privée des consommateurs au danger pour l'homme, en passant par une catastrophe mondiale. Ces inquiétudes ont déclenché une course des gouvernements et des institutions pour concevoir des garde-fous et des réglementations.

Lors d'un sommet inaugural sur la sécurité de l'IA à Bletchley Park , siège des décrypteurs britanniques de la Seconde Guerre mondiale, les dirigeants politiques des États-Unis, de l'Union européenne et de la Chine ont convenu mercredi de partager une approche commune pour identifier les risques et les moyens de les atténuer.

LePremier ministre britannique, Rishi Sunak, a déclaré que cette déclaration, l'action sur les essais et l'engagement de créer un groupe international sur les risques feraient "pencher la balance en faveur de l'humanité" .

Il a déclaré que les États-Unis, l'Union européenne et d'autres pays "aux vues similaires" étaient parvenus à un "accord historique" avec certaines entreprises travaillant à la pointe de l'IA sur le principe de l'évaluation rigoureuse des modèles avant et après leur déploiement.

Yoshua Bengio, reconnu par comme le parrain de l'IA, contribuera à la rédaction d'un rapport sur l'état de la science, afin de parvenir à une compréhension commune des capacités et des risques qui se profilent à l'horizon.

"Jusqu'à présent, les seules personnes qui ont testé la sécurité des nouveaux modèles d'IA étaient les entreprises qui les développaient", a déclaré M. Sunak. "Nous ne devrions pas compter sur elles pour corriger leurs propres devoirs, comme beaucoup d'entre elles le reconnaissent

LA VOIE À SUIVRE

Le sommet a réuni une centaine d'hommes politiques, d'universitaires et de dirigeants d'entreprises technologiques afin de tracer la voie à suivre pour une technologie qui pourrait transformer le fonctionnement des entreprises, des sociétés et des économies, certains espérant créer un organisme indépendant chargé d'assurer une surveillance mondiale.

Une première pour les efforts occidentaux visant à gérer le développement sûr de l'IA: un vice-ministre chinois s'est joint à d'autres dirigeants politiques mercredi lors du sommet consacré aux modèles polyvalents hautement performants appelés "IA frontière".

Wu Zhaohui, vice-ministre chinois de la science et de la technologie, a signé une "déclaration de Bletchley" mercredi, mais la Chine n'était pas présente jeudi et n'a pas apposé son nom à l'accord sur les essais.

M. Sunak a été critiqué par certains législateurs de son propre parti pour avoir invité la Chine, après que de nombreux gouvernements occidentaux ont réduit leur coopération technologique avec Pékin, mais M. Sunak a déclaré que tout effort en matière de sécurité de l'IA devait inclure ses principaux acteurs.

Il a également déclaré que cela montrait le rôle que la Grande-Bretagne pouvait jouer dans le rapprochement des trois grands blocs économiques que sont les États-Unis, la Chine et l'Union européenne.

"La décision d'inviter la Chine n'a pas été facile à prendre, et beaucoup de gens m'ont critiqué pour cela, mais je pense que c'était la bonne décision à long terme", a déclaré M. Sunak lors d'une conférence de presse.

OpenAI, Anthropic, Google DeepMind, Microsoft MSFT.O , Meta META.O et xAI, soutenus par Microsoft, ont participé aux sessions du sommet jeudi, aux côtés de dirigeants tels que la présidente de la Commission européenne Ursula von der Leyen, la vice-présidente des États-Unis Kamala Harris et le secrétaire général de l'ONU António Guterres.

Mme Von der Leyen a déclaré que les algorithmes complexes ne pouvaient jamais être testés de manière exhaustive et que, par conséquent, "nous devons avant tout nous assurer que les développeurs agissent rapidement lorsque des problèmes surviennent, à la fois avant et après la mise sur le marché de leurs modèles".

L'entrepreneur Elon Musk a déclaré mercredi aux participants que les gouvernements ne devraient pas se précipiter pour mettre en place une législation sur l'IA, selon deux sources.

Il a plutôt suggéré que les entreprises utilisant la technologie étaient mieux placées pour découvrir les problèmes et qu'elles pouvaient partager leurs conclusions avec les législateurs chargés de rédiger de nouvelles lois.

Le milliardaire a eu les derniers mots sur l'IA après lafin du sommet , lors d'une conversationavec Sunak, qui sera diffusée plus tard dans la journée de jeudi sur X Musk, la plateforme anciennement connue sous le nom de Twitter.

"Nous vivons l'époque la plus intéressante qui soit", a-t-il déclaré. "Je pense qu'il y a 80 % de chances que ce soit bon, et 20 % que ce soit mauvais, et je pense que si nous sommes conscients et attentifs à la mauvaise partie, tout compte fait, ce sera l'avenir que nous voulons"