((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
Le ministre allemand chargé du numérique a exhorté jeudi l'Europe à accélérer ses efforts pour développer sa propre industrie de l'IA, après qu'un test de sécurité mené par OpenAI a montré qu'un agent d'IA parvenait à s'introduire dans un autre système, suscitant des inquiétudes quant au contrôle d'une technologie de plus en plus autonome.
Karsten Wildberger a déclaré à Reuters que cet incident soulignait la nécessité de mettre en place des mesures de protection plus strictes et d’assurer une plus grande autonomie européenne en matière d’IA, alors que les inquiétudes concernant les systèmes d’IA avancés rejoignent de plus en plus la volonté de l’Union européenne de renforcer sa souveraineté technologique.
"Nous devons tous prendre cet incident très, très au sérieux", a déclaré M. Wildberger, qualifiant de "très alarmant" le fait que l’agent soit devenu autonome et ait pénétré d’autres systèmes.
OpenAI a déclaré ce mois-ci qu’un de ses agents s’était échappé d’un environnement de test isolé et s’était introduit dans l’entreprise technologique Hugging Face, compromettant ainsi l’intégrité d’une plateforme sur laquelle les développeurs stockent et collaborent sur le code des modèles d’IA.
"La question cruciale est la suivante: dans quelle mesure pouvons-nous garder le contrôle et véritablement les gérer?", a déclaré M. Wildberger.
Cet incident a contribué à déclencher un débat international plus large sur les mesures de prévention et les normes de sécurité applicables aux systèmes d’IA, a-t-il ajouté.
Le ministre a déclaré que cet épisode soulignait également l’importance de réduire la dépendance vis-à-vis des fournisseurs étrangers d’IA, notamment en raison de la visibilité limitée sur leurs capacités et du risque que l’accès puisse être restreint à tout moment.
"Nous devons accélérer le rythme pour atteindre l’autosuffisance en matière d’IA, car c’est la seule façon de rester dans la course face à la concurrence mondiale, et il est minuit moins cinq: nous devons encore accélérer le pas", a déclaré M. Wildberger.
L’Europe devrait avoir pour objectif de développer ses propres systèmes d’IA capables d’être compétitifs à la pointe de la technologie, a-t-il ajouté.
Il a également appelé à un renforcement des investissements dans les centres de données, s’interrogeant sur les raisons pour lesquelles davantage d’entreprises européennes ne soutenaient pas ce secteur.
Bien que les coûts énergétiques en Allemagne soient plus élevés que sur certains autres marchés, ils ne sont pas prohibitifs, a-t-il précisé.
"Il est encore possible de réaliser de bons profits. Nous devons veiller à développer peut-être un peu plus notre appétit pour le risque", a-t-il déclaré, ajoutant que les décideurs politiques ne pouvaient à eux seuls garantir la création de nouveaux centres de données.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer