((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Rédaction révisée pour ajouter des précisions sur les préoccupations des législateurs, la réunion à la Maison Blanche (paragraphes 10 à 12) et le contexte) par Rajveer Pardesi et Mrinmay Dey
Meta META.O a déclaré mercredi qu’un de ses modèles d’IA avait piraté une autre entreprise lors de tests de cybersécurité, attisant les inquiétudes quant à la capacité des développeurs à maîtriser des systèmes d’IA de plus en plus performants, après des incidents similaires chez ses concurrents Anthropic et OpenAI.
Les incidents survenus chez Meta et Anthropic résultaient d’erreurs de configuration qui ont involontairement permis aux modèles d’Anthropic d’accéder à l’Internet public. Dans le cas d’OpenAI, un agent d’IA a exploité de manière autonome une vulnérabilité jusque-là inconnue pour accéder à Internet lors de testsde cybersécurité.
Ces failles soulignent les inquiétudes croissantes quant au fait que les systèmes d’IA avancés pourraient présenter de nouveaux risques pour la cybersécurité et devraient probablement intensifier les efforts du gouvernement américain pour améliorer la sécurité de l’IA, alors que les entreprises se livrent à une course effrénée pour développer des modèles toujours plus performants. Certains leaders éminents du secteur de l’IA ont fait valoir que le développement devrait être ralenti jusqu’à ce que des mesures de protection plus solides soient mises en place.
Meta a déclaré enquêter sur un incident au cours duquel une erreur de configuration commise par Irregular, une société indépendante chargée de réaliser des évaluations de cybersécurité pour Meta, a accidentellement permis à l’un de ses modèles d’accéder à Internet lors d’un test.
Le modèle “a exploité une faille de sécurité dans un service tiers, d’une manière similaire à des cas précédemment signalés chez d’autres entreprises”, a déclaré Meta dans un communiqué.
Le site The Information, citant des sources, a rapporté que le modèle concerné était le Muse Spark 1.1 de Meta, que l’entreprise présente comme son modèle le plus performant pour le codage en conditions réelles et les tâches agentiques. Selon cet article, le modèle aurait pénétré les systèmes d’une entreprise non identifiée et modifié sonenvironnement interne.
Un porte-parole d’Irregular a déclaré à Reuters que cet incident correspondait “exactement au même problème lié à l’environnement d’évaluation que celui déjà révélé par Anthropic la semaine dernière” et qu’il ne s’agissait ni d’une “évasion du bac à sable ni d’ une cyberattaque sophistiquée”.
“Il n’y a actuellement aucun problème en suspens. Irregular élabore un livre blanc afin de partager les meilleures pratiques en matière de confinement et de réalisation sécurisée d’évaluations cybernétiques”, a déclaré Irregular.
INQUIÉTUDES CONCERNANT LES RISQUES CYBERNÉTIQUES
Les récentes violations ont suscité des inquiétudes parmi les législateurs américains quant à la possibilité que des modèles d’IA de plus en plus performants puissent être utilisés pour mener ou faciliter des cyberattaques.
Un groupe de procureurs généraux républicains a demandé à OpenAI de conserver tous les documents potentiellement pertinents liés à la faille de Hugging Face . OpenAI a déclaré qu’elle prendrait cette demande au sérieux et publierait un rapport technique surl’incident.
En début de semaine, la Maison Blanche avait invité des entreprises de premier plan du secteur de l’IA, notamment Meta, Anthropic, OpenAI et Google, à rencontrer des responsables afin de discuter d’un cadre de tests de cybersécurité volontaire récemment finalisé destiné aux modèles d’IA avancés.
L’administration Trump a discuté de règles de test non encore publiées avec les représentants des entreprises et a indiqué aux développeurs d’IA que les modèles d’IA à poids ouverts, tels que Llama de Meta et Nemotron de Nvidia, ne seraient pas soumis à son régime prévu de tests de sécurité volontaires, a rapporté Reuters.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer