CrowdStrike a dévoilé une nouvelle fonction de sécurité permettant aux entreprises de neutraliser rapidement les agents d'intelligence artificielle dont le comportement devient dangereux ou incontrôlable. Baptisé "AI kill switch", ce dispositif est intégré à Falcon Guardian, sa plateforme de protection des agents autonomes lancée en septembre. Le spécialiste américain de la cybersécurité a également annoncé une intégration avec Claude Cowork d'Anthropic et deux projets d'acquisition destinés à renforcer son offre de sécurité de l'IA.
La nouvelle fonction permet aux équipes de cybersécurité d'interrompre l'exécution d'un agent, de bloquer son redémarrage et de lui retirer l'accès au réseau de l'entreprise. Elle s'appuie sur les capacités de contrôle de la plateforme Falcon, qui peut détecter l'activité des agents directement dans les environnements informatiques protégés. La décision d'intervenir reste toutefois entre les mains d'un opérateur humain, chargé d'évaluer le caractère légitime ou malveillant des comportements observés. CrowdStrike présente cette approche comme une solution opérationnelle aux difficultés techniques que pose l'arrêt de systèmes d'IA fonctionnant sur des infrastructures complexes et distribuées.
Cette initiative intervient dans un contexte de préoccupations croissantes concernant les risques associés aux agents autonomes, alimentées par plusieurs cyberincidents majeurs, notamment une attaque contre Hugging Face impliquant des agents d'OpenAI devenus incontrôlables. Aux États-Unis, des parlementaires ont également proposé une législation bipartisane visant à imposer des mécanismes d'arrêt d'urgence aux développeurs de modèles d'IA. Pour CrowdStrike, l'enjeu consiste à permettre aux entreprises de déployer ces technologies tout en conservant la capacité d'interrompre immédiatement leurs actions lorsqu'elles présentent un risque pour les systèmes informatiques.
Le groupe prévoit parallèlement d'acquérir Fiddler AI, spécialisé dans l'observabilité des systèmes d'intelligence artificielle, et Dreadnode, qui développe des outils d'évaluation de leur sécurité. Ces opérations doivent compléter ses capacités de surveillance, de détection et de protection des agents autonomes. Elles s'inscrivent dans une vague de consolidation du secteur de la cybersécurité, où les fournisseurs multiplient les acquisitions pour répondre aux nouveaux risques liés à l'IA. CrowdStrike entend ainsi renforcer sa position sur un marché émergent, porté par la généralisation des agents capables d'exécuter des tâches et de prendre des décisions de manière autonome.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer