((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
Anthropic a déclaré lundi que les nouvelles mesures destinées à empêcher ses concurrents de copier les capacités de ses modèles d’IA « Claude » avaient permis de réduire d’environ 90% à 99% les données récoltées lors d’attaques dites de « distillation ».
* La « distillation de modèles » est devenue une préoccupation majeure pour les grandes entreprises du secteur de l’IA en raison de l’intensification de la concurrence entre les États-Unis et la Chine. Des sociétés telles qu’Anthropic, OpenAI et Google GOOGL.O affirment que cette pratique permet aux concurrents de reproduire des capacités avancées plus rapidement et à moindre coût.
* Anthropic a déclaré que les mesures de protection limitant l’accès au raisonnement de Claude ont fortement réduit les tentatives d’extraction, « le nombre de tokens de raisonnement extraits par les distillateurs » étant désormais « 10 à 100 fois inférieur à ce qu’il était auparavant ».
* L’entreprise, dont le siège social est situé en Californie, a déclaré avoir rendu plus difficile l’utilisation de réseaux de proxy pour sonder de manière répétée le raisonnement protégé de Claude, bloquant ainsi les tentatives d’extraction et entravant les efforts de distillation à grande échelle
* Anthropic a déclaré que son système de sécurité était « à peu près aussi robuste que ceux qui empêchent Claude de contribuer à la fabrication d’armes biologiques » et qu’il présentait « un taux de faux positifs inférieur à 0,1% »
* Anthropic a banni des dizaines de milliers de comptes liés à des campagnes de « distillation » et a cité la start-up chinoise d’IA Z.ai 2513.HK , également connue sous le nom de Zhipu, comme exemple d’entreprise ayant tenté d’extraire des capacités de Claude lors du développement de son modèle GLM-5.3, avertissant que de telles pratiques posaient des risques pour la sécurité et la sécurité nationale
* Z.AI n’a pas immédiatement répondu à une demande de commentaire
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer