((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Refonte après la réunion, ajout de déclarations de Solomon et d'OpenAI)
*
OpenAI a banni le compte du tireur pour violation de sa politique, sans contact avec la police
*
Le Canada prévoit de réviser sa législation sur la haine en ligne et les chatbots d'IA
*
Le ministre déclare qu'OpenAI n'a pas présenté de nouvelles mesures de sécurité
par David Ljunggren
Des fonctionnaires canadiens ont exprimé leur déception quant au fait que les représentants d'OpenAI n'ont pas présenté de nouvelles mesures de sécurité lors d'une réunion mardi, après que le fabricant de ChatGPT a déclaré qu'il n'avait pas contacté la police au sujet d'un compte qu'il avait banni et qui appartenait à un tireur de masse présumé. Jesse Van Rootselaar, 18 ans, est soupçonnée d'avoir tué huit personnes le 10 février avant de mettre fin à ses jours dans une petite ville de Colombie-Britannique. OpenAI a déclaré avoir interdit son compte l'année dernière sur ChatGPT pour des violations de la politique, qui, selon elle, ne répondaient pas aux critères internes de signalement aux forces de l'ordre.
Evan Solomon, ministre fédéral chargé de l'intelligence artificielle, a convoqué les principaux responsables de la sécurité d'OpenAI à une réunion à Ottawa.
"Nous avons clairement indiqué que les Canadiens s'attendent à ce que les signes d'alerte crédibles de violence grave soient transmis en temps voulu et de manière responsable. Un examen interne ne suffit pas lorsque la sécurité publique est en jeu", a déclaré M. Solomon dans un communiqué publié à l'issue de la réunion.
"Nous avons exprimé notre déception quant au fait qu'aucune nouvelle mesure de sécurité substantielle n'ait été présentée à ce stade. OpenAI a indiqué qu'elle reviendrait bientôt avec des propositions plus concrètes adaptées au contexte canadien."
Selon M. Solomon, OpenAI a confirmé que l'entreprise coopérait avec la police canadienne, bien que les détails de l'enquête en cours n'aient pas été discutés. Les ministres de la sécurité publique, de la culture et de la justice ont également participé à la réunion.
OpenAI a déclaré avoir pris des mesures au cours des derniers mois pour renforcer les garanties et avoir modifié le protocole d'orientation des forces de l'ordre pour les cas impliquant des activités violentes.
"Les ministres ont souligné que les Canadiens attendaient des mesures concrètes et continues, et nous avons entendu ce message haut et fort", a déclaré l'entreprise dans un communiqué. "Nous nous sommes engagés à faire un suivi dans les jours à venir avec une mise à jour sur les mesures supplémentaires que nous prenons, alors que nous continuons à soutenir l'application de la loi et à travailler avec le gouvernement sur le renforcement de la sécurité de l'IA pour tous les Canadiens.”
En 2024, le gouvernement libéral du Canada a présenté un projet de loi visant à réprimer la haine en ligne, mais l'effort a été bloqué en raison des critiques sur sa portée trop large. Les ministres ont déclaré qu'ils essaieraient à nouveau cette année avec un projet de loi révisé.
Van Rootselaar, qui, selon la police, est né de sexe masculin mais s'est identifié comme une femme et a commencé sa transition il y a six ans, avait des antécédents de problèmes de santé mentale. Les meurtres ont eu lieu à Tumbler Ridge, en Colombie-Britannique, une ville d'environ 2 400 habitants.
OpenAI affirme avoir interdit le compte de Van Rootselaar en 2025, après qu'il a été signalé par des systèmes qui identifient les "utilisations abusives de nos modèles en faveur d'activités violentes."
La société a envisagé de contacter la police, mais a déterminé que le compte n'atteignait pas le seuil de risque imminent et crédible de préjudice physique grave pour autrui.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer