AWS d'Amazon s'adresse aux entreprises avec un nouveau chatbot et des mesures de sécurité en matière d'IA

information fournie par Reuters •28/11/2023 à 19:33

(Ajout de détails sur le chatbot Q aux paragraphes 2, 3 et 9) par Greg Bensinger

Amazon AMZN.O tente d'attirer les grandes entreprises clientes vers son service d'informatique en nuage AWS avec un nouveau chatbot pour les entreprises, et en leur proposant de les protéger contre les dommages juridiques et de réputation qui peuvent résulter de l'utilisation de l'intelligence artificielle.

Le nouveau chatbot, appelé Q, est conçu pour favoriser la productivité en aidant les travailleurs à résumer les documents importants et les tickets d'assistance et à discuter via des applications de communication telles que Slack, a annoncé l'entreprise lors de sa conférence annuelle sur l'informatique en nuage mardi à Las Vegas. Le logiciel peut également apporter automatiquement des modifications au code source des entreprises, ce qui accélère le développement, a indiqué l'entreprise.

Le nouveau logiciel arrive environ un an après que le ChatGPT d'OpenAI a fait irruption sur la scène, déclenchant une frénésie d'investissements dans les startups d'IA générative. Alphabet

GOOGL.O et d'autres ont annoncé leurs propres chatbots, qui peuvent avoir des conversations de type humain avec les utilisateurs pour les aider dans leurs tâches quotidiennes.

Le directeur général d'AWS, Adam Selipsky, a annoncé, lors de la conférence annuelle d'Amazon sur l'informatique en nuage à Las Vegas, une nouvelle mesure de protection contre les contenus répréhensibles sur les applications d'IA générative, appelée Guardrails for Bedrock. Ce service permet aux utilisateurs de filtrer les contenus nuisibles.

L'IA générative étant entraînée sur des contenus accessibles au public, des mots offensants ou d'autres contenus répréhensibles peuvent se glisser dans les résultats des requêtes des utilisateurs. Cela est particulièrement problématique pour les jeunes utilisateurs, en période de conflit mondial ou d'élections, lorsque les résultats de recherche de l'IA générative peuvent influencer l'opinion.

Les défenseurs de la sécurité ont mis en garde contre le fait que l'IA générative pourrait échapper au contrôle de ses créateurs humains et produire des contenus de plus en plus dangereux ou faire fonctionner des systèmes entiers sans surveillance. Ils s'inquiètent notamment de voir le logiciel diffuser des contenus influents - et convaincants - sur des sites de médias sociaux tels que X et Facebook META.O .

M. Selipsky a déclaré que le nouveau service était important pour que les clients puissent imposer les limites qu'ils jugent appropriées à l'IA générative qu'ils utilisent.

"Par exemple, une banque pourrait configurer un assistant en ligne pour qu'il s'abstienne de fournir des conseils en matière d'investissement", a déclaré Selipsky. "Ou, pour éviter les contenus inappropriés, un site de commerce électronique pourrait s'assurer que son assistant en ligne n'utilise pas de discours haineux ou d'insultes."

Dans le cadre de son attrait pour les entreprises, Amazon a déclaré que le chatbot Q offrira aux entreprises des limites afin qu'il puisse garder les données sensibles à l'abri des employés qui ne devraient pas y avoir accès. Le prix commencera à 20 dollars par utilisateur et par an.

Lors de la conférence, Amazon a également annoncé qu'elle indemniserait ses clients en cas de poursuites judiciaires fondées sur l'utilisation abusive de documents protégés par des droits d'auteur. La société de photographie Getty Images, par exemple, a intenté un procès à Stability AI au début de l'année, alléguant qu'elle avait récupéré des images de son site web sans autorisation.

Guardrails for Bedrock est disponible en avant-première limitée dès aujourd'hui, selon Amazon. La société de Seattle n'a pas fourni de détails supplémentaires sur sa politique d'indemnisation.