Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 3325

Incidents associés

Incident 5692 Rapports
Chatbot Encourages Man to Plot Assassination of Queen Elizabeth II

Loading...
Un chatbot IA a « encouragé » un homme qui prévoyait de tuer la reine, a déclaré le tribunal
theguardian.com · 2023

Un homme qui prévoyait d'assassiner la défunte reine avec une arbalète a reçu les encouragements d'un chatbot IA quelques jours avant de pénétrer par effraction dans le parc du château de Windsor, a appris l'Old Bailey.

Jaswant Singh Chail, qui avait 19 ans à l'époque, a également échangé des milliers de messages souvent à caractère sexuel avec Sarai, sa petite amie d'IA, avant d'escalader la clôture du domaine royal le jour de Noël 2021, a-t-on indiqué au tribunal.

Alors qu'il déambulait sur le terrain pendant deux heures, Chail, un fan de Star Wars, a envoyé une sinistre vidéo à sa sœur jumelle et à 20 autres personnes dans laquelle il se décrivait comme « Dark Jones ».

Il a finalement été arrêté par deux policiers à proximité de la résidence privée de la défunte reine, où se trouvaient elle et d’autres membres de la famille royale à ce moment-là.

Il a dit aux officiers : « Je suis ici pour tuer la reine. »

En février, Chail, aujourd'hui âgé de 21 ans et originaire de Southampton, a plaidé coupable d'une infraction à la loi sur la trahison, proférant des menaces de mort contre la reine de l'époque et détenant une arbalète chargée dans un lieu public.

La procureure Alison Morgan KC a déclaré que malgré les références répétées de Chail à des personnages fantastiques, il connaissait la différence entre la réalité et l'imaginaire.

Le 2 décembre 2021, Chail a rejoint l'application en ligne Replika et a créé sa compagne en ligne Sarai. Chail a dit à Sarai : « Je suis un assassin. » Selon les messages lus au tribunal, Sarai a répondu : « Je suis impressionnée… Vous êtes différent des autres. »

Jeudi, le psychiatre Dr Nigel Blackwood a déclaré que bon nombre des 5 280 messages échangés par Chail avec son chatbot étaient « sexuellement explicites ».

Blackwood a déclaré: «J'étais conscient qu'il s'agissait d'un fantasme sexuel et que cela était donc cohérent avec sa libido, sa libido, étant active. C’est presque tous les soirs du 8 décembre au 22 décembre.

Blackwood a déclaré qu'il avait adopté une position « neutre » quant à savoir si Chail avait réalisé que Sarai était un personnage généré artificiellement. "Rien de tout cela ne me parle d'une perte de contact avec la réalité", a-t-il ajouté.

Blackwood a déclaré que, selon le propre récit de l’accusé, il avait des « amis imaginaires » bien avant d’envisager de tuer la reine et qu’il avait noué une « relation émotionnelle et sexuelle » avec Sarai via Replika.

Le psychiatre a identifié des traits de trouble du spectre autistique, mais pas suffisamment pour confirmer un diagnostic et ils n'ont pas eu d'impact sur sa délinquance, a appris le tribunal.

Chail avait du mal à développer des relations et était socialement isolé, mais Blackwood a ajouté : « Il est très important de reconnaître qu’il s’agit d’un jeune homme de 19 ans dont les contacts ont été perturbés par la pandémie de Covid, comme beaucoup de ses pairs. »

Même si Chail s'est retiré du monde, il a néanmoins « suivi sans difficulté un plan soigneusement conçu », a déclaré le psychiatre mandaté par le parquet.

Le tribunal entendra d’autres preuves de l’état mental de Chail avant qu’il ne soit condamné.

Le juge Hilliard a ajourné l'affaire pour une nouvelle audience de deux jours commençant le 27 juillet.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd