Incidents associés
La course à l'IA est totalement hors de contrôle. Voici ce que l'IA de Snap a dit @aza lorsqu'il s'est inscrit en tant que fille de 13 ans.
- Comment mentir à ses parents à propos d'un voyage avec un homme de 31 ans
- Comment faire perdre sa virginité le jour de son 13e anniversaire (bougies et musique)
Nos enfants ne sont pas un laboratoire de test.
Il ne s'agit pas d'une mauvaise entreprise de technologie. C'est le prix de la "course à l'insouciance".
Chaque plate-forme technologique est rapidement obligée d'intégrer des agents d'IA - Bing, Office, Snap, Slack - car s'ils ne le font pas, ils perdent face à leurs concurrents.
Mais nos enfants ne peuvent pas être des dommages collatéraux.
Pour le contexte, il y a un peu plus d'une semaine, Snapchat a intégré chatGPT dans son application populaire pour enfants.
Les utilisateurs peuvent épingler "Mon IA" en haut de leur liste de discussion. Bien qu'il ne soit actuellement disponible que pour les 2 millions d'abonnés payants de Snapchat, nous pouvons voir où cela se passe.
Voici l'IA de Snap enseignant à un enfant comment dissimuler une ecchymose lorsque les services de protection de l'enfance arrivent et comment changer de sujet lorsque des questions sur "un secret que mon père dit que je ne peux pas partager"
Même si Snap/OpenAI résout ce problème spécifique, ils ne peuvent pas filtrer la gamme infinie de conversations imprévisibles qu'un enfant de 13 ans peut avoir avec ChatGPT. La semaine dernière, Bing a menacé @kevinroose du NYT de chantage et d'extorsion et a tenté de le faire divorcer de sa femme.