Incidents associés
La police a arrêté jeudi un directeur sportif d'un lycée de Baltimore après avoir déclaré avoir découvert qu'il aurait utilisé l'intelligence artificielle pour créer un faux enregistrement audio du directeur de l'école qui est devenu viral et a coûté au chef d'établissement son poste temporaire et sa sécurité.
Le directeur Eric Eisworth a été démis de ses fonctions au lycée de Pikesville après que le district scolaire a commencé à enquêter sur le clip audio qui a circulé parmi le personnel et les réseaux sociaux en janvier, où il semblait que Eisworth avait fait des commentaires racistes contre des personnes noires et juives, selon les enquêteurs.
L'enquête de trois mois, qui a impliqué la police locale et le FBI, a conclu que l'audio avait été falsifié à l'aide d'outils d'IA par Dazhon Darien, le directeur sportif de l'école, selon le chef de la police de Baltimore, Robert McCollough.
"Les détectives ont allégué que M. Darien... a fait l'enregistrement pour se venger du directeur qui avait lancé une enquête sur la mauvaise gestion potentielle des fonds de l'école", a déclaré McCollough aux journalistes lors d'une conférence de presse jeudi.
La situation a commencé le 16 janvier, lorsque l'enregistrement qui semblait être une conversation entre Eisworth et un directeur adjoint a circulé pour la première fois, selon les documents d'accusation.
Dans l'enregistrement, Eisworth aurait affirmé que les élèves noirs étaient incapables de « tester leur sortie d'un sac en papier » et aurait fait des « commentaires désobligeants » sur des individus juifs et deux enseignants, selon le document d'accusation.
Les enquêteurs ont déclaré que l'enregistrement audio avait « de profondes répercussions » pour Eisworth et la communauté scolaire.
« Cela a non seulement conduit au renvoi temporaire d'Eisworth, mais a également déclenché une vague de messages haineux sur les réseaux sociaux et de nombreux appels à l'école », selon le document d'accusation.
Alors que les responsables de l'école ont commencé à enquêter sur l'incident, Eisworth a maintenu que la conversation dans l'enregistrement audio n'avait jamais eu lieu et a déclaré aux enquêteurs que Darien, 31 ans, était peut-être impliqué parce qu'il était doué en technologie, selon le document d'accusation.
Eisworth a ordonné une enquête sur Darien en décembre suite à des allégations selon lesquelles il aurait détourné les fonds de l'école, selon le document d'accusation.
Darien était l'un des trois enseignants qui ont reçu en premier l'audio d'un mystérieux e-mail, selon le document d'accusation. L'un des autres enseignants a déclaré aux enquêteurs qu'elle avait transmis le message à un élève du lycée de Pikesville « dont elle savait qu'il diffuserait rapidement le message sur divers réseaux sociaux », selon les documents d'accusation.
L'enseignant non identifié a également transmis l'audio à plusieurs médias et groupes, dont la NAACP, ont déclaré les enquêteurs.
Cet enseignant a initialement caché aux enquêteurs des informations indiquant que Darien était l'un des destinataires initiaux du message, selon le document d'accusation.
Lorsque Darien a été interrogé par les enquêteurs, il a affirmé qu'il ne savait pas qui était la personne qui lui avait envoyé l'audio, selon les enquêteurs. Cependant, les enquêteurs ont pu déterminer que l'adresse e-mail qui a envoyé l'audio était enregistrée au nom de Darien, selon le document d'accusation.
Le département de police de Baltimore a fourni l'audio à deux analystes judiciaires spécialisés dans l'IA et ils ont déterminé que l'enregistrement contenait des éléments de contenu généré par l'IA, selon le document d'accusation.
Les enquêteurs affirment que Darien a utilisé ses modèles de langage étendus, tels qu'OpenAI et Bing Chat, pour créer l'enregistrement. Le document d'accusation affirmait que Darien avait un compte OpenAI payant, qui offre aux utilisateurs plus de fonctionnalités que la version gratuite.
Il a été arrêté à l'aéroport Thurgood Marshall jeudi matin alors qu'il essayait d'embarquer sur un vol pour Houston et accusé de plusieurs chefs d'accusation, notamment de perturbation du fonctionnement d'une école et de harcèlement, selon la police et les documents d'accusation.
Les enquêteurs ont déclaré que Darien avait tenté de déclarer une arme à feu à l'aéroport et que cela avait déclenché un contrôle de sécurité qui a révélé le mandat d'arrêt émis hier soir.
L'enquête est en cours.
Darien a été libéré jeudi après-midi contre une caution non garantie de 5 000 $. Les informations de l'avocat du défendeur n'étaient pas immédiatement disponibles.
La surintendante des écoles du comté de Baltimore, Myriam Rogers, a déclaré aux journalistes que le processus administratif visant à sanctionner Darien avait commencé, ce qui, selon elle, pourrait conduire à son licenciement.
Elle a ajouté que l'école enquêtait également sur les autres enseignants impliqués dans la diffusion de l'audio.
Rogers a déclaré que pour l'instant, les dirigeants intérimaires serviraient le reste de l'année scolaire à la Pikesville High School pendant que l'enquête se poursuit.
« Nous travaillerons avec la directrice Eisworth et la communauté de Pikesville concernant l'année prochaine », a-t-elle déclaré.
« Nous sommes reconnaissants de pouvoir apporter un certain sens à la communauté et nous pouvons maintenant nous concentrer sur l'avenir et offrir à toutes les parties un nouveau départ », a ajouté Rogers.