Incidents associés
Les appels automatisés avec la voix générée par l’IA du président Joe Biden passés aux électeurs du New Hampshire avant les primaires de l’État le mois dernier auraient été effectués par une société de télécommunications basée au Texas, appelée Life Corporation, a déclaré mardi le bureau du procureur général du New Hampshire.
En plus de l’entreprise, le bureau du procureur général a également identifié un individu, Walter Monk, comme étant la personne derrière l’opération, qui a utilisé une technologie d’apprentissage automatique deepfake pour se faire passer pour Biden et a exhorté les électeurs démocrates à rester loin des urnes le jour des primaires.
Dans un communiqué, le procureur général du New Hampshire, John Formella, a d éclaré que l’enquête rapide et la collaboration avec les partenaires du secteur privé « envoient un message clair selon lequel les forces de l’ordre, les organismes de réglementation et l’industrie restent vigilants et travaillent en étroite collaboration pour surveiller et enquêter sur tout signe d’utilisation malveillante de l’IA pour menacer notre processus démocratique ».
« Il est essentiel de garantir la confiance du public dans le processus électoral. Les enregistrements générés par l’IA utilisés pour tromper les électeurs peuvent avoir des effets dévastateurs sur le processus électoral démocratique », a-t-il ajouté.
La prolifération rapide de la technologie de l’IA fait craindre à de nombreux experts en sécurité électorale que des médias générés de manière synthétique puissent être utilisés pour inonder les électeurs de désinformation, et l’incident du New Hampshire a illustré la promesse d’utiliser l’apprentissage automatique pour cibler les électeurs avec des messages se faisant passer pour des fonctionnaires ou des candidats à des fonctions publiques.
L’annonce de mardi fait suite à une enquête menée par l’Election Law Unit du New Hampshire et l’Anti-Robocall Multistate Litigation Task Force – un consortium composé de la Federal Communications Commission et de fonctionnaires de l’État – sur ces appels. YouMail et Nomorobo, deux sociétés de blocage des appels automatisés, et Industry Traceback Group, une plateforme de traçage des appels automatisés, ont fourni une assistance technique.
Les enquêteurs ont utilisé ces services pour remonter jusqu'à Life Corporation et Monk. Une enquête plus approfondie a permis de déterminer que de nombreux appels passés aux électeurs du New Hampshire utilisaient le fournisseur de services vocaux Lingo Telecom. Lingo Telecom a suspendu ses services à Life Corporation après avoir été informé par les autorités de son rôle dans les appels falsifiant Biden, selon le bureau du procureur général du New Hampshire.
Les chercheurs cités par Wired et [Bloomberg](https://www.bloomberg.com/news/articles/2024-01-26/ai-startup-elevenlabs-bans-account-blamed-for-bide n-audio-deepfake?accessToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzb3VyY2UiOiJTdWJzY3JpYmVyR2lmdGVkQXJ0aWNsZSIs ImlhdCI6MTcwNjMwNTEyNywiZXhwIjoxNzA2OTA5OTI3LCJhcnRpY2xlSWQiOiJTN1cxOUtEV1JHRzEwMCIsImJjb25uZWN0SWQiOiIyRTVEMTgxNUE0MDY0RTBGQjA1QzQxNUNBNUQ0NzFDRiJ9.gMHey_QLSxtdfmOHHieFDkYh85QU3ASVkMOfxLS_NSs&sref=CrGXSfHu&ref=platformer.news) a affirmé que le deepfake audio de Biden avait été créé à l'aide d'outils développés par ElevenLabs, une startup d'IA, mais les autorités du New Hampshire ont déclaré qu'elles n'avaient pas confirmé ce lien.
Le bureau du procureur général du New Hampshire a envoyé une lettre de cessation et d'abstention à Life Corporation, citant les lois de l'État qui rendent illégal le fait de « s'engager dans la suppression des électeurs en tentant sciemment d'empêcher ou de dissuader une autre personne de voter ou de s'inscrire pour voter sur la base de motifs ou d'informations frauduleux, trompeurs, mensongers ou infondés ». Le bureau a déclaré avoir émis des avis d'assignation à comparaître pour la conservation des documents et des dossiers à la fois à Life Corporation et à Lingo Telecom.
Il existe peu d'informations publiques sur Life Corporation, qui ne semble pas avoir de site Web faisant la publicité de ses services. Monk est répertorié par le Better Business Bureau comme le contact principal de l'entreprise. Un appel téléphonique à un numéro répertorié pour Life Corporation et des messages envoyés via LinkedIn à une personne basée au Texas portant le même nom demandant des commentaires n'ont pas reçu de réponse.
Dans une lettre de cessation et d'abstention distincte, la FCC a averti Lingo que la société violait les réglementations qui l'obligent à prendre « des mesures positives et efficaces pour empêcher les nouveaux clients et les clients renouvelants d'utiliser son réseau pour émettre des appels illégaux ». La FCC a averti que le non-respect de cette obligation pourrait entraîner le blocage du trafic en ligne de Lingo Telecom par les fournisseurs en aval.
Selon la FCC, Lingo a identifié Life Corporation comme l'initiateur des appels.
La lettre de la FCC indique que Lingo a signé des documents supplémentaires validant l'authenticité de la partie derrière les appels, qui ont usurpé le numéro de téléphone d'un ancien responsable du Parti démocrate du New Hampshire qui menait une campagne d'inscription pour Biden dans l'État.
« De plus, Lingo a signé ces appels avec une « attestation de niveau A » — qui signale aux fournisseurs en aval du chemin d’appel que le fournisseur signataire a une relation directe authentifiée avec le client et que le client a le droit d’utiliser le numéro de téléphone qui apparaît dans le champ d’identification de l’appelant », a écrit Loyaan Egal, chef du bureau d’application de la loi de la FCC.
La lettre donne à Lingo Telecom 48 heures pour mettre fin au trafic illégal utilisant ses services et 14 jours pour mettre en œuvre des « mesures efficaces » pour empêcher les nouveaux clients ou les clients récurrents de mener des opérations similaires.
Dans un avis public publié mardi, la FCC a déclaré que Lingo Telecom et Life Corporation ont été impliquées dans des enquêtes précédentes sur les appels automatisés.
Lingo a servi de fournisseur de passerelle pour 61 appels illégaux présumés illégaux entrant aux États-Unis depuis l’étranger depuis 2021, selon l’Industry Traceback Group. En 2022, l'Anti-Robocall Multistate Litigation Task Force a émis une demande d'enquête auprès de Lingo concernant un trafic d'appels automatisés suspecté transmis depuis son réseau. La même année, la Federal Trade Commission a émis une lettre de mise en demeure à Matrix Telecom, l'ancien nom commercial de Lingo, identifiant de nombreux appels illégaux.
En 2003, la FCC a cité Life Corporation pour avoir envoyé des publicités préenregistrées illégales et non sollicitées sur des lignes téléphoniques résidentielles.
En novembre 2023, la procureure générale adjointe spéciale de Caroline du Nord, Tracy Nayer, a envoyé une lettre à Alex Valencia, responsable de la conformité de Lingo Telecom, affirmant qu’au moins 517 avis de traçage pour des appels illégaux avaient été liés à Lingo Telecom depuis janvier 2020, y compris des « campagnes d’appels automatisés à volume élevé ».
« Si une enquête plus approfondie montre que votre client continue d’aider ses clients en initiant et/ou en transmettant un trafic d’appels qui n’est pas différent du trafic mis en évidence dans cet avis, le groupe de travail peut décider d’engager une action coercitive contre votre client et ses principaux propriétaires et opérateurs », a écrit Nayer.
Les messages envoyés à Valencia via LinkedIn et les e-mails envoyés au cabinet d’avocats répertorié par les autorités de Caroline du Nord pour Lingo Telecom n’avaient pas reçu de réponse au moment de la publication.