Résumé de l'incident d'IA : 23 mai-juin

Lisez notre bulletin d'information mensuel qui résume les nouveaux incidents dans la base de données des incidents IA et découvrez les tendances.

🗄 Tendances de la base de données

Avec la prolifération croissante d'outils d'IA générative, nous constatons une tendance continue d'erreurs factuelles et de deep fakes positionnés comme de la désinformation. Ce printemps, de profondes contrefaçons politiques ont fait leur apparition lors des élections présidentielles et des campagnes. Pendant ce temps, les résultats des chatbots auraient produit une jurisprudence inexistante et accusé des photographes de crimes de guerre.

L'incident 545 met en évidence un autre type de données que nous suivons dans la base de données : les « problèmes » d'IA qui annoncent des incidents d'IA. Dans ce cas, Vice a rapporté fin mai que la National Eating Disorders Association (NEDA) avait décidé de remplacer le personnel de la ligne d'assistance téléphonique sur les troubles de l'alimentation par un chatbot nommé Tessa. Quelques jours plus tard seulement, Vice et de nombreux autres médias ont rapporté que la NEDA avait désactivé leur ligne d'assistance pour des réponses prétendument « nuisibles ». Cet exemple montre comment l'AIID capture les risques lorsqu'ils passent d'un incident en attente à un préjudice réalisé.

🗞️ Nouveaux incidents

Chatbots

#541: ChatGPT aurait produit une fausse jurisprudence judiciaire présentée par un avocat devant le tribunal
#545: Le chatbot Tessa fournit des conseils diététiques non autorisés aux utilisateurs cherchant de l'aide pour des troubles de l'alimentation
#548: L'IA basée sur GPT d'Opera aurait accusé les photographes de guerre de crimes de guerre
#539: Mon IA de Snapchat signalée pour manque de protection des enfants
#549: Les chatbots alimentés par l'IA des chaînes de restauration rapide n'ont pas aidé les demandeurs d'emploi à planifier des entretiens
#552: Bing Chat a résolu CAPTCHA avec une fonction d'analyse d'image malgré les mesures de sécurité

Deepfakes

#543: L'explosion d'un deepfake près du bâtiment de l'administration militaire américaine aurait provoqué une baisse des stocks
#544: Deepfakes et désinformation générée par l'IA lors de l'élection présidentielle turque de 2023
#547: La campagne de Ron DeSantis a publié une vidéo Twitter contenant des images d'IA pour salir Donald Trump
#551: Le FBI a signalé une augmentation des cas d'extorsion à partir de médias d'intelligence artificielle présentant des activités sexuelles explicites

Véhicules autonomes

#533: Tesla FSD a identifié à tort un camion transportant des feux de circulation comme une piste de feux de circulation
#550: Tesla aurait sur le pilote automatique frappé un lycéen sortant du bus scolaire
#540: Tesla n'a pas cédé à un piéton détecté dans le passage pour piétons, prétendument en violation du code de la route

Biais

#535: Les modèles de détection et de pronostic du COVID-19 seraient entachés de défauts et de biais méthodologiques sous-jacents
#546: Algorithme pour distribuer le bien-être social signalé par la simplification de la vulnérabilité économique

Autres

#536: L'utilisation par NJ Transit d'un logiciel de modélisation a mal estimé le niveau de menace des ondes de tempête
#553: L'utilisation du logiciel de modélisation NJ Transit a mal calculé le niveau de menace d'onde de tempête Google Overview Dashboard pour l'artiste Edward Hopper Image sélectionnée générée avec son style d'IA
#554: Les résultats de Google pour Johannes Vermeer ont présenté la version IA de son œuvre comme premier résultat

👇 Plonger plus profondément

Explorez des groupes d'incidents similaires dans Visualisation spatiale
Consultez Table View pour une vue complète de tous les incidents
En savoir plus sur les développeurs, les déployeurs et les parties lésées présumés dans Entities Page

🦾 Soutenez nos efforts

Toujours en train de lire ? Aidez-nous à changer le monde pour le mieux !

Partagez cette newsletter sur LinkedIn, Twitter et Facebook
Soumettez incidents à la base de données
Contribuez aux fonctionnalités de la base de données