Incident 963: Google signale à la Commission australienne de sécurité électronique des allégations de terrorisme et d'exploitation d'enfants générées par Gemini
Description: Google a signalé à la Commission australienne de sécurité électronique avoir reçu 258 plaintes à l'échelle mondiale concernant des contenus terroristes deepfake générés par l'IA et 86 concernant des contenus pédopornographiques créés avec son IA Gemini. Le régulateur a qualifié cela de « première mondiale » en matière d'utilisation abusive de l'IA. Si Google utilise la correspondance de hachage pour détecter les contenus pédopornographiques, il ne dispose pas de système similaire pour les contenus extrémistes.
Editor Notes: Timeline note: Google's reporting period for this data was April 2023 to February 2024. The information was widely reported on March 5, 2025.
Outils
Nouveau rapportNouvelle RéponseDécouvrirVoir l'historique
Le Moniteur des incidents et risques liés à l'IA de l'OCDE (AIM) collecte et classe automatiquement les incidents et risques liés à l'IA en temps réel à partir de sources d'information réputées dans le monde entier.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Google et Gemini, a endommagé General public , General public of Australia , Google Gemini users , Victims of deepfake terrorism content , Victims of deepfake child abuse et Victims of online radicalization.
Système d'IA présumé impliqué: Gemini
Statistiques d'incidents
ID
963
Nombre de rapports
1
Date de l'incident
2025-03-05
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
SYDNEY, 6 mars (Reuters) - Google a informé les autorités australiennes qu'il avait reçu plus de 250 plaintes dans le monde en près d'un an, selon lesquelles son logiciel d'intelligence artificielle avait été utilisé pour créer du contenu t…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents