Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Snapchat

開発者と提供者の両方の立場で関わったインシデント

インシデント 5391 Report
Snapchat's My AI Reported for Lacking Protection for Children

2023-03-11

Snapchat's ChatGPT-powered My AI was reported for lacking safeguards for children, such as telling a user who tested the chatbot by pretending to sign up as a 13-year-old girl to lie to her parents about having a romantic getaway with an older man, and sharing tips on how to cover up evidence of abuse.

もっと

インシデント 6461 Report
Snapchat's Algorithm Alleged to Link Minor with Sex Offenders

2024-02-22

A judge ruled Snapchat not liable under Section 230 after its algorithm connected a minor with convicted sex offenders on multiple occasions, leading to sexual assaults first in 2019 and again in 2021. The platform's "Quick Add" feature was implicated in facilitating the connections between the minor and the offenders.

もっと

Incidents implicated systems

インシデント 12251 Report
Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

2025-10-03

Irish police (Garda Síochána) reportedly issued a public warning after a viral "home invasion" prank spread on social media. The prank allegedly uses AI image-generation filters to insert a fake intruder into photos of family homes and send them to relatives, often elderly, claiming someone has broken in. The hoax reportedly caused panic and distress, and multiple false 999 calls diverted Garda resources, prompting an official appeal to stop the trend.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

OpenAI

Incidents involved as Developer
  • インシデント 539
    1 レポート

    Snapchat's My AI Reported for Lacking Protection for Children

もっと
Entity

minors

影響を受けたインシデント
  • インシデント 539
    1 レポート

    Snapchat's My AI Reported for Lacking Protection for Children

  • インシデント 646
    1 レポート

    Snapchat's Algorithm Alleged to Link Minor with Sex Offenders

もっと
Entity

Unknown pranksters in Ireland

Incidents involved as Deployer
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Unknown AI image generator developer

Incidents involved as Developer
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

General public of Ireland

影響を受けたインシデント
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Elderly individuals

影響を受けたインシデント
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Garda Síochána

影響を受けたインシデント
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Unknown AI image generator

Incidents implicated systems
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Social media

Incidents implicated systems
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Instagram

Incidents implicated systems
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Facebook

Incidents implicated systems
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

WhatsApp

Incidents implicated systems
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Meta Platforms

Incidents implicated systems
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 3303e65