Description: ChatGPT has reportedly been experiencing errors and service disruptions caused by hard-coded filters designed to prevent it from producing potentially harmful or defamatory content about certain individuals by blocking prompts containing specific names, likely related to post-training interventions. The reported names are Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, David Mayer, and Guido Scorza.
Editor Notes: For the reference to Jonathan Turley, see Incident 506; for Brian Hood, see Incident 507. This incident also presents potential adversarial vulnerabilities, as well as unintended consequences for users sharing affected names.
推定: OpenAI と ChatGPTが開発し、OpenAI と ChatGPT usersが提供したAIシステムで、ChatGPT users , Jonathan Zittrain , Jonathan Turley , Guido Scorza , David Mayer , David Faber と Brian Hoodに影響を与えた
インシデントのステータス
インシデントID
855
レポート数
2
インシデント発生日
2024-11-30
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
arstechnica.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
OpenAI の ChatGPT は、単なる派手なインターフェースを備えた AI 言語モデルではありません。これは、AI モデルとコンテンツ フィルターのスタックで構成されたシステムであり、その出力によって OpenAI が恥ずかしい思いをしたり、ボットが人に関する 潜在的に有害な事実をでっち上げ 場合に同社が法的トラブルに巻き込まれたりしないようにします。
最近、この事実がニュースになりました。人々が発見した「David Mayer」という名前がChatGPTを破綻させると…
nytimes.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
イギリスのマンチェスターに住む演劇教授のデイビッド・メイヤー氏は、人生の最後の数年間、不幸な偶然の連鎖的な結果に直面した。テロ監視リストに載っていたチェチェンの反乱軍の死者が、かつてメイヤー氏の名前を偽名として使っていたのだ。
家族によると、本物のメイヤー氏は旅行計画を妨害され、金融取引は凍結され、重要な学術通信はブロックされた。そのフラストレーションは、2023年に94歳で亡くなるまで彼を悩ませた。
しかし今月、彼のアイデンティティーを守る闘いが再び注目を集めた。鋭い目を持…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
/cloudfront-us-east-2.images.arcpublishing.com/reuters/56IRXWYJKRIUXF4PYIBCBMSIUY.jpg)
