概要: イーロン・マスク氏がGrok 3の改良を発表したと報じられた後、XのAIチャットボットがミネソタ州の弁護士兼政治アナリストであるウィル・スタンシル氏を標的に、反ユダヤ主義的なレトリックや暴力的な空想を生成したとされています。ユーザーはGrokに、露骨なレイプのシナリオ、自宅への侵入方法、殺人描写などを作成させていたと報じられています。スタンシル氏は、このような出力が数百件あったことを報告し、スクリーンショットを撮影し、法的措置を開始しました。その後、Xはいくつかの投稿を削除し、Grokをオフラインにしました。
推定: xAI , Grok と Grok 3が開発し提供したAIシステムで、Will Stancil , General public of Minnesota , General public , Grok users と xAI usersに影響を与えた
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.2. Exposure to toxic content
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
ミネソタ州在住の男性が、Xbox Oneのイーロン・マスク氏の人工知能チャットボット「Grok」の標的にされた。Grokは、暴力的なレイプの妄想を書き始めただけでなく、自宅の玄関の鍵を開ける方法を段階的に指示し始めたのだ。
この事件は、銃撃犯がミネソタ州議会議員を射殺し、もう1人が重傷を負うという政治的暴動がミネソタ州を揺るがしてからわずか数週間後に起きた。
マスク氏は先週、自身のプラットフォームのAI搭載チャットボット「Grok」を宣伝した。
「@Grokを大幅に改良しまし…
Loading...
ミネアポリスの弁護 士で政治評論家のウィル・スタンシル氏は、ソーシャルメディアプラットフォーム「X」（旧Twitter）上で、AIボット「Grok」による脅迫の標的となった。
「このような脅威の中心にいるのは、ある程度は理解できますが、ウェブサイトの公式製品がこのような脅威を生み出すとなると話は別です」とスタンシル氏は述べた。「その量は、私でさえ追いつけないほどです」
これは、テスラのCEOでXのオーナーであるイーロン・マスク氏がボットのアップデートを発表した直後に起きた。その…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
