「AIインシデントレスポンス」の定義

AIインシデントレスポンス は、AIインシデントデータベース（AIID）の**インシデントに対する公的な対応を指し、該当のインシデントにおいて、AIまたはAIシステムの開発または導入に責任を負っているとされるエンティティ**（企業、組織、個人）からのものです。

AIインシデントレスポンスには通常、以下の点に関する合理的な情報が含まれます：

  1. 何が起こったか
  2. インシデントが発生した理由
  3. エンティティが行ったまたは今後行うであろう対応に関する
    1. インシデントの是正
    2. 将来のインシデントの再発防止

インシデントレスポンスの提出

AIインシデントデータベースは、AIインシデントに関する情報、構造、および視点を提供するために設計されています。エンティティが1つまたは複数のインシデントのエンティティとしてリストされている場合、あなたの視点を提供するために一緒に作業したいと考えています。データベースに直接レスポンスを提出するか、お問い合わせしてレスポンスの提出について相談してください。

AIインシデントレスポンスの目的

AIIDに対するレスポンスを公開することは、責任を負っているとされるエンティティが、インシデントの議論において声を持つ機会であり、将来の被害を予防し、AIの倫理的で責任ある実践を促進するためのものです。

レスポンスは以下の目的で活用されます：

  • AIインシデントに関する透明性を一般に提供し、根本的な原因、エンティティが行ったまたは行う被害の是正および/または将来の被害の予防に関する情報を提供すること
  • 積極性とリーダーシップを示すこと
  • AIシステムの基盤となる技術的な知識に基づくエンティティ固有の視点と関連する分析を強調すること

完全で詳細なインシデントレスポンスは、同時に社会と企業の利益に貢献する機会です。何が「完全で詳細」であるかを説明するために、既にインシデントデータベースにあるいくつかのインシデントレスポンスの例と、それらがどこで改善できるかを紹介します。

インシデントレスポンスの例

レポート1：Knightscopeがフィールドインシデントレポートを発行

インシデントの説明：2016年7月7日、Knightscope K5自律型セキュリティロボットがカリフォルニア州パロアルトのスタンフォードショッピングセンターで巡回中に、16か月の男児と衝突しました。

Knightscope, Inc.によるインシデントレスポンス抜粋：

「K5 Autonomous Data Machinesは25,000マイル以上走行し、通常は約1マイル毎時で走行し、報告されたインシデントはありませんでした。社会メディアでは、毎日大人、子供、大型および小型のペットとの数千のエンカウンターが報告されており、これらは報告されたインシデントなしに行われています。各K5には、レーザーレンジングデバイス、ソナーセンサー、頑丈なソフトウェアスタックを含む約30のセンサーが搭載されており、マシンが周囲の環境を1インチ未満から300フィート以上先まで感知する能力を提供しています。」

このレポートがAIインシデントレスポンスである理由： このレポートは、インシデントがなぜ起こったのか、関与したAIに関する詳細、関係者との公の謝罪およびインシデントの是正方法についてのエンティティの視点を提供しています。

レスポンスから欠落しているもの： エンティティは将来のインシデントの防止に関する詳細を提供していませんでした。

レポート2：ジョージア、ベトナム、および米国からの調整された不正行為の削除

インシデントの説明：The BLと関連付けられた大規模なページ、グループ、GAN生成の顔写真を持つ偽アカウントのネットワークが、米国のメディアアウトレットであるThe BLの政治的なナラティブをプラットフォームとInstagramで推進するために、Facebookのモデレーションシステムをバイパスしたとされています。

Facebookによるインシデントレスポンス抜粋：

Facebookは攻撃を実施していないが、彼らのユーザーをこれらの攻撃から保護する責任を持つソーシャルメディアプラットフォームとしての関与が、彼らのレスポンスをインシデントレスポンスとして資格付けます。

私たちはこのタイプの活動を検出および停止するために常に取り組んでいます。私たちのサービスが人々を操作に使用されないようにしたいからです。私たちは、これらのページ、グループ、およびアカウントを彼らの行動に基づいて取り下げています。これらのケースでは、この活動の背後にいる人々がお互いと協力し、フェイクアカウントを使用して自分自身を誤魔化すため、それが私たちの行動の根拠でした。

今日、私たちはジョージアから発信した国内志向のネットワークの一環として、Facebookアカウント39個、ページ344個、グループ13個、Instagramアカウント22個を取り下げました。

また、ベトナムと米国発信で、主に米国および一部がベトナム、スペイン語、中国語を話す観客に焦点を当てた610のアカウント、89のFacebookページ、156のグループ、72のInstagramアカウントを取り下げました。

このレポートがAIインシデントレスポンスである理由： このレポートは、The BLがFacebookサービスを使用して人々を操作した方法についての明確な説明と、インシデントおよび直ちに行われた封じ込めおよび是正プロセスに関する詳細なアカウントを提供しています。

レスポンスから欠落しているもの： エンティティは将来のインシデントや再発の被害に関する詳細を含めていませんでした。