CSETv1 チャート
AIIDのCSET AI危害分類法はCSETインシデント分類法の第二版です。AIインシデントに含まれる危害、組織、技術、発生状況を特徴づけます。以下の図はCSET AI危害分類法から選択されたフィールドを示します。それぞれのフィールドの詳細についてはここで確認してください。ただし、それぞれの図の上に簡単な説明があります
この分類法はAI危害についてのCSETによる定義を示します
AI危害には適切に判定するとAI危害と判断できるようになる4つの要素があります。これらのキー要素によって危害と非危害、AI危害と非AI危害の区別が可能になります。AI危害については次が成り立たなければいけません
- 1) 組織は以下のことを被る
- 2) 危害が発生もしくは危害が発覚
- 3) 上記は以下の振る舞いの結果と直接的に関連づけることが可能
- 4) AIシステム.
この4つの要素がすべて存在しなければ、対象はAI危害とは言えません
AIIDに含まれる全てのインシデントがこのAI危害の定義を満たすわけではありません。以下の棒グラフはすべてのAIIDインシデントとCSETのAI危害定義を満たすインシデント両方の注釈付きの結果を示します。
CSETは下線部について特別な定義を作成しましたが、それは他の組織とは異なる可能性があります。そのため、他の組織はある特定のAIインシデントがAI危害かどうかについて異なった評価を行う可能性があり ます。CSETのAI危害についての詳細についてはここを参照してください
すべてのインシデントは2人のCSETアノテーターによって独立して分類されます。アノテーションはピアレビューされ、最終的に公開に先立って品質管理のためにランダムで選択されます。この厳密なプロセスにも関わらず、誤りは起こり得るため、読者が閲覧中にエラーに遭遇した場合には を促されます
インシデントはCSETのAIシステムの定義を満たすシステムを含んでいますか？
AIシステム
(インシデント数順)差別的な扱いがあった場合、その基準は何ですか？
保護された特性に基づく差別的な扱い：この特別な利益の無形の危害はAIに関するバイアスと公正性の問題をカバーします。ただし、バイアスは保護された特性を持つグループと関連している必要があります差別的な扱いの基準
(インシデント数順)すべてのAIIDインシデント
| カテゴリ | カウント |
|---|---|
| 人種 | 9 |
| 性別 | 8 |
| 出身国、市民権、移民ステータス | 4 |
| 性的指向または性自認 | 2 |
| 年齢 | 1 |
| 障害 | 1 |
| 財政的手段 | 1 |
| 地理 | 1 |
| イデオロギー | 1 |
| 宗教 | 1 |
| なし |
CSET AI危害定義
| カテゴリ | カウント |
|---|---|
| 人種 | 6 |
| 性別 | 5 |
| 出身国、市民権、移民ステータス | 3 |
| 性的指向または性自認 | 1 |
| 障害 | 1 |
| イデオロギー | 1 |
| 宗教 | 1 |
| 年齢 | |
| 財政的手段 | |
| 地理 | |
| なし |
インシデントはどのセクターで発生しましたか？
導入分野
(インシデント数順)すべてのAIIDインシデント
| カテゴリ | カウント |
|---|---|
| 情報通信 | 18 |
| 運輸・保管 | 11 |
| 芸術・娯楽及びレクリエーション | 6 |
| 法執行 | 5 |
| 卸売・小売 | 5 |
| 管理・支援サービス | 4 |
| 専門、科学、技術サービス | 4 |
| 公共行政 | 4 |
| 保健衛生・社会事業 | 3 |
| 製造業 | 3 |
| 教育 | 2 |
| 宿泊・飲食サービス | 1 |
| その他 | 1 |
CSET AI危害定義
| カテゴリ | カウント |
|---|---|
| 情報通信 | 11 |
| 運輸・保管 | 7 |
| 法執行 | 3 |
| 公共行政 | 3 |
| 芸術・娯楽及びレクリエーション | 2 |
| 管理・支援サービス | 2 |
| 卸売・小売 | 1 |
| 専門、科学、技術サービス | 1 |
| 宿泊・飲食サービス | 1 |
| 保健衛生・社会事業 | |
| 製造業 | |
| 教育 | |
| その他 |
インシデント発生時点で技術はどの程度自律的に動作していましたか？
自律性は、AIが独立して操作する能力です。自律性のレベルは、AIが独立した決定を下すかどうか、および人間の監視の程度に基づいて異なります。自律性のレベルは、AIが受け取る入力の種類に依存しません。それが人間によって生成されたものであるか、機械によって生成されたものであるかにかかわらずです。
現在、CSETは3つのレベルの自律性を注釈付けしています
- レベル1：システムは同時に人間の監視なしで独立して動作します
- レベル2：システムは独立して動作しますが、人間が監視しており、システムが決定を下すかアクションを起こす場合、人間は行動を積極的に観察し、リアルタイムでシステムをオーバーライドできます
- レベル3：システムは人間に入力と提案された決定またはアクションを提供し、人間はAIの指示に従うことを積極的に選択します
自律性レベル
(インシデント数順)- 自律1（完全自律）：システムは同時に人間の監 視、対話、介入なしに独立して動作しますか？
- 自律2（人間がループ）：システムは独立して動作しますが、人間が監視しており、システムが決定を下すかアクションを起こす場合、人間は行動を積極的に観察し、リアルタイムでシステムをオーバーライドできますか？
- 自律3（人間がループ）：システムは人間に入力と提案された決定を提供し、