Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 6232

関連インシデント

インシデント 6729 Report
'Lavender' and 'The Gospel' AI Systems Reportedly Used in Gaza Targeting Operations with Civilian Harm Allegations

Loading...
イスラエルのガザ戦争におけるAI実験は倫理的な懸念を引き起こす
nytimes.com · 2025

2023年後半、イスラエルはガザ地区北部のハマス最高司令官で、10月7日の虐殺の計画に協力したイブラヒム・ビアリの暗殺を狙っていた。しかし、イスラエルの情報機関はビアリ氏を発見できなかった。彼らはビアリ氏がガザ地下のトンネル網に潜伏していると考えていた。

そこでイスラエル軍は、人工知能(AI)を搭載した新たな軍事技術に着目したと、この事件について説明を受けたイスラエルとアメリカの当局者3人が述べた。この技術は10年前に開発されたが、実戦では使用されていなかった。ビアリ氏の発見は、ツール改良への新たな動機となり、イスラエルの国家安全保障局に相当する機関である8200部隊の技術者たちは、すぐにAIをツールに組み込んだと関係者らは述べている。

その後まもなく、イスラエルはビアリ氏の通話を傍受し、通話場所のおおよその位置を示すAI音声ツールをテストした。この情報に基づき、イスラエルは2023年10月31日に当該地域を狙った空爆を命じ、ビアリ氏を殺害した。ロンドンに拠点を置く紛争監視団体エアウォーズによると、この攻撃で125人以上の民間人も死亡した。

この音声ツールは、イスラエルがガザ紛争を利用して、AIを活用した軍事技術をこれまでにない規模で迅速に試験・展開してきた一例に過ぎないと、機密情報であるため匿名を条件に取材に応じた米国とイスラエルの国防当局者9人へのインタビューで明らかになった。

イスラエルは過去18カ月間に、AIと顔認識ソフトウェアを組み合わせて、部分的に不明瞭な顔や負傷した顔を実際の身元と照合したり、AIを活用して空爆の標的候補をまとめたり、アラビア語のAIモデルを開発して、テキストメッセージ、ソーシャルメディアの投稿、その他のアラビア語データをスキャン・分析できるチャットボットを動作させたりしたと、これらのプログラムに詳しい関係者2人が述べた。

これらの取り組みの多くは、第8200部隊の下士官兵と、グーグル、マイクロソフト、メタなどのテクノロジー企業に勤務する予備役兵との協力によって行われたと、これらの技術に詳しい関係者3人が述べた。関係者によると、8200部隊は「スタジオ」として知られるようになった施設を設立した。これはイノベーションのハブであり、専門家とAIプロジェクトをマッチングさせる場だった。

しかし、イスラエルがAI兵器の開発を急ぐ一方で、これらの技術の配備は誤認や逮捕、さらには民間人の死につながることもあったと、イスラエルとアメリカの当局者は述べている。一部の当局者は、監視の強化や民間人の殺害につながる可能性のあるAIツールの倫理的影響に苦慮している。

欧米の防衛当局者によると、リアルタイム戦闘におけるAIツールの実験において、イスラエルほど積極的に取り組んでいる国は他になく、将来の戦争でこうした技術がどのように使用されるか、そしてどのように失敗する可能性があるかを予感させるものだという。

「危機への緊急対応の必要性が、AIを活用したイノベーションを加速させた」と、責任あるAI応用研究所のハダス・ローバー所長は述べた。イスラエルのホロン工科大学の教授であり、イスラエル国家安全保障会議の元上級理事でもあるローバー氏は、「AIは戦場において画期的な技術と、戦闘において決定的な優位性をもたらしました」と述べている。

しかし、これらの技術は「深刻な倫理的問題も提起している」とローバー氏は述べた。AIには牽制と均衡が必要だと警告し、最終決定は人間が下すべきだと付け加えた。

イスラエル軍の報道官は、特定の技術については「機密性」を理由にコメントできないと述べた。イスラエルは「データ技術ツールの合法かつ責任ある使用に尽力している」と述べ、ビアリ氏への攻撃については軍が調査中で、「調査が完了するまではこれ以上の情報を提供できない」と付け加えた。

MetaとMicrosoftはコメントを控えた。Googleは、「世界中の様々な国で予備役任務に就いている従業員がいる。これらの従業員が予備役として行っている業務はGoogleとは関係がない」と述べている。

イスラエルはこれまで、ガザとレバノンの紛争を利用して、ドローン、電話ハッキングツール、短距離弾道ミサイルの迎撃に役立つアイアンドーム防衛システムなど、軍事技術の実験と改良を行ってきた。

2023年10月7日、ハマスがイスラエルへの越境攻撃を開始し、1,200人以上が死亡、250人が人質となった後、AI技術の配備が迅速に承認されたと、イスラエル当局者4人が述べた。これが、ユニット8200と「スタジオ」の予備役兵士との協力につながり、新たなAI機能を迅速に開発することになったと彼らは述べた。

投資家と企業をつなぐイスラエルの非営利団体Startup Nation CentralのCEO、アヴィ・ハッソン氏は、Meta、Google、Microsoftの予備役がドローンとデータ統合におけるイノベーションの推進に不可欠な存在となっていると述べた。

「予備役は、軍隊では利用できないノウハウと主要技術へのアクセスをもたらしてくれた」とハッソン氏は述べた。

イスラエル軍はすぐにAIを活用し、ドローン艦隊を強化した。イスラエル軍と提携するソフトウェア・ドローン企業XTENDの創業者兼CEO、アヴィヴ・シャピラ氏は、AIを活用したアルゴリズムは、遠く離れた標的をロックオンして追跡するドローンの開発に活用されていると述べた。

「これまで、ホーミング機能は標的の画像に焦点を合わせることに依存していました」とシャピラ氏は述べた。 「今やAIは、動いている車であろうと人であろうと、物体そのものを極めて正確に認識し、追跡できるのです。」

シャピラ氏によると、彼の主要顧客であるイスラエル軍と米国防総省は、戦争におけるAIの倫理的影響を認識しており、この技術の責任ある使用について議論してきたという。

「スタジオ」が開発したツールの一つは、大規模言語モデルとして知られるアラビア語AIモデルだったと、このプログラムに詳しい3人のイスラエル人将校は述べた。(この大規模言語モデルについては、イスラエル・パレスチナ系ニュースサイト「Plus 972」が以前に報じた。)

開発者たちはこれまで、この技術を訓練するためのアラビア語データが不足していたため、このようなモデルの作成に苦労していた。こうしたデータが利用可能だったとしても、それは主に標準的なアラビア語の書き言葉で、口語アラビア語で使われる数十もの方言よりも形式的なものでした。

3人の将校によると、イスラエル軍にはそのような問題はなかったとのことです。イスラエルでは数十年にわたって、アラビア語の口語方言で傍受されたテキストメッセージ、録音された通話記録、ソーシャルメディアから収集された投稿が蓄積されていました。そこでイスラエルの将校たちは、開戦後数ヶ月で大規模な言語モデルを作成し、アラビア語でクエリを実行するチャットボットを開発しました。このツールをマルチメディアデータベースと統合することで、アナリストは画像や動画を横断した複雑な検索を実行できるようになったと、4人のイスラエル当局者は述べています。

イスラエルが9月にヒズボラの指導者ハッサン・ナスララを暗殺した際、このチャットボットはアラビア語圏全体の反応を分析したと、3人のイスラエル将校は述べています。この技術はレバノンの様々な方言を区別して国民の反応を測り、イスラエルが反撃を求める国民の圧力があるかどうかを判断するのに役立ちました。

2人の職員によると、チャットボットは英語からアラビア語に翻字された現代の俗語や単語を認識できないことがあったという。そのため、様々な方言に精通したイスラエルの情報機関員が作業を確認し、修正する必要があったと、職員の1人は述べた。

チャットボットはまた、銃の写真ではなくパイプの写真を返すなど、間違った回答を返すこともあったと、2人のイスラエル情報機関員は述べた。それでも、このAIツールは調査と分析を大幅に加速させたと彼らは述べた。

イスラエルは10月7日の攻撃後、ガザ地区の北部と南部の間に設置された臨時検問所にカメラを設置し始め、パレスチナ人の高解像度画像をスキャンしてAIを活用した顔認識プログラムに送信できるようにした。

このシステムも、顔が隠れている人物の識別に問題が生じることがあった。イスラエルの情報機関員2人によると、顔認識システムに誤ってフラグ付けされたパレスチナ人が逮捕され、尋問されたという。

イスラエルはまた、情報機関がハマス構成員について収集したデータをAIで精査した。戦争前、イスラエルは「ラベンダー」というコードネームの機械学習アルゴリズムを開発し、データを迅速に分類して下級戦闘員を探し出すことができた。このアルゴリズムは、確認済みのハマス構成員のデータベースで訓練され、他に誰がハマス構成員である可能性があるかを予測することを目的としていた。このシステムの予測は不完全だったが、イスラエルはガザ戦争勃発時に攻撃目標の選定に役立てるためにこのアルゴリズムを使用した。

ハマスの幹部を見つけ出し、排除すること以上に大きな目標はほとんどなかった。リストの上位には、ハマス司令官ビアリ氏が含まれていた。イスラエル当局はビアリ氏が10月7日の攻撃計画において中心的な役割を果たしたとみている。

イスラエル軍の情報機関は、ビアリ氏と他のハマス構成員との通話を迅速に傍受したが、彼の居場所を正確に特定することはできなかった。そこで、音響爆弾や空爆など、様々な音を分析するAI搭載の音声ツールに目を向けた。

ビアリ氏が通話していた場所のおおよその位置を推測した後、イスラエル軍当局は、複数のアパートを含むその地域が人口密集地域であると警告を受けたと、2人の情報機関員は述べた。ビアリ氏を確実に暗殺するには、空爆で複数の建物を狙う必要があると彼らは述べた。作戦は承認された。

それ以来、イスラエル情報機関は、ガザ地区の地下トンネル迷路の地図や写真に加え、この音声ツールも活用して人質の所在を特定している。2人のイスラエル情報機関員によると、このツールは時間の経過とともに改良され、より正確に個人を特定できるようになったという。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd