戦争の本質は暴力、偶然性、合理性によって定義され、不変である一方、地政学、地経学、社会規範、そしてテクノロジーの影響を受け、戦争の性格は絶えず変化しがちです。数十年にわたり、火薬、戦車、航空機、核兵器の発明を特徴とする軍事革命（RMA）が幾度となく起こりましたが、プロイセンの著名な戦略家クラウゼヴィッツが述べた現象は今もなお重要です。特に現代の紛争は、AIベースの兵器システムの開発と配備によって、戦争の本質に革命的な変化が起こっています。
AI分野の進歩により、空中、海上、地上の様々な標的を自律的にスキャン、識別、ロック、破壊し、戦闘被害評価を驚異的な精度で実行できる自律型致死兵器システム（LAWS）の導入が可能になりました。AIベースのシステムは様々な分野に影響を与え、様々なレベルの意思決定プロセスに影響を与えています。しかし、この自律性はしばしば容認できない付随的被害をもたらし、人間が望むレベルの制御を阻害するだけでなく、機械に与えられる意思決定の自律性の範囲についても深刻な懸念を引き起こします。
世界中でますます多くの国や軍産複合体が、AIを活用した指揮統制システムの追求において、他国を凌駕しようと数十億ドルもの資金と資源を投入しています。2017年、国連軍縮局は、多くの国々が自律型兵器システムの活用を追求し開発する傾向が高まっていることを示す調査を実施しました。報告書によると、この高まり続ける傾向は、制御不能な戦争の現実的なリスクを伴っています。同様に、サウスフロリダ大学が実施したAIと都市作戦に関する研究では、「軍隊は近い将来、敵だけでなく民間人さえも監視、攻撃、殺害できるようになる可能性がある」と結論付けています。
AI駆動型照準システムの冷酷かつ致命的な使用は、ガザにおけるイスラエル国防軍の事例に如実に表れました。 2023年12月、ガーディアン紙は、イスラエル国防軍（IDF）がAIベースの標的特定システム「ヘスボラ（福音）」を用いて、1日に100以上の標的を攻撃したと報じました。IDF元司令官のアヴィヴ・コチャヴィ氏によると、人間の知能をベースとしたシステムでは、1年間で最大50の標的しか特定できないとのことです。
イスラエルのテクノロジー企業「スタートアップ・ネイション・セントラル」の最高経営責任者（CEO）アヴィ・ハッソン氏は、「ガザ紛争は、IDFにとって過去の紛争では使用されたことのない新興技術をテストする機会となった」と述べています。その結果、IDFは36万棟以上の建物を破壊し、5万人以上を無差別に殺害し、11万3500人以上のパレスチナ人を負傷させました。そのほとんどは罪のない女性と子供でした。皮肉なことに、非戦闘員の無差別殺害は1949年のジュネーブ条約第4条で禁じられています。
興味深いことに、世界中で技術的に進歩し、軍事力も強く、経済的にも豊かな国々が、AIベースの兵器システムの開発または取得に多額の投資を行っています。「AI in the Military Global Market Report 2024」では、2024年の世界軍事市場が16.6%成長すると予測されており、AI主導の軍事技術の覇権をめぐる世界的な競争を反映しています。中国は新総合AI計画において、「AIは未来を牽引する戦略技術である」と宣言し、2030年までにAI分野で世界をリードすることを目指しています。
同様に、米国は「第三次オフセット戦略」を採択し、AI、自律型兵器、ロボット工学への多額の投資を行い、技術的優位性を維持することを誓っています。 2023年2月、アジア・タイムズ紙は、米国防総省が自律型マルチドメイン適応型スウォーム・オブ・システム（Swarm of Systems）プロジェクトを開始したと報じました。このプロジェクトは、陸空海を跨いで敵の防空システムを圧倒するための自律型ドローン群の開発を目指しています。
2022年6月、インド国防省は「AI in Defence」（AIDef）シンポジウムを開催し、75のAIベースプラットフォームを発表しました。インドの作家で戦略家のプラビン・ソーニー氏は、2022年8月に出版された著書『The Last War』の中で、中国とインドの間で想定される武力紛争において、AIとAIベースの自律型兵器、そしてスウォーム・ドローンが決 定的な役割を果たす可能性を強調しています。
同様の文脈で、パキスタンもパキスタン空軍の支援を受け、AI開発と、AIをベースとした様々な空陸海の兵器システムの運用・戦略領域への統合を主導するAIコンピューティングセンター（CENTAIC）を設立しました。
南アジアにおいては、核兵器問題による長年の敵意を踏まえると、AIベースのLAWSの導入とその躊躇のない使用は、安全保障体制に深刻な影響を及ぼす可能性があります。また、包括的かつ規制的な法的枠組みの欠如と国家独占の不在も、安全保障状況をさらに複雑化させています。
AI駆動型指揮統制システムの破壊力と危険性を評価するため、米国の4つの大学の研究者グループは、OpenAIやMetaのLlamaを含む5つの異なるAIプログラムを用いて、2024年1月の戦争シナリオをシミュレーションしました。その結果は、科学者とAIベースのLAWS支持者の双方にとって衝撃的なものでした。シミュレーションされたすべてのモデルが、敵対勢力と対峙する際に、外交や平和イニシアチブなどの他の選択肢よりも核兵器を第一選択の兵器として選択したことが明らかになりました。
AI技術は広く利用可能であり、世界レベルまたは国家レベルの規制や独占が存在しないことから、非国家主体による悪用に対して脆弱です。このような状況は、世界レベルと国家レベルの両方で、共同行動の開始と厳格な規制枠組みの導入を必要としています。
AIを活用した取り組みを法的かつ倫理的に推進するには、世界規模での協調的な取り組みが必要です。この問題の重要性と緊急性を認識し、アントニオ・グテーレス国連事務総長は、2023年の平和のための新ア ジェンダに関する政策ブリーフィングにおける演説で、「2026年までに自律型兵器システムの開発と配備を禁止する法的拘束力のある文書を締結する必要がある」と強調しました。