今週、メリーランド州ボルチモア郡の高校で、AIを活用したセキュリティシステムが生徒の空になったポテトチップスの袋を銃器の可能性があると検知したことを受け、武装警察が生徒に手錠をかけ、身体検査を行いました。
ボルチモア郡当局は、ケンウッド高校のAI銃器検知システムの使用方法、そして学校の安全担当者が武器がないとすぐに判断したにもかかわらず、なぜ生徒に手錠がかけられたのかの見直しを求めています。
「彼らは私をひざまずかせ、両手を背中に組ませ、手錠をかけました」と、ケンウッド高校の生徒タキ・アレンさんはCNN系列局WBALに語り、月曜日の夕方、フッ トボールの練習後、友人たちと車で帰宅するのを待っていたところ、警察が学校に到着した時の出来事を語りました。
「彼らは私を身体検査し、何も持っていないことに気付きました。そして、私の立っている場所まで来て、床にポテトチップスの袋を見つけました」とアレンさんは言いました。
彼は、警察の激しい対応を受けた悲惨な光景を描写しました。
「最初に思ったのは、死ぬんじゃないか？ 銃を突きつけられたから」とアレンさんはWBALに語り、学校には「8台ほどのパトカー」が停まったと語った。
「ドリトスの袋を持っていただけで、両手と指1本が出ていた。すると、銃のように見えると言われました」とアレンさんはWBALに語った。
この学校のAIを活用したセキュリティシステムは、銃による大量暴力が横行する時代に、学校がどのように安全対策を講じているかを示す一例に過ぎない。AIツールは近年爆発的に普及しており、監視カメラの映像監視を支援するツールもその一つだ。
CNNはボルチモア郡警察にコメントを求めた。警察はWBALに対し、警察官が「武器を持った不審者の通報」を受けて出動したが、捜索の結果、その人物は非武装であると判断したと述べた。
ケンウッド校長のケイト・スミス氏は、CNNが入手した保護者宛の声明の中で、学区のセキュリティ部門が武器がないことを確認した後、銃検知警報を再検討し、解除したと述べた。スミスさんはケンウッドのスクールリソースオフィサーにこの件を報告し、オフィサーは地元警察に支援を求めたという。
ボルチモア郡公立学校の広報担当者はWBALに対し、校長は警報が解除されたことにすぐ には気づかなかったと述べた。
「捜索を受けた方、そして事件を目撃した他の生徒たちにとって、どれほど辛い思いをしたか理解しています」とスミスさんは声明で述べた。「生徒と学校コミュニティの安全確保は、私たちの最優先事項の一つです。」
AI銃器検知システムを運営するオムニラート社は、この事件について遺憾の意を表し、同社のシステムは潜在的な脅威を特定し、人間による確認へと進めるように設計されていることを強調した。
同社はCNNに対し、「この事件が発生したことを遺憾に思います。生徒とその後の出来事によって影響を受けた地域社会の皆様に、私たちの懸念をお伝えしたいと思います」と述べた。
同社はさらに、「後に物体は銃器ではないと判明しましたが、迅速な人間による確認を通じて安全と意識向上を優先するという、このプロセスは当初の目的通りに機能しました」と付け加えた。
ミリアム・ロジャーズ教育長は水曜日の記者会見で、AI銃器検知システムは2023年からボルチモア郡の公立学校で導入されており、学校の既存の防犯カメラの映像を分析していると述べた。
ロジャーズ教育長は月曜日の事件を「本当に残念」と呼び、学区は生徒をこのような恐ろしい状況に陥れることは決して望んでいないと述べた。
誤報に対する強引な対応は地域社会の怒りを招き、アレンさんの祖父ラモント・デイビスさんは説明責任を求めている。
「何か対策を講じなければならない」とデイビスさんはWBALに語った。「変化を起こし、人々に責任を負わせなければならない」
ボルチモア郡当局は、月曜日の警察の対応に至ったプロセスの 見直しを求めている。
「私たちの学校システムでは、ドリトスを一袋食べただけで警察に呼び止められるような子どもは一人もいないはずです」と、ボルチモア郡議会議員のイジー・パトカ氏はソーシャルメディアへの声明で述べ、学区に対し「AIを活用した武器探知システムに関する手順を見直す」よう求めた。
WBALによると、ボルチモア郡議会議員のジュリアン・ジョーンズ氏も、AIシステムの使用状況を見直すべきであり、「このようなミスが二度と起こらないよう、安全対策を確実に講じる」必要があると訴えた。
ロジャーズ教育長は、ボルチモア郡の学校におけるシステムとセキュリティ対策の見直しは「私たちの通常の業務の一部です」と述べた。
The-CNN-Wire & 2025 Cable News Network, Inc., a Time Warner Company. All rights reserved.