レポート 6772
ヒーバーシティ警察署長のパーカー・セバー氏は10月下旬、市議会に出席し、警官がカエルに変身したと報告した。
少なくとも、ウェストジョーダン警察署に勤務する義理の息子から聞いた話だ。同署は最近、ボディカメラの映像から警察報告書を作成する人工知能（AI）ソフトウェアを導入した。報告書の内容は必ずしも100%正確では ないため、警察官が報告書を精査する必要がある。
「報告書を読んで、『これは本当に警察官が書いたみたいだ』と思いました」とセバー氏は振り返る。「でも、ある箇所で『そして警官はカエルに変身し、魔法の本が現れて願いを叶え始めた』と書かれていました。…まるで『ハリー・ポッター』をBGMにしていたからでしょう。テレビの雑音を拾って報告書に追加したのです。」
ヒーバーシティ警察署も同様のソフトウェアを試験運用している。
候補は、今年初めにMITを中退した19歳の2人が立ち上げたスタートアップ企業Code Fourと、法執行テクノロジー大手AxonのDraft Oneだ。平日勤務の警察官はDraft Oneを、週末勤務の警察官はCode Fourを使用する。
これらのプログラムの2ヶ月間の無料トライアル期間は1月に終了する。
警察報告書を作成するAIソフトウェアのセールスポイントは、時間の節約だ。
AxonとCode Fourは、警察官が報告書の作成に最大40%の時間を費やしているという同様の統計を示している。
「国民の多くは、警察官がオフィスではなく街頭で活動することを望んでいると思います」とセバー氏は述べた。
あの「真新しい車」
Draft Oneを独占的に使用していた警察署の巡査部長、ジョシュ・ワイシャー氏は、パイロットプログラム開始から約1週間後の11月10日に、時間の節約について証言した。
ワイシャー氏は、AIが生成した警察報告書は、自分が書いたものよりも概して詳細だと感じていた。
「警官は基本的な情報で判断するでしょう」と彼は言った。「AIが生成する詳細情報ではなく、重要な事実だけを覚えているのですから、自分で入力するよ りも多くの情報、あるいは少なくとも確実に詳細な情報が得られるでしょう。」
これが、このソフトウェアがヒーバーシティ警察にとって魅力的だった理由の一つだった。セバー氏によると、警官は「報告書が10件も不足している」とすれば、それほど詳細な情報を提供できないかもしれないが、AIは常に同じレベルの詳細を盛り込むことができる。
Draft OneとCode Fourはどちらも、AIソフトウェアが報告書に含める詳細度をユーザーがカスタマイズでき、基本的な概要から詳細な実況まで、また英語とスペイン語でのやり取りから報告書を生成することができる。
両ソフトウェアの主な違いは、Draft Oneはボディカメラの音声に基づいて報告書を作成するのに対し、Code Fourはボディカメラの音声と映像の両方を使用する点だ。
勤務時間全体にわたる事件の概要を示す勤務終了報告書は、引き続き人間によって作成される。
「ほとんどの警官は（Draft Oneに）驚嘆しています。私たちにとって、これは非常に斬新で革新的なシステムだからです」とワイシャー氏は語った。「まるで、あらゆる機能を備えた真新しい車のようなものです。ボタンを押すだけで、担当していた事件のすべてがわかり、編集可能な、かなりまともな警察報告書を作成してくれるなんて、私たちにとっては信じられないことです。」
Draft Oneの仕組み
ワイシャー氏はDraft Oneのデモンストレーションで、ドラフト報告書には、容疑者の容姿や犯罪現場の状態など、特定の要素について追加情報を提供するよう警官に求めるプロンプトが数多く含まれていることを示した。これらのプロンプトは、続行するには削除ま たは編集する必要があり、警官が報告書を綿密に精査することを強制する目的で作成されたものだ。
編集を完了し、報告書を承認すると、警官は報告書を警察署のデータベースにコピー＆ペーストし、他の警察報告書と同様に提出する。
Draft One によって生成された元のレポートは保存されません。ただし、このソフトウェアは「変更不可能なデジタル監査証跡」を作成し、誰がいつツールを使用し、どのような証拠が使用されたかを記録します（Axon のウェブサイトによると）。
レポートの最後には、デフォルトでオンになっている開示事項が記載されています。「私は、このレポートが Axon によって Draft One を使用して作成されたことを認めます。さらに、私はこのレポートを詳細に検討し、必要な編集を行い、報告された事象に関する私の記憶を正確に反映していると信じています。必要であれば、このレポートの正確性について証言する用意があります。」
この開示事項はカスタマイズすることも、オフにすることもできます。
比較ショッピング
Sever 氏によると、警察が Draft One の使用を継続する場合、年間約 3 万ドルの税金がかかることになります。
Code Fourの共同創業者であるジョージ・チェン氏は、追加のビデオストレージや処理能力といったアドオンのせいでAxonを批判した。チェン氏は、これらのアドオンによって警官1人あたり月額最大400ドルのコストがかかると見積もった。Code Fourは警官1人あたり月額30ドルと、はるかに安価だ。セバー氏は、ヒーバー市では年間6,000ドルから8,000ドルのコストがかかると見積もった。
チェン氏は感謝祭前にテイラーズビル警察署とヒーバー市警察署を訪問し、ソフトウェアの仕組みを実演した。スパニッシュフォーク警察署、サウスジョーダン警察署、ケイズビル警察署、ドレイパー警察署でも同様の訪問調査を行っている。
セバー氏によると、ヒーバー市議会の承認なしに支出を承認できるのは一定額までだという。年間約3万ドルでDraft Oneを購入するには、議会の承認が必要だ。年間約6,000ドルから8,000ドルでCode Fourを購入する場合は、議会の承認は必要ない。
12月時点で、ヒーバーシティ警察は、コストが低く、より包括的な報告書を作成できることから、Code Four を採用する方向で検討していました。
その他の事例
ワサッチバック地域でAIソフトウェアの試験運用を行っている法執行機関は、ヒーバーシティ警察だけではありません。
サミット郡保安官事務所は最近、巡回保安官代理6名を対象に、Draft One の90日間の試験運用プログラムを完了しました。パークシティ警察とワサッチ郡保安官事務所は、AIソフトウェアの運用をまだ導入していません。
スカイラー・タルボット保安官巡査部長は、警察におけるAIの活用について、慎重さと楽観のバランスが取れていると述べています。
「AIの能力と、業務効率を向上させる大きな可能性を認識することが重要です」とタルボット巡査部長は述べました。「AIの発展に伴い、常に最先端技術を取り入れていくことが重要だと考えています。しかし、懐疑的になるべきだとは言いませんが、慎重になる必要があります。」
タルボット氏によると、パイロットプロ グラム期間中は、「重大な事件、または重罪レベルの訴追につながる可能性のある事件」の報告書作成にはDraft Oneは使用されなかったという。
11月25日、タルボット氏はパーク・レコード紙に対し、サミット郡保安官事務所は無料トライアル期間終了後、Draft Oneの使用を継続しないことを決定したと伝えた。
タルボット氏は、Draft Oneには、AIソフトウェアにすべての報告書に明らかな誤りを挿入させる管理設定があると説明した。
「この設定により、保安官代理は報告書を読み、正確性を確認し、修正を加えることを促され、実際に強制的に行うようになった」とタルボット氏は述べた。基本的に、時間の節約はそれほど目覚ましくなかった。
タルボット氏によると、サミット郡保安官事務所がDraft Oneを導入する上で、保安官代理が報告書案を注意深く読み、提出前に正確性を確認するために、この設定は必須だったという。
一方、ヒーバーシティ警察ではこの設定は有効になっていない。セバー氏は、この設定については認識しておらず、その価値について調査する必要があると述べた。
タルボット氏は、サミット郡保安官事務所がこのプログラムに納税者の資金を使うことは「財政的に責任ある行為」ではないと述べたが、この分野の発展に伴い、数年あるいは数ヶ月で立場が変わる可能性もあると明言した。
「繰り返しますが、これは有用です。私たちの部署の規模や通報件数を考えると、これは素晴らしい技術です」とタルボット氏は述べた。「少なくとも現時点では、以前と同じように業務を行う方が理にかなっています。」
倫理的な懸念
AIによって作成 された警察報告書について、誰もが楽観的というわけではない。
ユタ州刑事弁護士協会の事務局長であるデビッド・ファーガソン氏は、このようなAIソフトウェアの潜在的な落とし穴について詳しく説明した。彼は、警察報告書は作成者に偏見があるかどうかを明らかにできるため、弁護人にとって非常に重要だと述べた。
しかし、生成AIは「幻覚」を起こし、詳細を間違えたり、完全に捏造したりする可能性があるため、弁護士がAIが作成した警察報告書を額面通りに受け取ることは「非倫理的」であり、より多くのケースで基本的な詳細を確認するためにボディカメラの映像を確認することになるだろうとファーガソン氏は述べた。これは、特に多忙を極める国選弁護人など、弁護士の作業負荷を増加させる可能性がある。
一方、検察官は通常、警察報告書など、警察から提供された証拠に頼る。
AIソフトウェアによって生成された報告書は、警察官の事件に関する記憶を改変する可能性がある。生成AIを使用して報告書を作成した警察官が法廷で証言した場合、自分の観察ではなく、AIの観察に基づいて証言することになりかねない。
「私たちはメモを比較する際に、他人の観察を自分の記憶に引き込む傾向があります」とファーガソン氏は説明した。AIソフトウェアの観察についても同じことが言える。
「ボディカメラが捉えた映像が全て物語の全てだとしたら、それが事件の真実として提示されることになる。…一体全体、なぜ警官に証言させる必要があるのか？」とファーガソン氏は述べた。「人間がカメラによって起訴され、ソフトウェアがカメラの映像から関連性があると判断するシステムを考えるのは、ある意味、非常に不快だ。」
特に、文字起こしがアクセントや俗語の意味を理解できない場合、これは問題になりかねない。AIのビデオソフトウェアでは、さらなる問題が発生する可能性がある。ファーガソン氏は、AIは「マイノリティの顔を解釈・理解するのが難しい」場合があり、AIが人物の行動、ボディランゲージ、振る舞い、表情について行った観察結果は、特にマイノリティコミュニティにおいて誤解される可能性があると説明した。
アクソンによると、草稿1における人種的偏見に関する調査では、「人種間の完全性、一貫性、または語彙選択の深刻さにおいて、統計的に有意な差は検出されなかった」という。これらの研究では、AIが生成した筆記録が人種によって異なるかどうかを評価しました。
同社は2024年4月、これらの研究に関するより詳細な報告書を発表すると述べました。しかし、パーク・レコードは人種偏見に関する研究について追加情報を見つけることができませんでした。
ファーガソン氏が懸念していたもう一つの点は透明性の欠如でした。民間企業は、政府機関のような情報公開法やプライバシー法といった透明性に関する法律の適用を受けないためです。そのため、弁護人や一般市民がソフトウェアの仕組みをより深く理解するために、その内容を詳しく調べることが困難になる可能性があります。
彼はまた、AIが作成した警察報告書が、承認される前に警察官によって適切に審査されるかどうかについても懐疑的でした。
「問題は、1時間分の仕事を10分にまとめられる警察官ではありません。『もっとうまくでき る。30秒にまとめられる』と言う警察官こそが問題なのです。」 「…一部の警官の間ではそれが当たり前のことになり、一部の部署では文化的に受け入れられることさえないと考えるには、現実を見なければならない」とファーガソン氏は述べた。
しかし、セバー氏は、不完全な報告書は行政手続きで発見されると考えている。
「（警察官が）警察報告書に署名すると、それは上司に送られます。上司は報告書の完全性と正確性を確認し、署名しなければなりません」と彼は説明した。「その後、記録部門が報告書を受け取ります…そして多くの場合、彼らが目にした問題に関して報告書を却下するのは彼らです。」
AIが作成した報告書を提出前に繰り返し確認しなかった警察官は、懲戒処分を受け、場合によっては解雇されるだろう。
今後の展望
セバー氏によると、警察がこれらのプログラムを直ちに実施しない唯一の理由は、現在の予算サイクルに適合しない場合だけだという。
「警察署に警官がいても、道路で人々の交通を阻害する効果はありません。彼らは通報にタイムリーに対応できないからです」とセバー氏は述べた。「警官を警察署から道路に出せば、人々は彼らの姿を見るでしょう。そして、それが人々の行動を良い方向に変えるのです。」
警官からのフィードバックも好意的だったようだ。
「私の部下の一人は、技術にはあまり詳しくないのですが、この取り組みにとても興奮していました」とセバー氏は語った。「彼は『警察署に戻ってきました。この報告に1時間かかっていたのに、たった8分で済んだんです』と言っていました。」