オランダ人男性が、運転中に携帯電話で話しているところをAI搭載カメラに捉えられ、380ユーロ（400ドル）の罰金を科せられた。彼はただ頭をかいているだけで、システムがミスを犯したと主張している。
昨年11月、ティム・ハンセンは1か月前に運転中に携帯電話で話していたとして罰金を科せられた。彼はショックを受けた。主にその日に運転中に携帯電話を使ったことを覚えていなかったためだ。そこで、中央司法徴収庁で有罪を示す写真を確認することにした。一見すると、ティムは確かに携帯電話で話しているように見えるが、よく見ると、実際には手に何も持っていないことがわかる。彼は単に頭の横をかいているだけで、カメラは彼の手の位置を携帯電話を持っていると誤認したのだ。さらに不可解なのは、写真をチェックして罰金を確定させた人間も「誤検知」に気付かなかったことだ。
たまたま IT 業界で働いており、画像を編集および分析するアルゴリズムを作成しているハンセン氏は、警察のカメラ システムである Monocam の仕組みと、なぜ間違いが起きるのかを自身の経験から説明しました。彼は Monocam を自分でテストすることはできませんでしたが、システムがどのように機能するように設計されているのか、なぜ誤検知が発生するのかを説明しました。
「モデルが何かが「はい」か「いいえ」かを予測する必要がある場合、もちろんモデルが間違っている可能性もあります」と Tim は書いています。「私の切符の場合、モデルは私が電話を持っていると示しましたが、実際はそうではありません。これは誤検知です。完璧なモデルは真陽性と真陰性のみを予測しますが、100% 正しい予測はまれです。」
IT スペシャリストは、Monocam のようなシステムは、トレーニング セット、検証セット、テスト セットの 2 つまたは 3 つのグループに分割された大量の画像セットでトレーニングする必要があると説明しました。最初のセットは、どのオブジェクトがどの画像にあり、どのプロパティ（色、線など）がそれらに属するかをアルゴリズムに教えるために使用され、2番目はアルゴリズムのハイパーパラメータの数を最適化するために使用され、3番目はシステムが実際にどれだけうまく機能するかをテストするために使用されます。
「トレーニングデータセットには、耳の横に電話を手に持って電話をかけている人々の例が多数含まれているため、私たちが使用したアルゴリズム、および警察のアルゴリズムは、電話が存在すると疑う可能性があります」とティムは述べています。「トレーニングデータセットには、耳に手を当てて座っている人々の写真がほとんどまたはまったく含まれていない可能性があります。その場合、アルゴリズムにとって、電話が実際に手に持っているかどうかはそれほど重要ではなくなりますが、手が耳に近づいていれば十分です。これを改善するには、手が空いている写真をさらに追加する必要があります。」
ハンセン氏は、 アルゴリズムの決定に影響を与える可能性のある変数が多数あるため、誤検出の数を最小限に抑えるには人間によるフィルターが必要であると主張しています。彼のケースでのみ、カメラで撮影した写真を分析した後、人間が罰金を確認しました。したがって、これも確実な解決策ではない。
オランダ人ドライバーは罰金に異議を唱え、良い結果を期待しているが、正式な判決が出るまで最大26週間待たなければならない。彼のケースはオランダやベルギーなどの近隣諸国で話題となり、一部の機関は運転中の携帯電話の使用を検出できるカメラの設置を求めているが、ティムズの話は、それらのカメラが100％信頼できるとは程遠いことを証明している。