かなり奇妙な事件で、オランダ人の男性が運転中に携帯電話を使用したとして 380 ユーロ (約 400 ドル) の罰金を科せられましたが、男性はただ頭をかいているだけだと主張しています。AI カメラの Monocam システムが、携帯電話で会話しているように見える画像を撮影したため、ティム ハンセン氏が罰金を科せられました。しかし、さらに詳しく調べたところ、ハンセン氏は実際には手に何も持っていなかったことが判明しました。単に頭の横をかいているだけだったのです。
画像操作と分析の目的でアルゴリズムを設計する IT スペシャリストであるハンセン氏は、自身の知識を活用して、Monocam や同様のシステムがどのように誤りを犯す可能性があるかを説明しました。彼は、これらのシステムがトレーニング セット、検 証セット、テスト セットに分割された膨大な画像コレクションから学習することを明らかにしました。トレーニング セットは、アルゴリズムが画像内のオブジェクトとその特性を理解するのに役立ち、検証セットはアルゴリズムのパラメータを調整します。最後に、テスト セットはシステムのパフォーマンスを測定します。
ハンセン氏は、モノカムのトレーニングデータセットには、携帯電話を耳に当てている人の画像が多数含まれている可能性が高いが、耳に何も持っていない人の画像はほとんどまたはまったく含まれていないという点で、モノカムが誤りを犯した可能性があると主張している。これは、携帯電話の存在に頼るのではなく、アルゴリズムが手の位置に基づいて携帯電話を認識するようにトレーニングした可能性があることを示唆している。
ハンセン氏の事例は、AI駆動型カメラシステムが違反を正確に検出する上での欠点を示している。人間による画像検査など、誤検知を減らす努力をしても、エラーは依然として発生する可能性がある。ハンセン氏は罰金の争いに関する正式な判決を待っているが、判決が出るまでには最大26週間かかる可能性がある。
この事件の結果、オランダや周辺諸国では、こうした種類のカメラシステムの信頼性が精査されている。一部の組織は、運転中に携帯電話を使用しているかどうかを識別できるカメラの設置を推進しているが、ハンセン氏の経験は、これらの技術は完璧ではないため、依然として人間の監視が必要になる可能性があるという警告となっている。