農家のAIへの誤った信頼が、150ムー（約10ヘクタール）のゴマの種子に壊滅的な損失をもたらす 複数の関係者が対応
安徽省滁州市の呉さんという農家が、ライチニュースに助けを求めた。彼は、AIが生成した除草・害虫駆除方法に基づいて農薬を散布したところ、150ムー（約10ヘクタール）のゴマの苗が一夜にして枯れてしまったと説明した。呉さんは記者に対し、1年以上前にこのAIソフトウェアに出会ったと語った。「農薬散布の時期や施肥の時期など、あらゆることをAIに尋ねたところ、最初はかなり包括的な回答が得られました」と彼は述べた。当初はAIの手法に懐疑的だったが、次第に完全に信頼するようになったという。
記者は呉さんとAIソフトウェアとのやり取りを検証した。 7月10日、呉氏はまず水田の雑草防除について問い合わせ、次にゴマ畑の雑草 と害虫の防除方法について問い合わせた。AIが予備的な計画を作成すると、呉氏はすぐにドローン散布を希望するかどうかを尋ねた。AIは最終的に「100エーカーのゴマに対する完全な空中雑草・害虫防除計画」を作成し、除草剤として「高効率フルピリジン」と「フルフェノキサム」、殺虫剤として「チアメトキサム水和顆粒」と「エマメクチン安息香酸塩」を推奨した。呉氏は「散布の翌日には苗が枯れていました。雑草と苗は一緒に枯れましたが、苗の方がさらに早く枯れました」と述べた。その後、呉氏がAIにその理由を尋ねると、AIは処方に含まれる「フルフェノキサム」がゴマを枯らした原因だと説明した。記者は近隣の農薬販売店から、除草剤「フルフェノキサム」は広葉雑草用除草剤で、大豆畑専用であり、ゴマ畑には散布してはいけないことを知った。農業技術者は「フルフェナゼートは他の作物にも使用できますが、畑全体に散布するのではなく、選択的に散布する必要があります。畑全体に散布すると、作物は確実に枯れてしまいます」と述べた。
約10ヘクタール（150ムー）のゴマの苗が一夜にして枯れてしまい、呉さんはひどく落胆した。彼は、AIがデータ生成過程で明確な警告を発しなかったことが、取り返しのつかない被害を招いたと考えている。「AIがデータ生成後に『作業中は注意が必要です』と警告してくれていれば、こんなことにはならなかったのに」しかし、AIの対話ログの冒頭に「AIによる生成結果が誤っている可能性があります。ご確認ください」という小さなメモが表示されていました。呉氏は、この警告にこれまで気づいたことはなかったと述べています。
記者は 呉氏の体験をAIソフトウェアのバックエンドに伝えました。カスタマーサービスからは、「AIソフトウェアは独自の知識ベースを持っておらず、オンラインで公開されている情報を統合しています。例えば、ご指摘のゴマの苗については、キーワードを検索し、参照するデータを選択しています。どのプラットフォームのどの情報が問題を引き起こしたのかを特定する必要があります」との回答がありました。呉氏の損失については、担当者は記録して報告すると述べました。記事執筆時点では、記者は回答を受け取っていません。実際、人工知能の健全な発展を促進し、AI生成・合成コンテンツのラベル表示を標準化するため、2025年3月、中国国家インターネット情報弁公室、工業情報化部などが共同で「AI生成・合成コンテンツのラベル表示に関する措置」を公布しました。第4条では、AIサービス提供者は、テキストの冒頭、末尾、または中間の適切な位置にテキストによる説明文または一般的な記号による説明文を追加するか、インタラクティブなシナリオではテキストの周囲に目立つ説明文を追加しなければならないと規定しています。
南京師範大学ジャーナリズム・コミュニケーション学部副学部長の高山兵教授は、AI生成コンテンツは主にデータに基づいており、情報が常識的かどうかを区別していないと指摘しています。しかし、農家はまさにこの判断能力が不足しているのです。特に農村部の高齢者など、利用者の判断力を向上させるためには、AIプラットフォームは、健康、服薬、財務といった重要な事項に関して、より多くの注意喚起を行うべきです。
北京大成（南京）法律事務所のパー トナーである張欣氏は、民事責任は過失責任の原則に基づいていると述べた。AIプラットフォームがリスク警告義務を果たしたか、農薬散布業者が農薬使用範囲を規定通りに説明したか、農家が農薬使用説明書を読み、確認したかといった要素は、責任を判断する際に考慮する必要がある。また、作物被害の原因については専門家による特定が求められる。
AI技術の普及に伴い、多くの高齢者がAIへの依存によって損失を被っている。高齢者の中には、法律や財務に関する問題をAIに相談し、生成されたテンプレート情報を定型的な回答として鵜呑みにする人もいる。また、医療に関するアドバイスをAIに求め、専門家ではない情報を盲信して適切な医療を受けることを遅らせる人もいる。あらゆることをAIに頼る習慣のある高齢者は、情報を検証する意識が欠けていることが多い。AIプラットフォームがユーザー、特に高齢者にAIツールを提供する際には、慎重な信頼感を育むよう指導することが望まれる。 AIに質問することは許容されるが、AIが提供するコンテンツはすべて参考情報としてのみ利用することが極めて重要である。