Incidents associés
Un agriculteur perd 150 mu de graines de sésame à cause d'une confiance aveugle en l'IA
Réactions multiples
Un agriculteur de Chuzhou, dans la province d'Anhui, M. Wu, a sollicité l'aide de Litchi News. Il a expliqué avoir pulvérisé des pesticides selon des méthodes de désherbage et de lutte antiparasitaire générées par une IA, pour finalement voir ses 150 mu (environ 10 hectares) de jeunes plants de sésame dépérir du jour au lendemain. M. Wu a confié aux journalistes avoir utilisé le logiciel d'IA il y a plus d'un an. « J'ai interrogé l'IA sur tout, notamment sur le moment opportun pour utiliser des pesticides et de l'engrais, et ses premières réponses étaient très complètes », a-t-il déclaré. D'abord sceptique, il a fini par lui faire entièrement confiance.
Un journaliste a examiné la conversation de M. Wu avec le logiciel d'IA. Le 10 juillet, M. Wu s'est d'abord renseigné sur la lutte contre les mauvaises herbes dans ses rizières, puis sur les méthodes de désherbage et de lutte antiparasitaire pour ses champs de sésame. L'IA a généré un plan préliminaire, et M. Wu a immédiatement demandé s'il souhaitait une pulvérisation par drone. L'IA a finalement élaboré un « plan complet de désherbage et de lutte antiparasitaire aérienne pour 40 hectares de sésame », recommandant les herbicides « flupyridine à haute efficacité » et « flufenoxam », ainsi que les insecticides « granulés dispersibles dans l'eau de thiaméthoxam » et « benzoate d'émamectine ». M. Wu a déclaré : « Les jeunes plants étaient morts le lendemain de la pulvérisation ; les mauvaises herbes et les jeunes plants sont morts ensemble, mais les jeunes plants sont morts encore plus vite. » Plus tard, M. Wu a interrogé l'IA sur la raison de ce phénomène, et celle-ci lui a indiqué que le « flufenoxam » contenu dans la formule était responsable de la mort du sésame.
Le journaliste a appris d'un vendeur de pesticides voisin que l'herbicide « flufenoxam » est un herbicide sélectif destiné aux cultures de soja et ne doit pas être pulvérisé dans les champs de sésame. Des techniciens agricoles ont déclaré : « On peut aussi utiliser le flufenoxam sur d'autres cultures, mais il faut l'appliquer de manière sélective, et non sur l'ensemble du champ. L'appliquer sur toute la surface tuerait les cultures à coup sûr. »
150 mu (environ 10 hectares) de jeunes plants de sésame ont dépéri du jour au lendemain, plongeant M. Wu dans le désespoir. Il pense que l'IA n'a pas émis d'avertissement clair lors de la génération des données, ce qui a entraîné des dégâts irréparables. « Même si l'IA m'avait simplement rappelé après la génération des données : “Soyez prudent pendant l'opération”, on n'en serait pas arrivé là. » Pourtant, en haut du journal de l'IA, une petite note indique : « La génération par l'IA peut être incorrecte ; veuillez vérifier. » M. Wu a déclaré qu'il n'avait jamais remarqué cet avertissement auparavant.
Le journaliste a fait part de l'expérience de M. Wu au service client du logiciel d'IA. Ce dernier a répondu : « Le logiciel d'IA ne possède pas de base de connaissances propre ; il intègre des informations publiques disponibles en ligne. Par exemple, concernant les plants de sésame que vous avez mentionnés, il recherche des mots-clés puis sélectionne les données pertinentes. Nous devons identifier la plateforme et l'information à l'origine du problème. » Concernant les pertes de M. Wu, le personnel a indiqué qu'il les enregistrerait et ferait un rapport. Au moment de la publication, le journaliste n'avait reçu aucune réponse. En effet, afin de promouvoir le développement sain de l'intelligence artificielle et de normaliser l'étiquetage des contenus générés et synthétisés par l'IA, l'Administration du cyberespace de Chine, le ministère de l'Industrie et des Technologies de l'information et d'autres organismes ont publié conjointement en mars 2025 les « Mesures relatives à l'étiquetage des contenus générés et synthétisés par l'IA ». L'article 4 stipule que les fournisseurs de services d'IA doivent ajouter des indications textuelles ou des symboles généraux aux endroits appropriés au début, à la fin ou au milieu du texte, ou encore des indications bien visibles autour du texte dans les scénarios interactifs.
Le professeur Gao Shanbing, vice-doyen de l'École de journalisme et de communication de l'Université normale de Nanjing, estime que le contenu généré par l'IA repose principalement sur des données et ne permet pas de distinguer le bon sens de l'information. Or, c'est précisément ce discernement qui fait défaut aux agriculteurs. Afin d'améliorer le jugement des utilisateurs, notamment des personnes âgées en milieu rural, les plateformes d'IA devraient multiplier les rappels, en particulier concernant des sujets importants tels que la santé, les médicaments et les finances.
Zhang Xin, associé du cabinet d'avocats Beijing Dacheng (Nanjing), a déclaré que la responsabilité civile est régie par le principe de la responsabilité pour faute. Pour déterminer la responsabilité, il convient de vérifier si la plateforme d'IA a respecté son obligation d'avertissement des risques, si l'opérateur de pesticides a correctement expliqué le mode d'emploi du produit et si l'agriculteur a lu et vérifié les instructions. Par ailleurs, l'identification de la cause des dégâts causés aux cultures nécessite l'intervention d'un expert.
Avec la généralisation de l'IA, de nombreuses personnes âgées ont subi des pertes du fait de leur dépendance à cette technologie. Certaines consultent l'IA pour des questions juridiques et financières, considérant les informations générées comme des réponses toutes faites. D'autres utilisent l'IA pour obtenir des conseils médicaux, se fiant aveuglément à des informations non professionnelles et retardant ainsi des soins appropriés. Les personnes âgées, qui consultent systématiquement l'IA pour tout, manquent souvent de vigilance quant à la vérification des informations. Il est souhaitable que, lors de la mise à disposition d'outils d'IA aux utilisateurs, notamment aux personnes âgées, les plateformes les incitent à développer une confiance prudente. S'il est acceptable de poser des questions à l'IA, il est essentiel que tout contenu fourni par celle-ci ne soit qu'à titre indicatif.