Incidentes Asociados
La confianza errónea de un agricultor en la IA provoca la devastadora pérdida de 150 mu de semillas de sésamo Respuestas de múltiples partes
Un agricultor de Chuzhou, provincia de Anhui, de apellido Wu, solicitó ayuda a Litchi News. Explicó que había aplicado pesticidas basándose en métodos de control de malezas y plagas generados por IA, y que sus 150 mu (aproximadamente 10 hectáreas) de plántulas de sésamo se marchitaron de la noche a la mañana. El Sr. Wu comentó a los periodistas que había tenido contacto con el software de IA hacía más de un año. "Le pregunté a la IA sobre todo, como cuándo usar pesticidas y cuándo fertilizar, y las respuestas que me dio al principio fueron bastante completas", dijo. Inicialmente, se mostró escéptico ante los métodos de la IA, pero con el tiempo, gradualmente comenzó a confiar plenamente en ella.
Un periodista revisó la conversación del Sr. Wu con el software de IA. El 10 de julio, el Sr. Wu consultó primero sobre el control de malezas en sus arrozales y luego sobre métodos de control de malezas y plagas para sus campos de sésamo. La IA generó un plan preliminar, y el Sr. Wu preguntó de inmediato si deseaba fumigación con drones. Finalmente, la IA generó un "plan completo de control aéreo de malezas y plagas para 100 acres de sésamo", recomendando los herbicidas "flupiridina de alta eficacia" y "flufenoxam", y los insecticidas "gránulos de tiametoxam dispersables en agua" y "benzoato de emamectina". El Sr. Wu comentó: "Las plántulas murieron al día siguiente de la fumigación; las malezas y las plántulas murieron juntas, pero las plántulas murieron aún más rápido". Posteriormente, el Sr. Wu preguntó a la IA sobre la razón, y esta le indicó que el "flufenoxam" de la fórmula era el responsable de la muerte del sésamo.
El reportero se enteró por un distribuidor de pesticidas cercano de que el herbicida "flufenoxam" es un herbicida para malezas de hoja ancha, específicamente para campos de soja, y que no debe rociarse en campos de sésamo. Los técnicos agrícolas afirmaron: "Otros cultivos también pueden usar 'flufenazato', pero debe aplicarse selectivamente, no en todo el campo. Aplicarlo a todo el campo definitivamente matará los cultivos".
150 mu (aproximadamente 10 hectáreas) de plántulas de sésamo se marchitaron de la noche a la mañana, dejando al Sr. Wu desconsolado. Cree que la IA no proporcionó una advertencia clara durante el proceso de generación, lo que resultó en un daño irreparable. "Incluso si la IA me hubiera recordado después de generar los datos: 'Debe tener cuidado durante la operación', no habría terminado así". Sin embargo, en la parte superior del registro de diálogo de la IA, una pequeña nota dice: "La generación de la IA puede ser incorrecta; por favor, verifique". El Sr. Wu afirmó que nunca antes había visto esta advertencia.
El reportero transmitió la experiencia del Sr. Wu al sistema de soporte del software de IA. El servicio de atención al cliente respondió: "El software de IA no tiene su propia base de conocimientos; integra información disponible públicamente en línea. Por ejemplo, con respecto a las plántulas de sésamo que mencionó, busca palabras clave y luego selecciona los datos a los que hacer referencia. Necesitamos determinar qué plataforma y qué información causó el problema". Respecto a las pérdidas del Sr. Wu, el personal indicó que las registrarían y reportarían. Al cierre de esta edición, el reportero no había recibido respuesta. De hecho, para promover el desarrollo saludable de la inteligencia artificial y estandarizar el etiquetado del contenido generado y sintetizado por IA, en marzo de 2025, la Administración del Ciberespacio de China, el Ministerio de Industria y Tecnología de la Información y otros departamentos emitieron conjuntamente las "Medidas para el Etiquetado de Contenido Generado y Sintetizado por IA". El artículo 4 estipula que los proveedores de servicios de IA deben añadir indicaciones de texto o símbolos generales en posiciones apropiadas al principio, al final o en medio del texto, o bien añadir indicaciones destacadas alrededor del texto en escenarios interactivos.
El profesor Gao Shanbing, vicedecano de la Facultad de Periodismo y Comunicación de la Universidad Normal de Nanjing, considera que el contenido generado por IA se basa principalmente en datos y no distingue si la información es de sentido común. Sin embargo, los agricultores carecen precisamente de esta capacidad de discernimiento. Para mejorar el juicio de los usuarios, especialmente de las personas mayores en zonas rurales, las plataformas de IA deberían proporcionar más recordatorios, en particular sobre asuntos importantes como la salud, la medicación y las finanzas.
Zhang Xin, socio del bufete de abogados Beijing Dacheng (Nanjing), afirmó que la responsabilidad civil se rige por el principio de responsabilidad por culpa. Para determinar la responsabilidad, es necesario considerar si la plataforma de IA ha cumplido con su obligación de advertir sobre los riesgos, si el operador de plaguicidas ha explicado el alcance de su uso según lo requerido y si el agricultor ha leído y verificado las instrucciones del plaguicida. Asimismo, la causa de los daños a los cultivos requiere una identificación profesional.
Con la adopción generalizada de la tecnología de IA, muchas personas mayores han sufrido pérdidas debido a su dependencia de la misma. Algunos adultos mayores consultan a la IA sobre asuntos legales y financieros, tratando la información generada como respuestas estándar; otros la utilizan para buscar asesoramiento médico, confiando ciegamente en información no profesional y retrasando la atención médica adecuada. Las personas mayores, que habitualmente consultan a la IA para todo, a menudo carecen de la capacidad de verificar la información. Se espera que, cuando las plataformas de IA presenten herramientas a los usuarios, especialmente a los adultos mayores, los guíen para cultivar una confianza cautelosa. Si bien es aceptable hacer preguntas a la IA, es fundamental que todo el contenido proporcionado por la IA sea solo de referencia.