Un año de confianza ciega en la IA termina en catástrofe agrícola

El señor Wu, agricultor de Chuzhou, en la provincia de Anhui, llevaba más de un año consultando a un software de inteligencia artificial para gestionar sus cultivos. Al principio era escéptico, pero los consejos sobre cuándo aplicar pesticidas y cuándo fertilizar le parecieron tan completos y acertados que, con el tiempo, pasó a confiar plenamente en la herramienta. El 10 de julio consultó a la IA sobre el control de malezas en sus arrozales y, a continuación, sobre métodos de control de malezas y plagas para sus campos de sésamo. La IA generó un plan preliminar y, cuando el señor Wu preguntó si era posible realizar la fumigación con drones, el sistema elaboró un documento titulado "plan completo de control aéreo de malezas y plagas para 100 acres de sésamo". El plan recomendaba los herbicidas "flupiridina de alta eficacia" y "flufenoxam", así como los insecticidas "gránulos dispersables en agua de tiametoxam" y "benzoato de emamectina". El agricultor siguió las indicaciones al pie de la letra y al día siguiente de la fumigación comprobó que todas sus plántulas de sésamo, unas 150 mu (aproximadamente 10 hectáreas), se habían marchitado por completo. Las malezas también murieron, pero las plántulas lo hicieron aún más rápido.

El herbicida equivocado: un error que la IA reconoció demasiado tarde

Antes de buscar ayuda externa, el señor Wu volvió a preguntar a la propia IA qué había salido mal. El sistema le respondió que el "flufenoxam" incluido en la fórmula era el responsable de la muerte del sésamo. Un distribuidor de pesticidas de la zona confirmó posteriormente a los periodistas que el flufenoxam es un herbicida diseñado específicamente para malezas de hoja ancha en campos de soja y que no debe aplicarse en campos de sésamo bajo ninguna circunstancia. Técnicos agrícolas consultados por el medio señalaron que otros cultivos pueden tolerar ciertos herbicidas similares, pero solo si se aplican de forma selectiva y localizada, nunca sobre todo el campo, ya que eso destruye inevitablemente los cultivos. El señor Wu quedó devastado: sus plántulas, cultivadas con meses de trabajo, desaparecieron en menos de 24 horas.

La advertencia que nadie vio y la respuesta evasiva de la plataforma

Al revisar el registro de conversación del señor Wu con el software, los periodistas descubrieron que en la parte superior del chat figuraba una pequeña nota con el siguiente texto:

"La generación de la IA puede ser incorrecta; por favor verifique."

El señor Wu aseguró que nunca había reparado en esa advertencia. El agricultor lamentó que, si la IA le hubiera recordado con claridad que tuviera precaución antes de aplicar los productos, el desenlace habría sido diferente:

"Incluso si la IA me hubiera recordado que tuviera cuidado durante la operación, no habría terminado así."

Cuando el reportero trasladó el caso al servicio de atención al cliente del software, la respuesta fue la siguiente:

"El software de IA no tiene su propia base de conocimiento; integra información disponible públicamente en línea. Por ejemplo, con respecto a las plántulas de sésamo que mencionó, busca palabras clave y luego selecciona qué datos consultar. Necesitamos determinar qué plataforma y qué información causó el problema."

El personal indicó que registraría y reportaría las pérdidas del señor Wu, pero al cierre de la edición el reportero no había recibido ninguna respuesta adicional.

El incidente se produce en un contexto en el que China ha comenzado a regular el etiquetado del contenido generado por IA. En marzo de 2025, la Administración del Ciberespacio de China, el Ministerio de Industria y Tecnología de la Información y otros organismos publicaron conjuntamente las Medidas para el Etiquetado de Contenido Generado y Sintetizado por IA. El artículo 4 de dicha norma estipula que los proveedores de servicios de IA deben incluir indicaciones de texto o símbolos en posiciones apropiadas, al principio, al final o en medio del contenido, o añadir avisos destacados alrededor del texto en entornos interactivos. El profesor Gao Shanbing, vicedecano de la Facultad de Periodismo y Comunicación de la Universidad Normal de Nanjing, señaló que el contenido generado por IA se basa fundamentalmente en datos y no distingue si la información es de sentido común o no, mientras que los agricultores, especialmente los de mayor edad en zonas rurales, carecen de la capacidad de discernimiento necesaria para detectar errores. En su opinión, las plataformas de IA deberían multiplicar los recordatorios en asuntos críticos como la salud, la medicación y las finanzas. Por su parte, Zhang Xin, socio del bufete de abogados Beijing Dacheng (Nanjing), explicó que la responsabilidad civil en estos casos se rige por el principio de culpa y que habría que valorar si la plataforma cumplió con su obligación de advertir sobre riesgos, si el distribuidor de pesticidas explicó correctamente el alcance de uso de los productos y si el agricultor leyó y verificó las instrucciones antes de aplicarlos. Las causas exactas del daño a los cultivos, añadió, requieren una identificación profesional.

Un problema que va más allá del campo: los mayores y la dependencia de la IA

El caso del señor Wu no es aislado. Con la expansión de la tecnología de IA, numerosas personas mayores han sufrido pérdidas por confiar ciegamente en estos sistemas. Algunos consultan a la IA sobre asuntos legales o financieros y tratan las respuestas generadas automáticamente como si fueran orientaciones estándar y definitivas. Otros recurren a la IA para obtener consejo médico, fiándose de información no profesional que retrasa la atención sanitaria adecuada. Las personas mayores que habitualmente consultan la IA para todo carecen con frecuencia de la capacidad de verificar la información que reciben. Los expertos esperan que las plataformas de IA, cuando presenten sus herramientas a los usuarios, especialmente a los de mayor edad, los guíen para desarrollar una confianza cautelosa y crítica. Hacer preguntas a la IA es legítimo, pero todo el contenido que proporciona debe tratarse únicamente como material de referencia, nunca como una instrucción definitiva.