El agricultor Wu, de 67 años y residente en Chuzhou, China, decidió confiar en una inteligencia artificial para optimizar el manejo de su cultivo de sésamo. Hace un año empezó a usar la herramienta tras notar que sus primeras consultas le dieron resultados positivos, lo que le llevó a depender cada vez más de sus respuestas. Sin embargo, la confianza ciega en la tecnología tuvo consecuencias desastrosas cuando la IA le recomendó una mezcla de pesticidas y herbicidas para eliminar las malas hierbas que infestaban sus campos. Wu preparó la fórmula, la cargó en un dron y la aplicó sobre sus 10 hectáreas de sésamo al atardecer.
Al día siguiente, la sorpresa fue total: todas las plantas, tanto la maleza como las plántulas de sésamo, aparecían marchitas y sin vida. La combinación recomendada incluía flufenacet, un herbicida diseñado para soja, no para sésamo, lo que provocó la muerte simultánea de las especies objetivo y del cultivo. Las pérdidas económicas se estiman en unos 22,000 dólares, según reporta International Business Times, y el agricultor reconoce que la IA no advirtió del error en su recomendación.
El caso de Wu ilustra un fenómeno cada vez más frecuente: los sistemas de IA responden con gran seguridad, lo que genera una percepción de autoridad que los usuarios no siempre cuestionan. Estudios recientes señalan que la confianza excesiva en respuestas automáticas puede llevar a decisiones críticas sin la debida verificación. En este caso, el aviso de que la IA podía equivocarse pasó desapercibido, tal como ocurre con los habituales avisos de cookies que pocos leen.
La empresa proveedora del chatbot, que no ha sido identificada, explicó que su modelo no posee una base de conocimientos propia, sino que genera respuestas a partir de información recopilada de fuentes externas. Ante la catástrofe, la compañía no ofreció compensación alguna, argumentando que la responsabilidad recae en el usuario por no validar la información.
Expertos en agricultura y tecnología advierten que, si bien la IA puede ser una herramienta valiosa para mejorar rendimientos, es imprescindible combinarla con la experiencia humana y con protocolos de verificación. La falta de regulación clara sobre el uso de recomendaciones automatizadas en sectores críticos como la agroindustria aumenta el riesgo de incidentes similares.
El episodio de Wu sirve de alerta para agricultores y empresas que buscan automatizar procesos sin establecer mecanismos de control. La lección principal es que la inteligencia artificial, por poderosa que sea, sigue siendo una herramienta que necesita supervisión humana para evitar errores costosos y potencialmente devastadores.
Fuente: Xataka