René Mariani Ochoa, académico de la Universidad Veracruzana, señaló esta semana que la inteligencia artificial (IA) está transformando la forma en que las dependencias gubernamentales gestionan información y ejecutan procesos rutinarios. Según el especialista, herramientas basadas en IA pueden acelerar la captura de datos, la generación de reportes y la detección de patrones, lo que se traduce en una mayor eficiencia operativa. Sin embargo, advirtió que la velocidad no debe sacrificar la precisión, pues los sistemas de IA dependen de la calidad de los insumos que reciben. En un contexto donde las decisiones públicas afectan a millones de ciudadanos, la veracidad de la información es un requisito indispensable.
El académico explicó que los algoritmos de IA aprenden de grandes volúmenes de datos, pero no poseen la capacidad de discernir entre fuentes confiables y manipuladas. Cuando la base de entrenamiento contiene errores, sesgos o información intencionalmente distorsionada, el resultado es una salida que puede ser errónea o incluso peligrosa. “Una recomendación equivocada basada en datos falsos puede derivar en políticas públicas ineficaces o en la asignación incorrecta de recursos”, enfatizó Mariani. Por ello, subrayó la necesidad de establecer protocolos de verificación humana antes de aplicar cualquier conclusión generada por la IA.
En México, varios gobiernos estatales y municipales ya han incorporado chatbots y sistemas de análisis predictivo para optimizar trámites y prever necesidades sociales. Sin embargo, la falta de normas claras sobre la auditoría de algoritmos ha generado incertidumbre entre funcionarios y la sociedad civil. Organizaciones de derechos digitales han pedido una legislación que obligue a publicar los criterios de entrenamiento y los resultados de pruebas de precisión, con el fin de garantizar la rendición de cuentas.
Mariani también señaló que la capacitación del personal es clave para evitar la dependencia ciega de la tecnología. Los empleados deben aprender a interpretar los resultados, identificar posibles anomalías y solicitar revisiones cuando sea necesario. “La IA es una herramienta, no un sustituto del juicio profesional”, recalcó. Además, recomendó la creación de equipos interdisciplinarios que incluyan expertos en datos, juristas y representantes de la comunidad para evaluar el impacto de las decisiones automatizadas.
Las implicaciones de ignorar estos cuidados son amplias. Un caso reciente en la capital del estado mostró cómo un modelo de IA mal calibrado asignó fondos de emergencia a municipios que no los necesitaban, mientras otras regiones quedaron desatendidas. Este tipo de errores no solo generan pérdidas económicas, sino que erosionan la confianza ciudadana en las instituciones. La transparencia y la revisión constante son, según el académico, los pilares para evitar que la IA se convierta en un arma de desinformación.
En conclusión, la inteligencia artificial ofrece un potencial significativo para modernizar la administración pública, pero su adopción debe acompañarse de mecanismos robustos de verificación y supervisión. Sólo así se podrán aprovechar sus ventajas sin comprometer la integridad de las decisiones que afectan a la población. El llamado de René Mariani Ochoa es claro: combinar tecnología con rigor metodológico y control humano para garantizar decisiones informadas y responsables.
Fuente: Diario de Xalapa