Santiago Tianguistenco, Méx; 17 de julio de 2024. El artículo “Explorando los impactos negativos de la inteligencia artificial en el gobierno: el lado oscuro de los algoritmos inteligentes y las máquinas cognitivas”, publicado en la Revista Internacional de Ciencias Administrativas y del cual es coautor el docente de la Unidad Académica Profesional Tianguistenco de la Universidad Autónoma del Estado de México (UAEMéx), David Valle Cruz, se hizo acreedor al Premio a la Excelencia en Investigación en Ciencia y Tecnología 2024, que otorga la Sección de Ciencia y Tecnología en el Gobierno de la Sociedad Estadounidense de Administración Pública (ASPA, por sus siglas en inglés).
David Valle Cruz -líder de este trabajo de investigación- explicó que el documento, coautoría con los académicos de la Universidad Nacional Autónoma de México, Rigoberto García Contreras, y la Universidad Estatal de Nueva York, Ramón Gil García, se publicó en la Revista Internacional de Ciencias Administrativas (IRAS, por sus siglas en inglés), publicación internacional perteneciente a la editorial SAGE, dedicada a la administración pública académica y profesional e indexada en Web of Science y Scopus.
Este premio es importante porque la ASPA tiene impacto a nivel internacional y los revisores de la revista son expertos de diversos países; además, denota el impacto que tiene nuestro trabajo con respecto al uso de la inteligencia artificial (IA) en la administración pública, consideró el integrante del Sistema Nacional de Investigadoras e Investigadores (SNII).
Durante la pandemia, detalló, los autores del artículo comentamos la idea de explorar cuáles eran las desventajas de utilizar la IA y los posibles errores que pudieran surgir de su uso en el servicio público.
Así, precisó Valle Cruz, fue como nos dimos a la tarea de realizar la investigación al respecto y para ello, mediante la metodología PRISMA, revisamos más de 700 documentos, con la finalidad de identificar el lado oscuro de la inteligencia artificial, a partir de datos tecnológicos, institucionales, políticos, legales, ambientales, algunas fallas del mercado que surgen de su uso y lo que se llama la explicabilidad de la IA.
En consecuencia, puntualizó, catalogamos el lado oscuro de la inteligencia artificial en cinco dimensiones: los posible errores o sesgos que puede tener la IA en términos algorítmicos; la parte organizacional y el posible reemplazo de la fuerza de trabajo; la parte institucional, legal y las posibles barreras que puede tener la IA para ser implementada; la parte ambiental, porque puede haber fallas de mercado, en el sentido de que algunas grandes empresas monopolicen el uso de la inteligencia artificial y la parte explicativa, en que los algoritmos se pueden tornar complejos y difíciles de entender.
En este contexto, sostuvo que la IA está forjando la Cuarta Revolución Industrial o Industria 4.0 y es un tema muy relevante en todos los sentidos. Por ejemplo, abundó, tenemos muchas aplicaciones de IA que, finalmente, se van a utilizar para la toma de decisiones, que puede afectar ciudades y sociedades enteras.
Además, indicó, como resultado de este trabajo, identificamos que el lado oscuro de la IA puede venir no tanto de los algoritmos, de su complejidad, sino de su uso por parte del ser humano, de su manipulación para la toma de decisiones.
David Valle Cruz aseveró que el resultado de este trabajo de investigación se puede extrapolar a otro tipo de organizaciones y expertos en IA en todo el mundo pueden tomar el modelo que diseñaron para analizar e identificar los efectos negativos de la IA.