Ciencia, innovación y tecnología

Inteligencia artificial: ¿qué riesgos se deben considerar en favor de la sostenibilidad?

La IA es una aliada de la sostenibilidad con miras al 2030. Sin embargo, su mal uso y planificación puede jugar en contra de los objetivos al profundizar ciertas desigualdades o aumentar el desgaste de recursos, por ejemplo.

La inteligencia artificial (IA), entre otras tecnologías, vislumbra un potencial en favor de la agenda sostenible. Su auge no es reciente, y en el panorama actual se viene debatiendo sus beneficios, pero también sus riesgos. En lo que respecta a sus ventajas, vale destacar el impacto directo que tiene en gran parte de las metas que poseen los 17 Objetivos de Desarrollo Sostenible (ODS), aspectos que pasan por lo social, ambiental y económico.

Pablo del Arco Fernández, director América de Valora Consultores, sostiene para Stakeholders que desde hace un tiempo atrás se viene analizando las implicancias de la IA: “En 2020 en Nature (revista científica), varios autores publicaban un detallado análisis que arrojaba una contribución positiva a 134 de las 169 metas de los ODS planteados por las Naciones Unidas en la Agenda 2030, e inhibiendo sin embargo la consecución de 59”.

Existen impactos positivos y negativos en las diversas actividades económicas. Desde los beneficios, todos los sectores pueden optar por la aplicación de la IA. Tecnologías como el Decision Support Systems, para el diagnóstico médico o de predicción del clima, y el Machine Learning o de Deep learning, para la identificación de fake news o malas conductas redes sociales, visibilizan su amplio espectro, tal como lo señala María Ángela Prialé, vicedecana de Administración de la Universidad del Pacífico (UP) e investigadora CIUP.

“Además, los sistemas de IA de comunicación interactiva, conocidos como chat bots, pueden emplearse, reduciendo costos considerablemente en la entrega de información al cliente y/o ciudadano, que realizan las empresas y organizaciones públicas”, agrega.

Pablo del Arco Fernández – Director América de Valora Consultores

Riesgos latentes

La mala gestión y empleabilidad de la IA puede ser un arma de doble filo para la sostenibilidad. La especialista de la UP menciona que si bien existen efectos positivos en los ODS, también es necesario precisar que la IA puede actuar como inhibidora de la consecución de parte de esta agenda. Un caso en particular es el modelo de IA generativa como el que usa ChatGPT.

“Si bien un único modelo de IA generativa de gran tamaño como ChatGPT no va a arruinar el medio ambiente, si mil empresas desarrollan robots de IA ligeramente diferentes para fines distintos, cada uno utilizado por millones de clientes, el uso de energía podría convertirse en un problema, impactando negativamente el ODS 13 (Acción por el clima)”, explica.

En esa línea, Pablo del Arco señala que entre los impactos negativos se encuentran aspectos como el gasto de energía requerido por los datacenters. La minería de criptomonedas como el bitcoin es un ejemplo. De acuerdo a información del Bitcoin Electricity Consumption Index de la Universidad de Cambridge, anualmente se consumen al menos 100 teravatios por hora (TWh) de electricidad en esta actividad. Esta cifra representa en perspectiva a la electricidad consumida por año en algunos países.

“En el mismo artículo de Nature se estiman crecimientos de la demanda de energía de las Tecnologías de la Información y las Comunicaciones (TICs), de suponer actualmente el 1 % de la demanda global de energía (estudio de 2020), a un 20 % en 2030”, detalla.

En la agricultura, un sector altamente involucrado en el Perú con las emisiones de GEI, la IA puede aportar a los ODS 2 (Hambre Cero) y 8 (Trabajo decente y crecimiento económico). Sin embargo, indica María Ángela Prialé, los costos en la adquisición de equipos altamente tecnificados podrían agudizar las brechas entre algunos grupos del sector, inhibiendo el logro del ODS 10 (Reducción de desigualdades), por ejemplo.

“Especialmente en los países más pobres entre el pequeño y gran agricultor”, puntualiza.

Justamente, la profundización de desigualdades es otro punto a tomar en cuenta. El directivo de Valora Consultores manifiesta que estas pueden aumentar sus brechas en casos como el acceso y la disponibilidad del empleo, ya que por un lado se requerirá una mayor especialización en las capacidades y, por otro, la oferta laboral también disminuiría.

“Asimismo, puede afectar a la cohesión social desde la desinformación. Incluso afectar a los derechos humanos en violaciones como el abuso en el control de los ciudadanos a través de la data”, complementa.

Comparte esta arista María Ángela Prialé, quien agrega que la IA puede dañar los principios democráticos e incluso los derechos humanos, al polarizar las decisiones políticas. Menciona el recordado caso de Cambridge Analytica, cuando en 2018 Facebook se vio envuelto en un escándalo en relación al uso de datos de usuarios de su red para la campaña presidencial de Donald Trump.

“En este ejemplo, la IA activa e inhibe al mismo tiempo el logro de metas asociadas a un mismo ODS, específicamente el 16 (paz, justicia e instituciones sólidas)”, precisa.

María Ángela Prialé – Vicedecana de Administración de la Universidad del Pacífico e investigadora CIUP

Sesgos en la toma de decisiones

La inequidad de género también figura entre las desventajas de una mala aplicación de la IA. Pablo del Arco menciona que los principales sesgos discriminatorios vistos hasta la fecha con herramientas como ChatGPT se dan en los procesos de reclutamiento y toma de decisiones interna sobre desarrollo de carrera.

“La herramienta se basa en la data que dispone, teniendo brechas que perjudican a las minorías. (…). Esto ha llevado a que Amazon haya declarado que abandona su uso en el reclutamiento por casos de discriminación contra mujeres, debido a que la data introducida, con la que la herramienta toma las decisiones, viene con esos sesgos”, sostiene.

Se suma a esta circunstancia, prosigue, que la información con la que se ‘alimentan’ los programas de IA provendrán en gran parte de los países desarrollados, generando que el uso de herramientas de toma de decisiones globales no considere los contextos y casuísticas locales de países con menor trayectoria en TIC.

“Esto de nuevo perjudica a las naciones de Latinoamérica, África y parte de Asia”, recalca.

Queda claro que la IA tiene la capacidad de poder contribuir al logro de los ODS. Es un hecho. Por consiguiente, el entusiasmo que genera su aplicación a muchos campos debe considerar también a la sostenibilidad. En el Perú, como explica la vicedecana de Administración de la UP, no somos desarrolladores de esta tecnología, por lo que para su avance y aprovechamiento en el largo plazo se hace indispensable una adecuada planificación.

“Se necesita una estrategia para no solo adoptarla, sino también para crear IA al servicio de las particulares necesidades del país. Apostar por el desarrollo de un sistema de ciencia y tecnología potente parecería imprescindible hoy por hoy”, concluye.

Para Pablo del Arco, cualquier tecnología representa un impulso a favor del desarrollo sostenible, siempre y cuando sea inclusiva en lo social y promueva la eficiencia en el uso de los recursos, reduciendo así los impactos ambientales negativos. No obstante, hace hincapié en que su empleo debe centrarse en una buena gestión y aplicación de la misma por parte del ser humano.

“No hay tecnologías buenas ni malas, sino usos no regulados, dejados a la arbitrariedad de los valores de cada ciudadano y empresa”, finaliza.