Inteligencia artificial & Sostenibilidad
El efecto de las métricas y los reportes
Bienvenido al Samuel’Newsletter. Gracias a los nuevos suscriptores que se están vinculando cada semana. Seguimos progresando. Estoy activando mi blog SamuelMantilla.com, para que el lector pueda escoger según sus preferencias.
Siéntase cómodo de comentar los distintos artículos y reenviárselos a sus amigos y relacionados.
Por Samuel Mantilla - Inteligencia artificial & Sostenibilidad. El efecto de las métricas y los reportes
Los distintos análisis de la relación entre la inteligencia artificial (IA) y la sostenibilidad no han abordado todavía lo concerniente a la presentación de reportes financieros relacionados con la sostenibilidad y el cambio climático (IFRS S1 y S2; CSSR; ESRS; GRI; etc.) y su aseguramiento (ISSA 5000), si bien algunos de ellos han abordado lo referente a los reportes ESG y su uso de la IA.
Abordar esto es clave para la efectividad de estos nuevos sistemas de reportes financieros y su aseguramiento que, sobre todo por el efecto de la cadena de valor, necesariamente son de gran escala y requieren importantes recursos de computación. Reducirlos a listas de verificación y/o guías prescriptivas los hace no-competitivos en entornos de IA y no será suficiente decir que se usó, por ejemplo, ChatGPT u otro sistema similar.
La relación entre la inteligencia artificial (IA) y la sostenibilidad conlleva muchas paradojas e incluye encrucijadas cuya dirección definitiva todavía no está suficientemente clara. Puede expresarse a través de distintas preguntas: ¿Hay posibilidades de dejar de desarrollar y dejar de usar la IA? ¿Hay posibilidades de renunciar a la sostenibilidad y dejar de buscar soluciones efectivas a la crisis climática? ¿La IA es altamente contaminante? ¿Puede hacerse presentación y aseguramiento efectivo de los reportes de sostenibilidad sin apoyarse en la IA? ¿Cómo conciliar los conflictos que están surgiendo en ello? ¿Cómo es el impacto de esto en las Pymes?
Diversas publicaciones recientes han abordado estas cosas. A continuación, reseño las siete que más me han gustado. No tienen enfoque contable o de presentación de reportes financieros. Espero Ud. pueda acceder a ellas (incluyo los vínculos), hacer sus propias reflexiones y sacar sus propias conclusiones.
Las reseñas que ofrezco están presentadas en el siguiente orden: (1) La paradoja de la inteligencia artificial sostenible; (2) Explorando la paradoja de la inteligencia artificial sostenible; (3) Contribución de la IA al cambio climático; (4) ¿Cuánto más grande es mejor?; (5) IA para la sostenibilidad y la sostenibilidad de la IA; (6) Tensiones de la sostenibilidad en la inteligencia artificial; y (7) Más allá de las métricas. Al final incluyo mis reflexiones sobre estas cosas.
La paradoja de la inteligencia artificial sostenible
El 21 de noviembre de 2024 Margaret Michaels publicó en el sitio web del Institute of Management Accountants un interesante artículo que tituló The Sustainable AI Paradox [La paradoja de la inteligencia artificial sostenible].
De acuerdo con mi entender, su afirmación central es:
“Desde el lanzamiento de ChatGPT, 200 millones de personas usan la plataforma diariamente. Desde estudiantes universitarios hasta profesionales de negocios, ChatGPT ha revolucionado la búsqueda de información. Pero si Ud. es alguien como yo, interesado en la IA sostenible o en usar la IA de una manera que minimice su impacto ambiental, ChatGPT no es la herramienta de “IA verde” que quizás Ud. pueda haber creído que es. Por ejemplo, Forbes reporta que “una sola conversación de ChatGPT usa cerca de 50 centilitros de agua, equivalente a una botella de plástico” y “los 200 millones de usuarios diarios de ChatGPT están consumiendo tanta electricidad como 180.000 hogares”. Esos hechos me hicieron reflexionar sobre una paradoja en el mundo de la contabilidad y las finanzas relacionada con la IA y la presentación de reportes ESG; a medida que la IA se vuelve necesaria para la presentación de reportes ESG, también es un contribuyente a las emisiones de gas con efecto invernadero de la organización.” [Traducción de SAMantilla]
En seguida, Michaels plantea y responde (con buena documentación) dos preguntas centrales:
¿La IA genera gases con efecto invernadero?
¿Por qué no se puede hacer la presentación de reportes ESG sin IA?
Reconoce que: (1) Hay esfuerzos de algunas compañías para reducir los impactos ambientales de la IA; (2) No hay respuestas fáciles cuando se trata de la sostenibilidad.
Concluye que los profesionales de la contabilidad y las finanzas se encuentran en donde convergen estos problemas, por lo que ser conscientes de esta paradoja puede ser útil para guiar a las organizaciones a lo largo del continuo de la sostenibilidad.
Explorando la paradoja de la inteligencia artificial sostenible
El 12 de febrero de 2024 Rohan Whitehead, Data Training Specialist, publicó en el blog del IOA (Institute of Analytics) un artículo que tituló Exploring the Paradox of Sustainable AI [Explorando la paradoja de la inteligencia artificial sostenible) donde afirma:
“La inteligencia artificial (IA) ha surgido tanto como un faro de esperanza como un punto de discordia en el debate sobre la sostenibilidad. Este análisis profundo sobre la huella ambiental de la IA y su capacidad para impulsar el desarrollo sostenible intenta discutir la relación entre tecnología y ecología. Nosotros exploraremos el rol multidimensional que la IA tiene en la sostenibilidad, resaltando estudios de casos detallados que muestran el impacto de la IA y su potencial para fomentar un futuro más verde”. [Traducción de SAMantilla]
Esa relación es paradójica porque ambos se necesitan y afectan:
La huella ambiental de la IA es cada vez más preocupante (por su uso intensivo de ‘poder computacional’, energía y otros recursos, así como por su efecto altamente contaminante).
Los esfuerzos relacionados con la sostenibilidad y el cambio climático requieren cada vez con más fuerza datos y reportes que, en el presente, necesariamente tienen que ser obtenidos y analizados con base en la IA.
Sugiere que una salida a esta paradoja está en la aplicación, en el desarrollo de la IA, del concepto de “sostenibilidad por diseño”: este enfoque defiende la integración de los principios de la sostenibilidad desde las etapas conceptuales de las tecnologías de la IA, de manera similar a los principios bien establecidos de la “privacidad por diseño”, haciendo que la sostenibilidad esté incrustada en el DNA de los sistemas de IA para fomentar innovaciones que contribuyan positivamente al ambiente, sin sacrificar su poder computacional o su utilidad.
Whitehead ofrece cuatro interesantes estudios de caso relacionados con: (1) Revolucionando la producción de acero con IA; (2) Transformación del sector de petróleo y gas; (3) Mejorando la eficiencia de los edificios mediante IA; y (4) Avanzando en la previsión de inundaciones para la preparación ante desastres.
Si bien reconoce la importancia de la IA para enfrentar los problemas relacionados con la sostenibilidad y el cambio climático, se queda corto en cómo los datos y reportes obtenidos y preparados usando IA afectan la sostenibilidad.
Contribución de la IA al cambio climático
El 21 de noviembre de 2024 Shoshana Kranish publicó en Dassault Systems publicó un artículo que tituló The sustainability paradox of AI and climate change [La paradoja de la sostenibilidad de la IA y el cambio climático] donde aborda la parte que Whitehead no abordó. Afirma que la IA actualmente está contribuyendo al cambio climático, pero se pregunta si también podría ser la herramienta para reducir los efectos de su propio output:
“Ciertamente, la IA puede permitir la conservación de la vida silvestre y predecir, de mejor manera que los humanos, los patrones climáticos potencialmente devastadores. Pero la tecnología también es un contribuyente importante al cambio climático, produciendo inmensas cantidades de calor y carbón. El proceso de desarrollo de la tecnología, que algunos piensan salvará el planeta, en realidad es un proceso increíblemente dañino para el planeta”. [Traducción de SAMantilla]
Reconociendo que la IA genera un problema complicado de consumo de energía, que genera un impacto negativo en el cambio climático, que la producción ambiental accidental se deriva de un input individual inocuo, Kranish sugiere un esfuerzo común hacia la búsqueda de un impacto ambiental positivo de la IA. No es una tarea sencilla, menos cuando pesan tanto los impactos negativos, pero es una tarea que necesita ser abordada usando de manera efectiva la IA.
¿Cuánto más grande es mejor?
También el 21 de noviembre de 2024, Gaël Varoquaux, director de investigación de Inria publicó un artítulo titulado Sustainable AI: how do you reconcile performance and respect for the environment? [IA sostenible: ¿Cómo concilia Ud. el desempeño y el respeto por el ambiente?] donde hace varias preguntas: ¿Puede la IA ser tanto poderosa como ambientalmente amigable? ¿Cómo puede la innovación tecnológica ser conciliada con los imperativos ecológicos? ¿Es posible desarrollar modelos de IA que consuman menos energía sin sacrificar la eficiencia?
En este artículo resume los hallazgos de un reporte preparado por Gaël Varoquaux, Alexandra Sasha Luccioni, Meredith Whittaker, que tiene por título Hype, Sustainability, and the Price of the Bigger-is-Better Paradigm in AI [Publicidad exagerada, sostenibilidad, y el precio del paradigma de cuanto más grande mejor en IA].
Señala que el enfoque de cuanto más grande mejor en IA es problemático por sus diversas consecuencias negativas:
En primer lugar, compromete la viabilidad de la IA. Los costos están en aumento, y la viabilidad económica solo es posible para aplicaciones que generan una cantidad grande de ingresos ordinarios. El impacto ecológico también se incrementa, por ejemplo, en términos de energía consumida.
En el largo plazo, esto implica una elección entre desarrollo a expensas de nuestro entorno vital (algunos están hablando acerca de incrementar de manera importante la producción de electricidad), o limitar la tecnología para una minoría.
Además, con la carrera por el tamaño llega la incesante necesidad de más datos. Se está volviendo imposible controlar lo que ponemos en nuestros modelos: imágenes pornográficas, violación de derechos de autor, datos personales.
La carrera armamentista conduce a una concentración de poder. Económicamente, muy pocos jugadores controlan la cadena de valor, y este control es logrado sobre todo mediante el control de los astronómicos recursos computacionales requeridos: fabricación de chips y arrendamiento de poder computacional en la nube.
Como solución, propone reducción de las escalas de la IA de manera que se puedan dedicar recursos a la salud y a la educación: modelos especializados, más pequeños, pueden ser una alternativa a los modelos más grandes en términos de desempeño e impacto ambiental.
IA para la sostenibilidad y la sostenibilidad de la IA
El 26 de febrero de 2021 Aimee van Wynsberghe publicó en Springer Nature un artículo que tituló Sustainable AI: AI for sustainability and the sustainability of AI [IA sostenible: IA para la sostenibilidad y la sostenibilidad de la IA] donde define la IA para la sostenibilidad como un movimiento para fomentar el cambio en todo el ciclo de vida de los productos de la IA (p.ej., generación de idea, entrenamiento, reajuste, implementación, gobierno) hacia mayor integridad ecológica y justicia social.
Ciertamente tiene muy buenas intenciones, pero se enreda en ellas. Tales intenciones son:
Ir más allá de las aplicaciones de IA y abordar todo el sistema sociotécnico de la IA.
Desarrollar IA que sea más compatible con el sostenimiento de los recursos ambientales para las generaciones actuales y futuras.
Desarrollar modelos económicos para las sociedades y sus valores sociales.
Propone que la IA sostenible tenga al desarrollo sostenible en el centro de su definición con las tres tensiones que la acompañan: (1) innovación en IA y distribución equitativa de los recursos; (2) justicia inter e intra generacional; y (3) entre medio ambiente, sociedad, y economía.
En términos prácticos se concreta en solicitar que se dirija la financiación hacia métodos sostenibles de IA, porque la IA tiene costos ambientales.
Tensiones de la sostenibilidad en la inteligencia artificial
El 27 de julio de 2022 Eleanor Mill y otros publicaron en ACM Digital Library un artículo titulado Managing Sustainability Tensions in Artificial Intelligence: Insights from Paradox Theory [Administración de las tensiones de la sostenibilidad en la inteligencia artificial: perspectivas derivadas de la teoría de las paradojas].[1]
Centrándose en la paradoja exactitud-energía, describe los desafíos que se derivan de necesitar enormes cantidades de energía para lograr ganancias desproporcionadamente más pequeñas en la exactitud del modelo. Afirma que los académicos a menudo intercambian una exigencia en conflicto por la otra, ignorando la huella de energía a favor de la exactitud incrementada o incluso sacrificando exactitud en favor de eficiencia mejorada de la energía.
Recuerda que la teoría de las paradojas es una estrategia de administración del conflicto organizacional que sugiere acoger ambas demandas en conflicto y progresar en ellas al unísono. Describe cómo la teoría de la paradoja ya está siendo aplicado para mitigar la paradoja exactitud-energía y sugiere que se necesita investigación adicional para explicar tal paradoja y desarrollar técnicas proactivas y sostenibles para manejar sus tensiones.
En términos prácticos no pasa de ser una propuesta. No hay documentación respecto de su acogida más allá de la educación computacional y la industria de la computación. Mucho menos respecto del tema clave de la presentación de reportes relacionados ya sea con la exactitud de la información sobre el uso de la energía.
Más allá de las métricas
El 13 de diciembre de 2023 Nir Ofek y Oded Maimon publicaron un interesante artículo que titularon Beyond Metrics: Navigating AI through Sustainable Paradigms [Más allá de las métricas: Navegando la IA a través de paradigmas sostenibles] donde reconocen que la esencia de la sostenibilidad no se puede reducir a una lista de verificación o a un conjunto de guías prescriptivas. En lugar de ello, resaltan, es una visión y aspiración por armonía y balance. En consecuencia, defienden un desarrollo de la IA que sea reflejo de esta visión: enfatizar adaptabilidad; balance; armonía; y un profundo reconocimiento de la interconectividad. Porque, anotan, este paradigma es un concepto viviente, dinámico y receptivo, y como tal, puede ser entrelazado con las nuevas tecnologías.
Más allá de ello que, en el fondo, es un planteamiento solo teórico, lo interesante de este artículo es el desarrollo de las temáticas relacionadas con: (1) Esfuerzo y costo del entrenamiento de los modelos de IA; (2) La complejidad bajo los lentes de la sostenibilidad; (3) La paradoja de la IA sostenible: los costos éticos y ambientales; (4) Hacia la sostenibilidad: paradigmas filosófico y ecológico; y (5) Navegar más allá de las métricas: un cambio de paradigma.
Personalmente me gustó lo relacionado con la complejidad bajo los lentes de la sostenibilidad: se refiere a la complejidad computacional de la mayoría de los modelos de aprendizaje de máquina, los cuales tienden a exceder las proporciones lineales relativas al número de muestras o características. Este escalonamiento en la complejidad constituye una preocupación importante, especialmente cuando se manejan conjuntos de datos a gran escala. Sugiere que, mediante desglosar el problema en subconjuntos más pequeños, mutuamente excluyentes, se puede reducir de manera efectiva la carga computacional.
Mis reflexiones
Si bien los artículos reseñados no se refieren a la presentación de reportes financieros relacionados con la sostenibilidad y el cambio climático (IFRS S1 y S2; CSSR; ESRS; GRI; etc.) y su aseguramiento:
El análisis que realizan es clave para la efectividad de estos nuevos sistemas de reportes financieros y su aseguramiento que, sobre todo por el efecto de la cadena de valor, necesariamente son de gran escala y requieren importantes recursos de computación.
Reducirlos a listas de verificación y/o guías prescriptivas los hace no-competitivos en entornos de IA y no será suficiente decir que se usó, p.ej., ChatGPT u otro sistema similar.
Sería interesante tener un análisis de estas cosas, derivado de la profesión contable, que ayude a analizarlas más allá de repetir los requerimientos normativos (y tributarios). Vale repetir aquí lo de Administración algorítmica. ¿Contadores, auditores y revisores fiscales deben ser algoritmos?
¿Hay posibilidades de dejar de desarrollar y dejar de usar la IA? Tal y como están las cosas, ninguna. La IA seguirá desarrollándose, ojalá cada vez para mejor. Mientras no aparezca una tecnología mejor que la sustituya, la IA continuará siendo implementada en los diferentes sectores, incluyendo los distintos negocios, la presentación y el aseguramiento de los reportes relacionados con la sostenibilidad y con el cambio climático.
¿Hay posibilidades de renunciar a la sostenibilidad y dejar de buscar soluciones efectivas a la crisis climática? Ninguna posibilidad. El mundo (incluye las personas y las organizaciones de negocios, entre otros) ya se convenció de que necesita vivir de manera sostenible y por ello continuarán los esfuerzos por la sostenibilidad y la lucha contra el cambio climático. Hay un especial énfasis por buscar soluciones que sean efectivas, esto es, que tengan costos razonables en relación con los resultados que se alcancen.
¿La IA es altamente contaminante? Toda la evidencia muestra que sí. A mayores requerimientos de poder computacional, más uso de recursos energéticos y mayor contaminación. Si bien hay esfuerzos para reducir este impacto ambiental negativo, las soluciones que, si bien son urgentes, todavía están bastante lejanas.
¿Puede hacerse presentación y aseguramiento efectivo de los reportes de sostenibilidad sin apoyarse en la IA? En los distintos sectores empresariales, principalmente las empresas más grandes, el apoyo en la IA es una realidad y continuará incrementándose. Por efecto de ‘imitación’, también en las medianas y pequeñas empresas, así como en los reguladores y académicos relacionados con estas cosas.
¿Cómo conciliar los conflictos que están surgiendo en ello? Se están reconociendo paradojas, encrucijadas y conflictos y se está incrementando la búsqueda de soluciones que concilien esto. Sobre este particular todavía no hay soluciones plenamente efectivas. Es un frente de trabajo.
¿Cómo es el impacto de esto en las Pymes? Las Pymes no viven aisladas en el mundo y menos en el mundo de los negocios. El impacto de la cadena de valor es innegable. Las Pymes necesitan aprovechar las ventajas que se derivan de la IA, si bien todavía no hay soluciones plenamente efectivas para sus necesidades y tamaño. Algo similar ocurre con la sostenibilidad y la lucha contra el cambio climático, en el cual las Pymes son actores importantes: si bien individualmente contaminan poco, en el agregado del sector son altamente contaminantes y usan recursos en escalas bastante grandes.
Tenemos tareas para todos. Hay que ir más allá de analizarlas. Comience Ud. por hacer sus propias reflexiones y compartir estas cosas con sus amigos.
[1] Este artículo fue reproducido en Research Gate como parte de la Conference: AIES '22: AAAI/ACM Conference on AI, Ethics, and Society.