Diseñar sistemas que reduzcan el impacto ambiental de la IA

Analizando los factores detrás del impacto ambiental de la IA

Los modelos de aprendizaje automático hacen predicciones y decisiones utilizando variables llamadas parámetros que se ajustan durante el entrenamiento. En muchos casos, agregar parámetros permite que los modelos capturen patrones y relaciones más complejos en los datos, lo que incentiva a las empresas y a los investigadores a crear modelos cada vez más grandes.

Pero se gasta energía cada vez que se actualiza un parámetro durante el entrenamiento del modelo. Un artículo de 2019 estimó que entrenar un modelo de transformador grande en GPU, mediante la búsqueda de arquitectura neuronal, produjo alrededor de 313 toneladas de emisiones de dióxido de carbono, equivalente a la cantidad de emisiones de la electricidad que utilizan 55 hogares estadounidenses en el transcurso de un año.

El gran modelo de transformador analizado en ese artículo ya tenía 213 millones de parámetros considerables y, en los años posteriores, los modelos de lenguaje se han vuelto más masivos. GPT-3, el modelo original detrás de la versión gratuita de ChatGPT, es varios órdenes de magnitud más grande, con 175 mil millones de parámetros.

Además de consumir energía, el entrenamiento del modelo genera calor sustancial, lo que impulsa el consumo de agua a través de la refrigeración del centro de datos. Y los desechos electrónicos pueden acumularse cuando los desarrolladores de IA actualizan el hardware en busca de modelos más grandes y más rápidos.

El impacto ambiental de la IA va más allá del entrenamiento de modelos

Hasta la fecha, el análisis de la huella de carbono de la IA se ha centrado en el desarrollo y la capacitación de modelos, que suele ser la etapa computacionalmente más costosa del ciclo de vida del aprendizaje automático. Sin embargo, las emisiones derivadas del uso individual también podrían ser relativamente altas para modelos grandes con millones de usuarios diarios, como ChatGPT o Google Search con tecnología de inteligencia artificial.

También está la cuestión de cómo se utiliza la IA después del desarrollo. Muchas empresas de tecnología se han comprometido públicamente a reducir las emisiones asociadas con sus cálculos y hardware. Si bien hacerlo es indudablemente valioso, centrarse solo en esas áreas permite a las empresas liberarse de los efectos posteriores de sus aplicaciones.

El panorama completo del impacto ambiental de la IA incluye cómo la IA está contribuyendo a las tendencias sociales en su conjunto, incluido el cambio del consumo de productos y servicios en una dirección insostenible. Por ejemplo, el uso de la IA para acelerar la exploración de petróleo y gas o facilitar la entrega bajo demanda con vehículos con altas emisiones podría causar aumentos potencialmente significativos en las emisiones de carbono.

Diseño de sistemas de IA más eficientes y sostenibles

Sigue siendo difícil estimar con precisión el impacto ambiental de la IA. Pero, aunque es importante obtener métricas de sostenibilidad precisas, los desarrolladores de modelos de aprendizaje automático y software impulsado por IA pueden tomar decisiones de diseño más eficientes energéticamente, incluso sin conocer cifras de emisiones específicas.

Por ejemplo, eliminar cálculos innecesarios en el entrenamiento de modelos puede reducir las emisiones generales. No son necesarios modelos grandes y computacionalmente intensivos para todas las aplicaciones; en algunos casos de uso, un modelo más pequeño podría funcionar igual de bien o incluso mejor. También es importante ver la sostenibilidad como una métrica valiosa en sí misma, en lugar de buscar mejoras marginales en el desempeño a cualquier costo de emisiones.

Los desarrolladores que entrenan modelos que utilizan infraestructura en la nube también pueden realizar cálculos en momentos y en regiones de centros de datos donde hay más energía limpia disponible. Verificar los recursos no utilizados y utilizar los servidores a su máxima capacidad también puede reducir los gastos innecesarios de energía: si un servidor está encendido, está consumiendo energía, incluso si no está ejecutando una carga de trabajo útil.

La incorporación de herramientas de seguimiento de la sostenibilidad puede ayudar a los equipos técnicos a comprender mejor el impacto ambiental de sus modelos y las aplicaciones donde se utilizan esos modelos. Por ejemplo, el paquete Python CodeCarbon y la herramienta de código abierto Cloud Carbon Footprint ofrecen a los desarrolladores instantáneas de las emisiones de carbono estimadas de un programa o carga de trabajo. De manera similar, la herramienta Kepler de IBM Red Hat para Kubernetes tiene como objetivo ayudar a los equipos de TI y DevOps a gestionar el consumo de energía de los clústeres de Kubernetes.

Lograr que el sector empresarial se sume a la IA sostenible

Explicar el valor empresarial de la sostenibilidad puede ayudar a lograr la aceptación de los líderes, especialmente en industrias estrechamente reguladas y de lento movimiento, como la banca y las telecomunicaciones. Los profesionales de la IA que esperan hacer su trabajo más sostenible pueden enfatizar los ahorros de costos asociados con los modelos energéticamente eficientes, por ejemplo, así como los riesgos asociados con la violación de los protocolos de sostenibilidad.

Además, es probable que las empresas que realmente prioricen la sostenibilidad se encuentren en una mejor posición a largo plazo. A medida que las regulaciones evolucionan, adoptar un enfoque que dé prioridad a la sustentabilidad preparará a las empresas para el éxito en comparación con simplemente jugar al topo con cada nueva política que surja. Por lo tanto, hacer un esfuerzo inicial para construir sistemas de IA más sostenibles podría ayudar a evitar la necesidad de realizar cambios costosos en la infraestructura y los procesos en el futuro.

Los compromisos de sostenibilidad también pueden ayudar a las empresas a atraer talento en un mercado laboral tecnológico aún competitivo. Los candidatos están cada vez más interesados ​​en los enfoques de los posibles empleadores respecto de los objetivos medioambientales y de sostenibilidad. Como resultado, establecer una misión de sostenibilidad clara –y tomar medidas en el mundo real para respaldarla– puede ayudar a las empresas a atraer el talento que necesitan.