Durante el presente año, el uso de electricidad en Estados Unidos ha aumentado casi un 4 por ciento en comparación con el mismo periodo del año anterior. Este incremento se ha asociado con una rápida expansión de los centros de datos, muchos de los cuales se están construyendo para satisfacer el auge en el uso de inteligencia artificial (IA). A medida que parte de esta creciente demanda se satisface con un aumento en el uso del carbón, el impacto ambiental de la IA se presenta como una preocupación relevante.
Sin embargo, es difícil obtener datos precisos sin acceso a la información que solo se puede obtener al operar un centro de datos, como la frecuencia de uso del hardware y la cantidad de consultas de IA que atiende. Aunque los académicos pueden evaluar las necesidades energéticas de modelos de IA individuales, extrapolar esos resultados a casos de uso en el mundo real es complicado.
En contraste, Google dispone de datos de casos de uso reales. Por lo tanto, la publicación de un nuevo análisis sobre el impacto ambiental de la IA representa una oportunidad única para obtener información sobre el funcionamiento interno de la empresa. Este análisis sugiere que las estimaciones de energía son actualmente un objetivo en movimiento, ya que la compañía afirma que el consumo energético de una búsqueda ha disminuido en un factor de 33 en solo el último año.
¿Qué se incluye y qué se excluye?
Una de las principales interrogantes al realizar estos análisis es qué factores considerar. Obviamente, se debe incluir la energía consumida por los procesadores al manejar una solicitud, pero también hay que considerar la energía necesaria para la memoria, el almacenamiento, el enfriamiento y otros aspectos que apoyan a esos procesadores. Además, se debe tener en cuenta la energía utilizada para fabricar todo ese hardware y construir las instalaciones que los albergan. Las IA también requieren una gran cantidad de energía durante su entrenamiento, una fracción de la cual podría contabilizarse contra cualquier solicitud individual realizada al modelo después del entrenamiento.
Cualquier análisis del uso de energía debe tomar decisiones sobre qué factores incluir. En muchos de los análisis realizados en el pasado, se han omitido varios factores debido a la falta de acceso a datos relevantes. Es probable que quienes realizan el análisis no sepan cuántos procesadores se necesitan para una tarea específica, y mucho menos las emisiones de carbono asociadas con su producción.
Sin embargo, Google tiene acceso a casi toda la información: la energía utilizada para atender una solicitud, el hardware necesario para ello, los requisitos de enfriamiento y más. Además, dado que se ha vuelto una práctica estándar seguir las emisiones de Alcance 2 y 3 producidas por las actividades de la empresa, probablemente también tiene acceso a esos datos.
Estimaciones y resultados
Para obtener números típicos, el equipo que realizó el análisis rastreó solicitudes y el hardware que las atendió durante un periodo de 24 horas, así como el tiempo de inactividad de ese hardware. Esto les proporciona una estimación de energía por solicitud, que varía según el modelo utilizado. Cada día, identifican el aviso medio y utilizan eso para calcular el impacto ambiental.
Usando esas estimaciones, encuentran que el impacto de una solicitud de texto individual es bastante pequeño. “Estimamos que el aviso de texto medio de Gemini Apps utiliza 0.24 vatios-hora de energía, emite 0.03 gramos de dióxido de carbono equivalente (gCO2e) y consume 0.26 mililitros (o aproximadamente cinco gotas) de agua”, concluyen. En contexto, estiman que el uso de energía es similar al de aproximadamente nueve segundos de visualización de televisión.
La mala noticia es que el volumen de solicitudes es indudablemente muy alto. La empresa ha decidido ejecutar una operación de IA con cada solicitud de búsqueda, una demanda computacional que simplemente no existía hace un par de años. Por lo tanto, aunque el impacto individual es pequeño, el costo acumulativo es probablemente considerable.
La buena noticia es que hace un año, la situación habría sido mucho peor.
Parte de esto se debe a las circunstancias. Con el aumento de la energía solar en Estados Unidos y en otros lugares, ha sido más fácil para Google organizar el uso de energía renovable. Como resultado, las emisiones de carbono por unidad de energía consumida han visto una reducción de 1.4 veces en el último año. Pero los mayores logros han sido en el ámbito del software, donde diferentes enfoques han llevado a una reducción del consumo energético por aviso en un factor de 33.
El equipo de Google describe varias optimizaciones que la empresa ha implementado para contribuir a esto. Una de ellas es un enfoque denominado Mixture-of-Experts, que consiste en activar solo la parte de un modelo de IA necesaria para manejar solicitudes específicas, lo que puede reducir las necesidades computacionales en un factor de 10 a 100. También han desarrollado versiones compactas de su modelo principal, lo que reduce la carga computacional. La gestión del centro de datos también juega un papel importante, ya que la empresa puede asegurarse de que cualquier hardware activo se utilice al máximo, mientras que el resto permanece en un estado de bajo consumo.
Además, Google diseña sus propios aceleradores de IA personalizados y arquitecta el software que se ejecuta en ellos, lo que le permite optimizar ambos lados del hardware y el software para operar de manera eficiente. Esto es especialmente crítico dado que la actividad en los aceleradores de IA representa más de la mitad del total del uso energético de una consulta. La empresa también tiene mucha experiencia en la operación de centros de datos eficientes que se traduce en su experiencia con la IA.
Como resultado de todo esto, se estima que el consumo energético de una consulta de texto típica ha disminuido en un factor de 33 en el último año. Esto tiene efectos colaterales, ya que aspectos como las emisiones de carbono asociadas con la fabricación del hardware se diluyen por el hecho de que el hardware puede manejar muchas más consultas a lo largo de su vida útil.
Dado estos avances en eficiencia, habría sido fácil para Google utilizar los resultados como una estrategia de relaciones públicas. En cambio, la empresa ha detallado su metodología y consideraciones en un documento que se asemeja mucho a una publicación académica. Este enfoque se debe a que los responsables de este trabajo desean que otros en el campo adopten su metodología. “Abogamos por la adopción generalizada de este marco de medición o de otros similares para garantizar que, a medida que las capacidades de la IA avancen, su eficiencia ambiental también lo haga”, concluyen.
Fuente original: ver aquí