GreenBrainAI: un algoritmo que decide qué modelo de IA es más sostenible para cada petición sin renunciar a la calidad de la respuesta
La paradoja en el uso de la IA es evidente: la misma tecnología que muchas compañías usan para optimizar procesos y recortar costes está disparando el consumo de los centros de datos.
En ese contexto nace GreenBrainAI, la solución con la que Hiili (spin-off de la Universidad Carlos III de Madrid) quiere que España se cuele en la primera línea mundial de la llamada IA verde. La idea no es competir con los grandes modelos de lenguaje de OpenAI, Google o Meta, sino situarse entre el usuario y esos sistemas para decidir, de forma automática, qué modelo conviene utilizar en cada momento para reducir coste y huella de carbono sin sacrificar calidad. «Nuestra inteligencia no va a crear nuevos modelos, porque ya existen cientos», explican sus responsables. «Lo inteligente es crear una inteligencia que decida, para mi objetivo de reducción de huella de carbono o de coste, cuál de los cientos de modelos que hay me sirve».
Se estima que el 90% del consumo energético asociado al modelo de IA generativa va a ser debido a la inferencia (es decir, no al entrenamiento sino a las peticiones y los resultados que la tecnología ofrece). «España es un país que es consumidor de IA, no somos generadores de servicios de IA», recalca la compañía.
Cómo funciona
Para poder elegir qué modelo resulta más eficiente en cada consulta, los gemelos Rubén y Ángel Cuevas (doctores en ingeniería telemática y profesores de la UC3M) han seguido una metodología de laboratorio aplicada sobre infraestructura real. «Cogemos modelos de código abierto, los instalamos en una infraestructura real, que es Google Cloud, y empezamos a generar muchos prompts de muchas maneras distintas», detallan. «Medimos cuánto consumo energético tiene en el servidor ese prompt, el modelo que se está utilizando, el hardware, el número de tokens de entrada y de salida…».
Con todos esos datos han entrenado a su vez un modelo de machine learning capaz de estimar, casi en tiempo real, el consumo energético que provocará cada petición en distintos modelos y configuraciones de GPU, sin necesidad de medir físicamente cada vez. «Ese modelo sabe, para cada IA y las características del propio prompt, cuál es el mejor modelo», explican. «Cuando llega el prompt, nosotros sabemos qué características tiene: elegimos el modelo y a la vez estimamos cuánto habría costado y contaminado si se hubiera ejecutado en otras IA».
Sobre esa base técnica se levanta el producto comercial. Desde el punto de vista del usuario, GreenBrainAI funciona como cualquier interfaz de chat: se introduce una pregunta o instrucción y llega una respuesta generada por IA. La diferencia está en lo que ocurre por debajo. «Para una gran parte de los prompts que se hacen hoy en día, no necesitas esa potencia”, señalan, en alusión a los modelos más potentes del mercado. Sin embargo, en más del 80% del tráfico se usa el modelo más potente. «Para la inmensa mayoría de usuarios, si se cambiaran a lo que tenemos en nuestra solución, van a ahorrar muchísimo coste energético», señalan los hermanos.
En casos de uso concretos, la empresa asegura haber logrado reducir el coste en un 88% y las emisiones en un 48% respecto a la referencia de la API de OpenAI, manteniendo respuestas de calidad equivalente.
Enrutador inteligente
Según defienden, igual que no hace falta un superdeportivo para ir a por el pan, no se necesita un Ferrari algorítmico para responder a un prompt sencillo.
Sin embargo, estos emprendedores reconocen que una de las dificultades es que muchas grandes corporaciones ya funcionan bajo macroacuerdos con proveedores como Microsoft u OpenAI, lo que en la práctica bloquea la entrada de soluciones intermedias. Por otro, el grueso de la oportunidad está en esas pymes europeas que todavía no han dado el salto a la IA generativa por coste, desconocimiento y falta de recursos internos.
Cabe señalar que los gemelos Cuevas han formado parte del comité que elaboró la especificación UNE 00086, impulsada desde el Plan Nacional de Algoritmia Verde, que define cómo medir consumo energético, emisiones de carbono y uso de agua a lo largo de todo el ciclo de vida de los sistemas de IA. «Nos gustaría mucho que esta tecnología, que es una spin-off de una universidad, sitúe a España como el país que ha hecho la IA verde», confiesa Rubén Cuevas.
Por último, cabe señalar que la startup quiere cerrar una ronda de entre uno y tres millones de euros en otoño y el objetivo de lanzar comercialmente GreenBrainAI antes de que acabe este mismo año.
Un plug-in en el navegador para el consumidor
A la capa de enrutamiento se suma un esfuerzo de concienciación directa con los usuarios finales, a través de un plugin de navegador que mide el impacto de cada consulta en servicios como ChatGPT, Gemini o Perplexity. «Hoy todo el mundo recicla, pero somos muy poco conscientes de que cuando nos sentamos delante de un ordenador o un móvil, nuestras acciones también tienen un impacto en la sostenibilidad», sostienen desde la compañía. El complemento muestra en tiempo real la energía y el CO2 asociados a cada conversación y permite consultar el histórico semanal acumulado.
Fuente: La Razón