IPW: Inteligencia por vatio, una nueva forma de medir la eficiencia de la IA

Wait 5 sec.

En un trabajo titulado Intelligence per Watt, unos investigadores han estudiando cuánto trabajo relacionado con los modelos de IA puede procesarse de forma efectiva en equipos convencionales, como un ordenador de sobremesa o un portátil, sin tener que irse a la meganube de Amazon o de Google. Y sugieren como métrica la inteligencia por vatio, que relaciona la la precisión de las respuestas y la potencia eléctrica media consumida. No parece mala idea.En esa relación inteligencia/vatio cuanto más «lista» sea la IA, mejor, y cuanta menos energía y electricidad consuma, más nos quedará a los humanos «para nuestras cosas».Meticulosas pruebas de eficienciaPara las pruebas evaluaron más de 20 modelos, ocho plataformas de hardware (Apple M4 Max, NVIDIA B200, AMD Instinct MI300X…) convenientemente cargadas de RAM y almacenamiento que iban como pepinos y realizaron un millón de consultas (prompts) de conversación y razonamiento*. Total, ¡era gratis! Los modelos locales respondieron correctamente al 88,7% de las consultas de promedio, aunque el porcentaje de acierto dependía un poco de la temática.Esto lo hicieron en varias ocasiones. Entre 2023 y 2025 los IPW mejoraron un factor de ×5,3, gracias a los nuevos algoritmos, modelos y el propio hardware. La proporción de consultas que podían resolverse pasó del 23,2% al 71,3%. Chips como el Apple M4 Max permiten ejecutar estos modelos con tiempos de respuesta prácticamente interactivos.Seguir leyendo: IPW: Inteligencia por vatio, una nueva forma de medir la eficiencia de la IA# Enlace permanente