Un proyecto de un billón de dólares sorprendentemente ineficiente.
Por Alex Reisner
Traducción Alejandro Garvie
Mientras luchan por mantener sus sistemas en línea, las empresas de IA están encareciendo las cosas para el resto de nosotros. Los grandes modelos de lenguaje como ChatGPT y Claude consumen tantos recursos que las empresas tecnológicas podrían estar comprando el 70% del suministro mundial de memoria de alta gama para computadoras, lo que está provocando escasez. Como resultado, los precios de la memoria y el almacenamiento de computadoras se están disparando: discos duros que compré para mi trabajo periodístico hace dos años por 350 dólares cada uno costaban 800 dólares hace dos semanas, y ahora están agotados. Los precios de algunas computadoras portátiles han subido hasta un 50 %, y las computadoras de bajo costo son las más afectadas. Según un pronóstico, las computadoras asequibles de gama básica podrían “desaparecer para 2028”. Y se espera que la escasez de memoria continúe durante años.
La memoria se está almacenando en centros de datos, que las empresas tecnológicas están expandiendo a un ritmo vertiginoso. Planean multiplicar por ocho la capacidad total de los centros de datos en Estados Unidos en los próximos años. La demanda de electricidad en estas instalaciones es tan alta que algunas empresas están adaptando motores a reacción para alimentarlas.
El problema no radica simplemente en que la IA se esté implementando de forma tan generalizada y rápida. Otras tecnologías informáticas han experimentado un crecimiento igualmente masivo sin provocar un aumento tan drástico en el consumo de electricidad ni una escasez de componentes informáticos: el vídeo y la música se transmiten ahora por todo el mundo, generando muchos terabytes de tráfico de internet a diario; el auge de los teléfonos inteligentes requirió la fabricación de miles de millones de dispositivos que ahora transfieren enormes cantidades de datos; miles de millones de dispositivos domésticos también forman parte del Internet de las Cosas; e industrias enteras han trasladado sus operaciones al software en la nube, que no se aloja en el cielo, sino, efectivamente, en centros de datos.
El problema de la IA generativa, en la jerga del sector, es que no es escalable. El coste de pasar, por ejemplo, de mil usuarios a un millón es un factor clave que los inversores de capital riesgo analizan al evaluar las startups. Buscan que el coste de añadir cada nuevo usuario disminuya con el tiempo, de modo que la empresa pueda dar soporte a millones de usuarios y obtener beneficios crecientes. Esto se consigue, en parte, mediante el diseño meticuloso de sistemas informáticos capaces de gestionar eficientemente un mayor número de usuarios que desean publicar fotos, pedir Ubers o escuchar música en streaming.
Con la IA generativa, el trabajo de construir sistemas eficientes y escalables aún no ha terminado. Y el problema se agrava por los modelos de IA generativa cada vez más grandes, que han pasado de 175 mil millones de parámetros en 2020 a más de 1 billón en la actualidad, según estimaciones independientes (el tamaño real de los modelos que impulsan productos como Claude y ChatGPT es secreto). El gran tamaño del modelo de lenguaje no debería ser un argumento de venta. Pero la observación de la industria de que los modelos más grandes tienden a superar a los más pequeños ha dado lugar a una creencia casi mítica en las “leyes de escala” que sugieren que cualquier problema puede resolverse simplemente haciendo los modelos más grandes. “Quizás con 10 gigavatios de computación, la IA pueda descubrir cómo curar el cáncer”, escribió el CEO de OpenAI, Sam Altman, en su blog en septiembre.
Sin embargo, los beneficios son cada vez menores. Cuanto más grande es un modelo de IA, menos mejora con cada parámetro añadido, por lo que debe ampliarse a un ritmo mayor solo para mantener un progreso constante. Pregunté a algunos investigadores de IA si podían mencionar algún otro software del mundo real que escalara tan mal. Ninguno pudo pensar en ninguno. Incluso fuera del mundo del software, es difícil encontrar un ejemplo comparable, dado que la economía de escala es el principio que ha hecho que las bombillas, los coches y la ropa sean tan asequibles. Desde un punto de vista económico y de ingeniería, la IA generativa podría ser la peor tecnología jamás implementada.
Pero con la enorme inversión que respalda el enfoque actual, es posible que no haya mucha voluntad de cambio. Ilya Sutskever, cofundador y ex científico jefe de OpenAI, afirmó en una entrevista en noviembre que las empresas adoptan el enfoque de fuerza bruta “porque ofrece una forma de muy bajo riesgo de invertir sus recursos”. Argumentó que es más difícil invertir en investigación que rediseñe un producto que actualmente alcanza valoraciones de billones de dólares. Quienes sospechan que nos encontramos en una burbuja económica impulsada por la IA han señalado que la rentabilidad de estas empresas sigue siendo una incógnita, principalmente debido al alto costo y la ineficiencia de la tecnología.
La eficiencia es un principio fundamental de la informática. Una de las primeras cosas que aprenden los estudiantes universitarios es que escribir un programa que ordene una lista de 50 palabras es fácil. Pero si se le proporciona a ese programa 50 millones de palabras, probablemente se quedará sin memoria o tardará horas en terminar. Gran parte de la informática consiste en aprender las ingeniosas técnicas de programación que evitan que esto suceda. Muchas de estas técnicas aprovechan los patrones repetitivos en los datos, de modo que, a medida que el programa recibe más información, requiere menos tiempo o memoria para procesar cada bit adicional. Esta eficiencia es una de las razones por las que los teléfonos inteligentes y las computadoras modernas son tan potentes y asequibles. Esto se denomina escala logarítmica.
Los modelos de lenguaje grandes no escalan logarítmicamente. A medida que se les proporciona más palabras para procesar, se vuelven más lentos y consumen más memoria; el tiempo y los recursos aumentan más rápidamente con el incremento de la entrada. En términos técnicos, los modelos de lenguaje grandes escalan cuadráticamente. Cualquier estudiante de informática sabe que esto es muy malo.
Epoch AI, una organización que intenta determinar los costos de operación de los modelos de IA, publicó un gráfico el año pasado que muestra el aumento exponencial de los costos de servir más “tokens” (las palabras que los usuarios escriben en los chatbots) con varios modelos de IA públicos.
La IA no tiene por qué construirse de esta manera. Tradicionalmente, el objetivo de la IA era resolver problemas simulando los procesos mentales humanos. Los investigadores observaban su propio pensamiento e intentaban implementar sus hábitos mentales en código. Este enfoque se ha abandonado en gran medida, en parte debido a la dificultad de discernir y articular las reglas del pensamiento humano, pero tenía la ventaja de consumir muchos menos recursos y datos.
El enfoque actual de la IA no intenta describir las reglas del pensamiento humano; en cambio, proporciona a la computadora millones de ejemplos para imitar. Esta enorme cantidad de ejemplos es una de las razones por las que los modelos grandes pueden tener un mejor rendimiento que los pequeños al generar lenguaje, imágenes y música: disponen de más material del que nutrirse. Algunos investigadores desean recuperar el enfoque antiguo, más eficiente, y combinarlo con el moderno, pero hasta ahora estos proyectos no han recibido tanta atención ni financiación como los modelos que impulsan los chatbots.
Las empresas de chatbots son conscientes de la ineficiencia de sus productos. Algunas han encontrado técnicas para mejorar el rendimiento, pero no han logrado avances significativos. En ocasiones, afirman haber realizado grandes descubrimientos —el director ejecutivo de Anthropic, Dario Amodei, los ha denominado “multiplicadores de cómputo”—, pero suelen describirse en términos vagos y no hay pruebas de que se hayan superado los problemas básicos de escalado cuadrático y crecimiento exponencial del tamaño del modelo.
Algunos investigadores trabajan en modelos extremadamente pequeños que requieren menos datos y menor potencia de cálculo. Hablé con Alexia Jolicoeur-Martineau, investigadora de IA en Microsoft que diseñó uno de estos modelos de forma independiente, y le pregunté sobre el enfoque de fuerza bruta que utiliza la industria. “Es una locura”, me dijo. “En algún momento hay que aprender a ser un poco más eficiente”.
El año pasado, Jolicoeur-Martineau ganó un premio de 50.000 dólares por su artículo sobre un “modelo recursivo pequeño” que no consume grandes cantidades de recursos informáticos. “La idea de que uno deba depender de modelos fundamentales masivos, entrenados por millones de dólares por alguna gran corporación para lograr el éxito en tareas difíciles, es una trampa”, escribió. Su modelo no sustituye a un modelo de lenguaje natural (LLM), sino que está diseñado para resolver problemas de lógica en campos como la biología y la ingeniería eléctrica, en lugar de generar lenguaje, pero puede realizar algunas de las tareas para las que actualmente se utilizan modelos de IA mucho más grandes.
Sin embargo, parece que seguimos atrapados con las LLM, quizás debido a su agresiva comercialización. Ahora se incorporan a todo, lo queramos o no. En 2024 y 2025, se integraron en Windows y macOS, lo que implica que ahora se necesita mayor potencia de procesamiento para ejecutar un ordenador personal básico. Los smartphones también se venden con hardware mejorado, ya que las empresas anticipan nuevas funciones de IA. Además, se está incorporando IA ineficiente a programas comunes como Adobe Photoshop y Microsoft Word, lo que significa que los ordenadores deben ser más potentes para ejecutar este software.
Esto es especialmente preocupante porque las computadoras ya no mejoran al ritmo de antes. Desde la década de 1950, los fabricantes aprendieron a producir microchips cada vez más rápidos, pequeños y baratos, una tendencia conocida como la Ley de Moore. Sin embargo, en los últimos años, los componentes se han reducido tanto que los fabricantes se han topado con limitaciones moleculares para seguir miniaturizándolos, lo que ha ralentizado significativamente el progreso.
En lugar de reducir el tamaño de los componentes, los fabricantes se han centrado en desarrollar nuevo hardware adaptado a la IA. Esto ha proporcionado mejoras puntuales en el rendimiento, pero ninguna se ha acercado a seguir el ritmo exponencial de las crecientes exigencias de la IA.
En última instancia, la ineficiencia puede no preocupar demasiado a quienes, dentro de la industria tecnológica, creen estar replicando la inteligencia misma. Existe una convicción casi religiosa entre muchos en Silicon Valley de que algo similar a la mente podría surgir de los LLM, que en realidad no son más que software estadístico generador de lenguaje; esto, a pesar de la incapacidad del software para recordar datos básicos, su falta de sentido común y su total diferencia con un cerebro biológico. Incluso Yann LeCun, uno de los “padrinos” de la IA, declaró recientemente a The New York Times que “los LLM no son un camino hacia la superinteligencia ni siquiera hacia la inteligencia a nivel humano”. Pero el atractivo mítico de la IA es tan fuerte que muchos ingenieros creen que nada debería interponerse en su camino. Ni siquiera la tarea básica de escribir software eficiente.
Link https://www.theatlantic.com/technology/2026/07/generative-ai-engineering-disaster
