La memoria ya representa dos tercios del costo de los chips de IA

La memoria en los chips de IA ya representa casi dos tercios de su costo total, y eso no es un dato menor: es una señal clara de hacia dónde se está moviendo el dinero —y el poder— en la industria del hardware de inteligencia artificial.

Cómo llegamos hasta aquí

Durante años, la conversación sobre chips de IA giró casi exclusivamente en torno a las unidades de procesamiento: GPUs, TPUs, aceleradores personalizados. Empresas como NVIDIA, AMD e Intel dominaban los titulares. Pero a medida que los modelos de lenguaje grande (LLMs) y otros sistemas de IA escalan en tamaño y complejidad, la demanda de memoria de alto ancho de banda (HBM) ha crecido a un ritmo que nadie anticipó del todo.

Los números que importan

La memoria HBM ha pasado de ser un componente secundario a absorber aproximadamente el 65% del costo total de un chip de IA de gama alta. Para ponerlo en perspectiva, en un sistema como el NVIDIA H100, el costo del stack de HBM supera con creces al del propio die de silicio. Los únicos fabricantes capaces de producir HBM a escala son SK Hynix, Samsung y Micron, lo que convierte a este trío en actores absolutamente críticos del ecosistema. La demanda ha sido tan agresiva que los tiempos de espera para HBM se han extendido hasta bien entrado 2025 y 2026.

Qué significa esto realmente

Este cambio en la estructura de costos tiene implicaciones profundas: NVIDIA sigue siendo la marca que todos mencionan, pero una parte enorme del valor de cada chip que vende se queda en Corea del Sur, en las fábricas de SK Hynix y Samsung. Los fabricantes de memoria, históricamente en una posición más cíclica y volátil del mercado, ahora tienen una palanca de negociación que nunca antes habían tenido. El que controla la memoria, controla el cuello de botella.

Qué viene ahora

Espera ver tres movimientos importantes en los próximos 18 meses:

• Inversiones masivas en capacidad de producción de HBM por parte de SK Hynix, Samsung y Micron.
• Presión creciente de grandes compradores como Google, Microsoft y Meta para diversificar proveedores o desarrollar soluciones de memoria propias.
• Subidas de precio en sistemas de IA completos, que inevitablemente se trasladan a los costos de inferencia en la nube y, eventualmente, a los usuarios finales.

El debate sobre la soberanía tecnológica también se intensificará: si la memoria es el componente más caro y solo tres empresas —dos de ellas coreanas— la fabrican, los gobiernos occidentales tienen un problema estratégico serio sobre la mesa.

La gran pregunta que queda abierta es si alguien logrará romper el oligopolio de la memoria HBM antes de que dicte los términos de toda la industria de la IA.

Fuente: Hacker News