Apple está perdiendo la guerra de los modelos de IA. Paradójicamente, puede estar ganando la de ejecutarlos en casa

Para quienes estamos entusiasmados con la IA, lo que ayer hizo Apple fue a la vez maravilloso y triste. Maravilloso porque presentó unas máquinas excepcionales que se postulan claramente como las mejores máquinas para correr modelos de IA en local. Y triste porque acceder a dichas máquinas no está al alcance de todo el mundo. Lo curioso fue el mensaje que protagonizó este lanzamiento: estos Mac ya no son esas máquinas que encandilaban a los profesionales de la fotografía o la edición de vídeo: son bestias perfectas para correr los citados modelos de IA en local. Una IA privada, eficiente y súper silenciosa.  Y ese es un giro potente, porque puede que Apple no tenga (de momento) el mejor modelo de IA de la industria, pero lo que sí tiene, sin lugar a dudas, es la mejor máquina para correr modelos de IA locales. El gran golpe de suerte de Apple: la memoria unificada  Viajemos un momento al pasado. Cuando la compañía presentó aquellos revolucionarios Apple M1 en 2020 todos nos fijamos mucho en la maravillosa eficiencia de estos procesadores y en su rendimiento por vatio, pero no muchos (nosotros sí) le dieron demasiada importancia a la memoria unificada.  Apple M1: anatomía de una revolución Pero es que era 2020 y tener mucha memoria de vídeo no era especialmente importante para el 99,99% de los usuarios. La RTX 3090 y sus 24 GB de memoria GDDR6X nos parecía una bestialidad, y la mayoría ya nos conformábamos con los 8 GB de memoria gráfica de la RTX 3070. La RTX 3080 iba un poco más allá con 10 GB, y de nuevo nos parecía más que suficiente. Todo cambió el 30 de noviembre de 2022 con la llegada de ChatGPT. Ni siquiera lo sabíamos, pero aquel lanzamiento sería no solo el detonante de los modelos de IA en la nube, sino también de los que podían correr en local, en nuestros PCs. Meta nos sorprendió a todos con su modelo de pesos abiertos, Llama, y poco a poco comenzamos a entender que la memoria de vídeo era muy, muy importante para poder correr modelos de IA en local. De hecho, nos dimos cuenta de que con la memoria de vídeo importaban dos cosas para los modelos de IA locales: • Cuanta más cantidad mejor (para poder correr modelos más grandes y potentes) • Cuanto más ancho de banda, mejor (más tokens/s en inferencia)Y así empezaron a quedar claras las cosas: cuando llegaron las RTX 5090, lo hicieron con 32 GB de GGDR7: muy bien por el ancho de banda (casi 1.792 TB/s), pero algo cortas porque con esa cantidad de memoria no había espacio para albergar modelos de IA grandes en memoria. Ahí Apple, casi sin hacer ruido, comenzó a destacar como opción destacada. Los Mac Studio con los M3 Ultra del año pasado daban a los usuarios la posibilidad de acceder a máquinas con hasta 512 GB de memoria unificada (¡!) y con un ancho de banda envidiable de 819 GB/s. Algo menos de la mitad que las RTX 5090, sí, pero con muchísimo margen para meter en esa memoria modelos de pesos abiertos realmente grandes.  Con los nuevos Mac Studio con los nuevos chips Apple M5 Ultra esa memoria unificada brilla con luz propia. Volvemos a tener hasta 512 GB disponibles por máquina, pero es que el ancho de banda ahora sube a 1,2 TB/s, un 50% más que en los M3 Ultra. La mejora es notable, pero es que la cosa no se queda ahí. La competencia, como se ve en el tuit de Ily en X.com, lo tiene complicado. Las tarjetas gráficas más potentes de Nvidia superan a Apple en ancho de banda, pero no en cantidad de memoria VRAM y además necesitas el resto de componentes para poder usarlas.  En Xataka Queríamos un PC ideal para poder experimentar con modelos locales de IA. El Framework Desktop es la respuesta a nuestras plegarias La DGX Spark es una opción interesante por sus 128 GB de "memoria unificada" —similar a la que se usa en los Mac—, pero el ancho de banda es muy inferior al de los M3 Ulta, no digamos ya a los M5 Ultra.  El mismo problema afecta a todas sus variantes (Acer Veriton GN100, Dell GB10, etc), y también a máquinas como el Framework Desktop o los nuevos PCs con los chips AMD Strix Halo (como el estupendo Ryzen AI Max+ 395): el ancho de banda es justito y ronda los 250 GB/s. El Mac mini M4, para que os hagáis una idea, tiene un ancho de banda de 120 GB/s, ago menos de la mitad de las DGX Spark. Mal asunto para los rivales de Apple. El software completa la ecuación Llevamos años hablando de cómo CUDA es ese "foso defensivo" (moat) de Nvidia en el ámbito de la inteligencia artificial. Esta tecnología ha permitido que los desarrolladores que trabajan en este ámbito puedan aprovechar al máximo las posibilidades de esas tarjetas gráficas, y eso se ha hecho especialmente cierto en los grandes centros de datos que utilizan OpenAI, Anthropic y sus rivales. Sin esta tecnología NVIDIA no ganaría tanto dinero. Ni arrasaría en el mercado de las GPU como lo hace hoy Si Nvidia va como un tiro no es tanto por sus chips de IA como por su software de IA. AMD, por ejemplo, tiene unos chips fantásticos en sus Instinct MI350, pero el software no está (de momento tan pulido). Su tecnología ROCM avanza, sí, pero de momento Nvidia sigue manteniendo esa ventaja que es tan valorada por los usuarios que no quieren complicaciones. Apple aquí parecía tener todas las de perder, pero de buenas a primeras se sacó MLX, un framework abierto de Apple para su familia de chips Apple Silicon. Con él se ha generado todo un ecosistema de modelos cuantizados con esta tecnología (los modelos de IA "se entienden" a la perfección con estos chips) y aplicaciones como LM Studio que permiten ejecutarlos de forma óptima. Pero es que ahora hay otro componente software también llamativo. Se trata de la capacidad de conectar varios Mac (mini, Studio, los que sean) para combinar su capacidad de cómputo y crear así clústeres híbridos (o no) de máquinas que permiten procesar más y ganar sobre todo en esa cantidad de memoria disponible para correr estos modelos. Es justo lo que Exo Labs lanzó hace unos meses, y ahora sus responsables han trabajado con Apple para llevar esa opción de forma nativa a estos nuevos equipos.  Bienvenidos a la era de los centros de datos domésticos Hay quien habla ya de cómo máquinas de este tipo acabarán siendo los nuevos PCs domésticos de la era de la IA: en lugar de tener un PC o incluso un NAS, la idea es que tendremos una máquina del estilo del Mac Studio que estará corriendo 24/7 y en la que podremos usar modelos de IA locales. Bienvenidos a la era de los minicentros de datos de IA domésticos. Puede que dichos modelos sean inferiores en capacidad a los modelos frontera de OpenAI, Anthropic o sus rivales, pero la diferencia ya no es tan pronunciada y lo demuestra el hecho de que los modelos abiertos chinos están ya muy cerca en rendimiento de lo que logran GPT-5.6 Sol o Fable 5.  Es cierto que esos modelos son demasiado grandes para poder ejecutarlos en local (Kimi K3 es un modelo 2,8T, Qwen3.8.Max llega a los 2,4T), pero de ellos se derivan versiones "locales" como el excepcional Qwen3.8-27B que "cabe" perfectamente en una máquina con 32 GB de VRAM (o de memoria unificada). Eso hace que quienes tengan una RTX 5090 puedan ejecutarlo con velocidades que superan los 100 tokens/s en algunas variantes, pero aquí hay un par de problemas. El primero, que las RTX 5090 consumen mucho. Y el segundo, que hacen bastante ruido y se calientan bastante, lo cual las hace "incómodas" para usarlas en entornos domésticos. Es ahí donde los Mac Studio (e incluso los Mac mini con los nuevos M5 Pro) se convierten en máquinas más que recomendables para este tipo de ámbito. Son eficientes y silenciosas, así que también ganan a la competencia en eso. Así pues, ¿cuál es el problema? Pues el de siempre. Correr los mejores modelos de IA locales sale (muy) caro Frente a todas estas alegrías, insistimos, está la nota triste: los precios de los nuevos Mac son elevados. Es algo que esperábamos hasta cierto punto dado que la crisis de las memorias lo ha encarecido todo, pero es que Apple "castiga" especialmente a los usuarios que más capacidad de memoria necesitan en estas bestias de la IA. El Mac Studio M5 Ultra con 96 GB de memoria unificada y 1 TB de SSD sale por 6.649 euros. Uf. El Mac Studio con el M5 Ultra más barato (96 GB de memoria unificada) parte de los 6.649 euros. Si queremos la versión de 256 GB, el precio sube hasta los 11.049 euros. Hay que decir que las DGX Spark con 256 GB no son tampoco baratas y se acercan a los 6.000 euros en estos momentos, y lo mismo ocurre con el resto de alternativas: correr grandes modelos de IA en local es hoy en día caro. Es probable que eso mejore con el tiempo, pero sea como fuere, una cosa está clara: el giro que Apple ha dado a sus equipos de sobremesa es fascinante. En Cupertino parecían tener prohibido pronunciar las siglas "IA", pero de un tiempo a esta parte parecen haberlo visto claro. Puede que no tengan un modelo propio local destacable (apuesto a que eso cambiará), pero lo que sí tienen son (probablemente) las mejores máquinas para correr los de la competencia. Bien jugado, Apple. Bien jugado. En Xataka | Meta quiere plantar cara a OpenAI y Google con un arma muy particular: una IA potente que funciona offline en tu ordenador - La noticia Apple está perdiendo la guerra de los modelos de IA. Paradójicamente, puede estar ganando la de ejecutarlos en casa fue publicada originalmente en Xataka por Javier Pastor .