En 30 segundos
La nueva versión de MLX combina paralelismo y RDMA por Thunderbolt. Las cifras publicadas corresponden a equipos y tamaños de contexto concretos.
Qué ha pasado
Apple ha publicado nuevas pruebas de inferencia local y distribuida con MLX en Mac Studio. El artículo del 15 de octubre muestra Muse Spark Open repartido entre varios equipos y compara configuraciones de paralelismo conectadas mediante RDMA sobre Thunderbolt.
Por qué importa
Distribuir pesos permite explorar modelos que superan la capacidad de un equipo individual. A cambio, la comunicación y la configuración del paralelismo condicionan la velocidad. No basta con sumar memoria para obtener un aumento proporcional de rendimiento.
A quién afecta
Desarrolladores que experimentan con modelos grandes en equipos Apple Silicon.
Qué midió Apple
La compañía informa de más de 36 tokens por segundo para Muse Spark Open en un clúster de cuatro Mac Studio con M5 Ultra y contexto de 8.192 tokens. También compara otros modelos y precisiones; no son resultados intercambiables entre configuraciones.
Una referencia para evaluar
Las medidas ayudan a dimensionar experimentos locales, pero no acreditan igual rendimiento con contextos mayores o cargas concurrentes. IARADIA no ha montado el clúster ni ejecutado MLX. Los requisitos exactos y la metodología están en la publicación oficial.
Fuentes y procedencia
- Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio · Apple · Publicado 15/10/2026