En 30 segundos

La nueva versión de MLX combina paralelismo y RDMA por Thunderbolt. Las cifras publicadas corresponden a equipos y tamaños de contexto concretos.

Qué ha pasado

Apple ha publicado nuevas pruebas de inferencia local y distribuida con MLX en Mac Studio. El artículo del 15 de octubre muestra Muse Spark Open repartido entre varios equipos y compara configuraciones de paralelismo conectadas mediante RDMA sobre Thunderbolt.

Por qué importa

Distribuir pesos permite explorar modelos que superan la capacidad de un equipo individual. A cambio, la comunicación y la configuración del paralelismo condicionan la velocidad. No basta con sumar memoria para obtener un aumento proporcional de rendimiento.

A quién afecta

Desarrolladores que experimentan con modelos grandes en equipos Apple Silicon.

Qué midió Apple

La compañía informa de más de 36 tokens por segundo para Muse Spark Open en un clúster de cuatro Mac Studio con M5 Ultra y contexto de 8.192 tokens. También compara otros modelos y precisiones; no son resultados intercambiables entre configuraciones.

Una referencia para evaluar

Las medidas ayudan a dimensionar experimentos locales, pero no acreditan igual rendimiento con contextos mayores o cargas concurrentes. IARADIA no ha montado el clúster ni ejecutado MLX. Los requisitos exactos y la metodología están en la publicación oficial.

Fuentes y procedencia

Cómo verificamos y actualizamos este contenido