iPhone 17 Pro como extensor de cómputo para un MacBook Pro: ya están aquí las pruebas de rendimiento reales.
Apple integró un acelerador neuronal en cada núcleo de la GPU A19 Pro y afirma que ofrece un rendimiento de cómputo de nivel MacBook Pro para tareas de IA que exigen mucho a la GPU. Un desarrollador puso esto a prueba conectando un iPhone 17 Pro Max a un MacBook Pro M4 Pro de 24 GB mediante USB-C de 10 Gb/s y ejecutando Qwen3.8-27B (IQ4_XS).
Distribución de capas: el Mac se encarga de las capas 1–40 y el iPhone, de la 41–64. Resultados con lotes de prellenado de 256 tokens:
• Contexto de 16k: 109 → 157 tokens/seg
• Contexto de 32k: 101 → 130 tokens/seg
• Contexto de 48k: 87 → 113 tokens/seg
Una sesión en frío de 27k tokens pasó de 245 s (solo el Mac) a 168 s (Mac + iPhone). Las salidas de tokens con decodificación codiciosa coincidieron a la perfección.
Por encima de 64k tokens, la arquitectura cambia: el Mac ejecuta el modelo completo mientras el iPhone almacena las páginas KV más antiguas y calcula la atención con las unidades matriciales de la GPU y el Neural Engine. El Mac por sí solo admite unas 64k tokens de contexto de 8 bits; el iPhone amplía esa capacidad a unas 196k–229k en el 17 Pro Max. Se hicieron pruebas de hasta 128k con 8 bits y 140k con 4 bits.
Por debajo de 64k, el iPhone no acelera la decodificación: se mantiene en los 25 tokens/seg del Mac. Una limitación crucial: el iPhone debe permanecer desbloqueado y en primer plano; de lo contrario, iOS suspende el trabajo de la GPU.
Esto no es una eGPU de uso general ni una descarga arbitraria de tareas gráficas. Es una canalización específica en la que las unidades matriciales de la GPU del iPhone procesan la segunda mitad de un modelo grande, mientras el equipo anfitrión se ocupa de la primera mitad y de los logits finales. El mismo silicio que Apple promocionó para la IA en el dispositivo ahora ofrece un rendimiento de prellenado cuantificable y amplía la capacidad de contexto al conectarlo a un Mac.
Un modelo, una distribución de capas, una velocidad de conexión y un límite térmico; pero las cifras son reales y reproducibles.
Apple integró un acelerador neuronal en cada núcleo de la GPU A19 Pro y afirma que ofrece un rendimiento de cómputo de nivel MacBook Pro para tareas de IA que exigen mucho a la GPU. Un desarrollador puso esto a prueba conectando un iPhone 17 Pro Max a un MacBook Pro M4 Pro de 24 GB mediante USB-C de 10 Gb/s y ejecutando Qwen3.8-27B (IQ4_XS).
Distribución de capas: el Mac se encarga de las capas 1–40 y el iPhone, de la 41–64. Resultados con lotes de prellenado de 256 tokens:
• Contexto de 16k: 109 → 157 tokens/seg
• Contexto de 32k: 101 → 130 tokens/seg
• Contexto de 48k: 87 → 113 tokens/seg
Una sesión en frío de 27k tokens pasó de 245 s (solo el Mac) a 168 s (Mac + iPhone). Las salidas de tokens con decodificación codiciosa coincidieron a la perfección.
Por encima de 64k tokens, la arquitectura cambia: el Mac ejecuta el modelo completo mientras el iPhone almacena las páginas KV más antiguas y calcula la atención con las unidades matriciales de la GPU y el Neural Engine. El Mac por sí solo admite unas 64k tokens de contexto de 8 bits; el iPhone amplía esa capacidad a unas 196k–229k en el 17 Pro Max. Se hicieron pruebas de hasta 128k con 8 bits y 140k con 4 bits.
Por debajo de 64k, el iPhone no acelera la decodificación: se mantiene en los 25 tokens/seg del Mac. Una limitación crucial: el iPhone debe permanecer desbloqueado y en primer plano; de lo contrario, iOS suspende el trabajo de la GPU.
Esto no es una eGPU de uso general ni una descarga arbitraria de tareas gráficas. Es una canalización específica en la que las unidades matriciales de la GPU del iPhone procesan la segunda mitad de un modelo grande, mientras el equipo anfitrión se ocupa de la primera mitad y de los logits finales. El mismo silicio que Apple promocionó para la IA en el dispositivo ahora ofrece un rendimiento de prellenado cuantificable y amplía la capacidad de contexto al conectarlo a un Mac.
Un modelo, una distribución de capas, una velocidad de conexión y un límite térmico; pero las cifras son reales y reproducibles.