Hacemos Pinku, una de las apps que usan estos modelos en el iPhone. Las cifras de iPhone de abajo no son nuestras: vienen de un benchmark público de un desarrollador independiente, enlazado en cada tabla. Nuestra medida se hizo en un Mac con chip M3, no en un iPhone, y así se indica. Todavía no hemos medido Pinku en un iPhone; actualizaremos esta página cuando lo hagamos.
La respuesta corta
En un iPhone 17 Pro, los modelos pequeños, de 0,6 a 1,7 mil millones de parámetros a 4 bits, generan de 37 a 62 tokens por segundo y sacan la primera palabra en 0,16 a 0,7 segundos, sin internet. Llama 3.2 1B, Qwen3 0.6B y LFM2.5 1.2B son los más rápidos; Gemma 3 1B es la que más tarda en empezar, y va más lenta cuanto más larga es la conversación. En una app de chat, cuenta con un 10 a 15 % menos que estas cifras.
Velocidades en un iPhone 17 Pro (benchmark de terceros)
| Modelo (4 bits, MLX) | Tamaño | Tokens por segundo | Tiempo hasta el primer token |
|---|---|---|---|
| Qwen3 0.6B | 351 MB | 62,2 | 163 ms |
| LFM2.5 1.2B Instruct | 663 MB | 59,7 | 244 ms |
| Llama 3.2 1B | 713 MB | 58,1 | 253 ms |
| Qwen3 1.7B | 984 MB | 39,5 | 360 ms |
| Gemma 3 1B (QAT) | 772 MB | 37,1 | 693 ms |
iPhone 17 Pro (A19 Pro, 12 GB, iOS 26.3 RC), mediana de 10 pasadas con una pregunta de unos 279 tokens y 256 tokens de respuesta. De Ricky Takkar, How Fast Are On-Device LLMs on iPhone 17 Pro and iPad Pro? (en inglés), 8 de febrero de 2026, medido en su app Russet con MLX, el framework de Apple. El autor dice que son el techo del chip: en uso real, convertir los tokens en texto y actualizar la pantalla restan alrededor de un 10 a 15 %.
Qué más encontró esa prueba
- Las conversaciones largas van más lentas en el iPhone. Qwen3 0.6B pasó de 69,7 a 43,4 tokens por segundo entre la pregunta corta y la larga. Un iPad Pro M5 con la misma memoria fue de 1,2 a 2,2 veces más rápido y casi no se frenó.
- Gemma 3 1B tarda en arrancar. Su tiempo hasta el primer token subió de 407 ms con una pregunta de 47 tokens a 1.330 ms con una de 690.
- Los modelos más grandes no cupieron. Qwen3 4B y Llama 3.2 3B se quedaron fuera porque pasaban de la memoria que iOS dejaba usar a esa app en un iPhone de 12 GB.
- 4 bits mejor que 6. LFM2.5 a 6 bits fue de un 21 a un 27 % más lento que a 4.
Nuestra prueba, en un Mac M3 (no en un iPhone)
El 23 de octubre de 2026 cronometramos el propio Pinku en un Mac con chip M3, sin nada más pesado en marcha, para elegir su modelo por defecto. Son cifras desde dentro de la app, con la pantalla actualizándose, y son de un Mac:
| Modelo | Primer texto en pantalla | Tokens por segundo |
|---|---|---|
| Llama 3.2 1B | 0,13 a 0,16 s | 34 a 52 |
| Gemma 3 1B | 0,5 a 8 s, más con cada pregunta | no se anotó |
Coincide con el benchmark en iPhone: Gemma 3 1B tarda más en empezar y la espera crece a medida que el chat se alarga. Por eso Pinku cambió su modelo por defecto de Gemma 3 1B a Llama 3.2 1B en la versión 1.2.
Apps que usan estos modelos sin conexión en el iPhone
| App | Valoraciones en EE. UU. (30 oct 2026) | Qué saber |
|---|---|---|
| Locally AI by LM Studio | 1.872 (4,7) | Usa los modelos con MLX en iPhone, iPad y Mac |
| Enclave | 1.110 (4,7) | Modelos locales; Pro añade modelos en la nube |
| Private LLM | 741 (4,1) | De pago al descargar (4,99 $ en EE. UU.); funciona con Siri y Atajos |
| PocketPal AI | 165 (4,0) | Código abierto, usa cualquier modelo GGUF con llama.cpp y trae una página de Benchmark |
| Pinku | 12 (4,7) | Usa los modelos con MLX en iPhone, iPad y Mac; su catálogo tiene los cinco modelos de la tabla de arriba, a 4 bits; los chats se quedan en el dispositivo |
Ordenadas por número de valoraciones en el App Store de EE. UU. La velocidad depende del chip, del modelo y del motor (MLX o llama.cpp) más que de la app, así que el mismo modelo debería ir a una velocidad parecida en apps que usan el mismo motor.
Pros y contras de usar un modelo en el iPhone
- Pros: funciona en modo avión; tu texto se procesa en el teléfono; no hay que esperar a un servidor; los modelos pequeños empiezan a responder en menos de un segundo.
- Contras: los modelos pequeños saben menos y se equivocan más que ChatGPT o Gemini; no buscan en internet; los chats largos van más lentos; generar texto calienta el teléfono y gasta batería.
Para quién es
- Para respuestas rápidas, reescribir o traducir sin conexión: un modelo de 1B basta.
- Para quien no quiere que una conversación salga del teléfono.
- No para investigar ni para datos que deben ser exactos: usa un modelo en la nube con búsqueda web, y compruébalo.
Paso a paso
- Mira tu espacio. Los modelos pequeños ocupan de 0,4 a 1 GB. Ajustes, General, Almacenamiento del iPhone te dice cuánto tienes.
- Instala una app de chat en el dispositivo. Locally AI, Enclave, Private LLM, PocketPal AI o Pinku.
- Descarga un modelo de 1B con wifi. Llama 3.2 1B, Qwen3 0.6B o LFM2.5 1.2B fueron los más rápidos en iPhone en el benchmark de arriba.
- Activa el modo avión y pregunta algo. Si responde, el modelo funciona en el iPhone.
- Mide tu teléfono si quieres cifras. PocketPal AI tiene una página de Benchmark que da tokens por segundo y memoria, y un AI Phone Leaderboard opcional para comparar aparatos.
- Empieza un chat nuevo cuando vaya lento. La velocidad baja a medida que la conversación se alarga, así que un chat nuevo va más rápido.
Relacionado
Para ver qué modelos caben en la memoria de tu iPhone, usa qué modelo de IA cabe en mi iPhone o Mac (en inglés). Para saber cómo funcionan los modelos en el dispositivo, lee cómo funciona la IA local en el iPhone, y para un viaje, cómo usar IA sin conexión en el avión.
Fuentes
- Ricky Takkar, How Fast Are On-Device LLMs on iPhone 17 Pro and iPad Pro?, 8 de febrero de 2026, leído el 30 de octubre de 2026.
- Pinku, nuestra medida en un Mac M3, 23 de octubre de 2026 (diario de desarrollo de la app).
- PocketPal AI en GitHub: llama.cpp, GGUF y la página de Benchmark.
- Fichas del App Store de EE. UU. de cada app, valoraciones leídas el 30 de octubre de 2026.
- MLX, el framework de Apple para Apple silicon.
Preguntas frecuentes
¿Qué velocidad tiene Llama 3.2 1B en el iPhone?
Unos 58 tokens por segundo, con el primer token en unos 0,25 segundos, en un iPhone 17 Pro a 4 bits con MLX (benchmark de Ricky Takkar, febrero de 2026). En una app de chat, cuenta con un 10 a 15 % menos.
¿Cuál es el modelo de IA local más rápido en el iPhone?
En ese benchmark, Qwen3 0.6B (62 tokens por segundo), LFM2.5 1.2B (60) y Llama 3.2 1B (58). Gemma 3 1B y Qwen3 1.7B fueron más lentos, con 37 y 40.
¿Por qué Gemma 3 1B va más lenta que Llama en el iPhone?
Tarda más en leer la pregunta antes de responder: unos 0,4 segundos con una pregunta corta y 1,3 con una larga en un iPhone 17 Pro, frente a unos 0,25 segundos de Llama 3.2 1B.
¿Puede un iPhone usar un modelo de 3B o 4B?
Depende de su memoria y de la app. En el benchmark del iPhone 17 Pro, Qwen3 4B y Llama 3.2 3B se quedaron fuera porque pasaban de la memoria que iOS dejaba usar a la app. Los modelos pequeños caben en casi todos los iPhone recientes.
¿Un modelo de IA local en el iPhone necesita internet?
Solo para descargar el modelo una vez. Después responde en modo avión.
¿Cómo mido la velocidad en mi iPhone?
PocketPal AI tiene una página de Benchmark que da los tokens por segundo y la memoria del modelo que cargues.