Hacemos Pinku, una de las varias apps que ejecutan modelos de IA en el iPhone. La explicación vale para todas.
Qué quiere decir «IA local»
Un modelo de lenguaje es un archivo grande de números (sus pesos) y un código que los usa para predecir la siguiente palabra. Con un chatbot en la nube como ChatGPT, Gemini o Claude, los pesos se quedan en el centro de datos del proveedor y cada mensaje viaja hasta allí. Con IA local descargas los pesos una vez y los ejecuta el chip del iPhone. A partir de ahí funciona en modo avión y tu texto no sale del dispositivo.
Por qué manda la memoria
- El tamaño sale de los parámetros y los bits. Los pesos ocupan más o menos parámetros x bits por peso / 8 bytes. Un modelo de mil millones de parámetros guardado a 4 bits son unos 0,5 GB de pesos; los archivos reales son algo mayores. En el catálogo de Pinku, Llama 3.2 1B a 4 bits ocupa 0,7 GB y Qwen 3 8B, 4,7 GB.
- La cuantización es lo que lo hace posible en un móvil. Guardar cada peso en 4 bits en vez de 16 deja el archivo unas cuatro veces más pequeño, a cambio de algo de calidad. Apple comprime su propio modelo del dispositivo, de unos 3.000 millones de parámetros, a 2 bits por peso (Apple Machine Learning Research, 2025).
- El modelo entero tiene que caber en la RAM mientras funciona, junto a iOS y la app, más una memoria de trabajo que crece con lo larga que sea la conversación. iOS cierra la app que pide demasiado, así que el límite es la memoria que iOS deja usar a una app, no el almacenamiento.
- La velocidad viene de la GPU. Apps como Pinku y Locally AI usan MLX, el framework de Apple, para ejecutar el modelo en el procesador gráfico del iPhone; los modelos pequeños contestan antes.
La regla que leímos en el código de Pinku
Leímos el código de modelos de la versión que está hoy a la venta (1.1). Pinku solo enseña un
modelo si su descarga es como mucho el 60 % de la memoria física del dispositivo.
Antes de cargarlo en un iPhone, le pregunta a iOS cuánta memoria puede usar todavía la app
(os_proc_available_memory) y solo lo carga si es al menos el tamaño del modelo
más un 10 %; si no, lo dice y propone uno más pequeño en vez de cerrarse. En la
práctica, Gemma 3 1B (0,8 GB, el que viene por defecto) necesita unos 1,4 GB de memoria, Qwen 3 4B
(2,3 GB) unos 3,9 GB y Qwen 3 8B (4,7 GB) unos 7,9 GB, lo que lo deja fuera de la mayoría de iPhone y
para iPad y Mac con más memoria.
Qué se ejecuta dónde en un iPhone
| Qué | Dónde se ejecuta |
|---|---|
| Modelo de Apple Intelligence en el dispositivo (herramientas de escritura, resúmenes) | En el iPhone, un modelo de ~3B a 2 bits por peso (Apple) |
| Peticiones más grandes de Apple Intelligence | El modelo de servidor de Apple en Private Cloud Compute; Apple dice que las funciones que usan modelos en servidor, como Image Playground, tienen límites diarios (Apple, 121115) |
| ChatGPT, Gemini, Claude y otras apps en la nube | Los servidores del proveedor; necesitan conexión en cada mensaje |
| Apps de chat en el dispositivo: Locally AI, PocketPal AI, Private LLM, Enclave, Pinku | En el iPhone, con modelos abiertos que descargas (Llama, Qwen, Gemma y otros) |
Paso a paso
- Mira tu iPhone. Apple Intelligence necesita un iPhone 15 Pro o posterior. Con modelos abiertos, más memoria es igual a modelos más grandes: uno de 1B funciona en casi todos los iPhone recientes; uno de 8B necesita unos 8 GB.
- Libera espacio. Cada modelo ocupa de 0,4 a 5 GB. En Ajustes, General, Almacenamiento del iPhone ves cuánto tienes.
- Instala una app de chat en el dispositivo. Locally AI, PocketPal AI, Private LLM, Enclave o Pinku. Lee la etiqueta de privacidad del App Store: ejecutar en local no impide que una app recoja otros datos.
- Descarga un modelo pequeño con wifi. Empieza por uno de 1B. Contesta rápido y deja memoria para el resto del móvil.
- Pruébalo en modo avión. Activa el modo avión y manda un mensaje. Si contesta, de verdad se ejecuta en el iPhone.
- Prueba uno mayor si cabe. Uno de 3B o 4B contesta mejor pero va más lento y pide más memoria. Cierra antes otras apps pesadas.
- Conoce los límites. Los modelos locales son más pequeños que los de la nube: saben menos, se equivocan más y no buscan en internet. Comprueba lo importante.
Dónde encaja Pinku
Pinku ejecuta modelos abiertos (Gemma, Llama, Qwen, SmolLM3, DeepSeek-R1 Distill y otros) en iPhone y Mac con MLX, guarda el historial solo en el dispositivo y no tiene cuenta. Solo enseña los modelos que caben en tu dispositivo, y los más grandes forman parte de Pinku Pro. No busca en internet, no lee imágenes ni las crea. Otras apps llegan más lejos en algunas cosas: PocketPal AI carga cualquier modelo GGUF de Hugging Face y Private LLM funciona con Siri y Atajos. Para un viaje, mira cómo usar IA sin conexión en el avión o de viaje, y para ver qué modelos caben en tu dispositivo, which AI model fits my iPhone or Mac (en inglés).
Fuentes
- Apple Machine Learning Research, Updates to Apple's On-Device and Server Foundation Language Models, 9 de junio de 2025, actualizado el 17 de julio de 2025.
- Apple, funciones y requisitos de Apple Intelligence (121115), publicada el 22 de octubre de 2026.
- Código de Pinku 1.1 (ModelMemory.swift, filtro de la lista de modelos, models.json), leído el 23 de octubre de 2026.
- MLX, el framework de Apple para Apple silicon.
Preguntas frecuentes
¿Cómo funciona la IA en local en un iPhone?
Descargas una vez el archivo del modelo y la app lo ejecuta en la GPU del iPhone. Lo que escribes se procesa en el dispositivo, así que funciona sin internet.
¿Cuánta RAM hace falta para un modelo de IA en el iPhone?
Más o menos el tamaño del modelo más sitio para iOS y la conversación. Pinku solo enseña un modelo si es como mucho el 60 % de la memoria: unos 1,4 GB para uno de 0,8 GB y unos 7,9 GB para uno de 4,7 GB.
¿Apple Intelligence es local?
En parte. Apple ejecuta en el dispositivo un modelo de unos 3.000 millones de parámetros y manda las peticiones más grandes a su modelo de servidor en Private Cloud Compute.
¿Por qué los modelos locales son más pequeños que ChatGPT?
Tienen que caber en la memoria del móvil. Los de la nube funcionan en máquinas de centro de datos con mucha más memoria, así que saben más y se equivocan menos.
¿Qué es la cuantización?
Guardar cada peso con menos bits, por ejemplo 4 en vez de 16, para que el modelo ocupe unas cuatro veces menos a cambio de algo de calidad.
¿La IA local gasta mucha batería?
Generar texto usa mucho la GPU, así que las conversaciones largas gastan batería y calientan el móvil. Los modelos pequeños gastan menos.