«Открытые веса» означают, что файлы обученной модели опубликованы и их можно запустить на своём железе. Это не всегда открытый код: некоторые лицензии добавляют условия, поэтому мы указываем каждую. Размеры, лицензии и длина контекста взяты со страниц моделей на Hugging Face; результаты бенчмарков приводит сам разработчик. Проверено 20 октября 2026 г..
Коротко
| Модель | Разработчик | Размеры | Лицензия | Для чего лучше |
|---|---|---|---|---|
| Gemma 4 | Google DeepMind | E2B, E4B, 12B, 26B A4B (MoE), 31B | Apache 2.0 | Телефоны и ноутбуки; картинки и звук; 140+ языков |
| Qwen3.5 | Alibaba (Qwen) | от 0,8B до 397B A17B (MoE) | Apache 2.0 | Самый широкий выбор размеров; сильные малые модели |
| DeepSeek V4 | DeepSeek | Flash 284B (13B активных), Pro 1,6T (49B активных) | MIT | Лучшие открытые рассуждения и код; контекст 1 млн токенов |
| Kimi K3 | Moonshot AI | 2,8T (104B активных) | Kimi K3 License | Долгие агентные сессии программирования |
| GLM-5.3 | Z.ai | GLM-5.3, GLM-5.3-Flash | Своя (5.3); MIT (5.3-Flash) | Английский и китайский; агенты |
| Mistral Small 4 | Mistral AI | 119B; Devstral Small 2 24B для кода | Apache 2.0 | 24 языка, включая русский; свободная лицензия |
| gpt-oss | OpenAI | 20B, 120B | Apache 2.0 | Модель 20B, которая помещается в 16 ГБ |
| Llama 4 | Meta | Scout 109B (17B активных), Maverick | Llama 4 Community License, доступ по запросу | Готовые проекты на Llama; веса не обновлялись с мая 2025 |
| LFM2.5 | Liquid AI | 230M, 1,2B, 2,6B, 8B A1B | LFM Open License v1.0 | Быстрые модели с малым расходом памяти для телефонов |
У моделей MoE (смесь экспертов) указаны все и активные параметры. В памяти должны быть все, но на каждом токене работают только активные, поэтому они быстрее, чем можно подумать по общему размеру.
Бенчмарки по данным разработчиков
Два распространённых теста: MMLU-Pro (широкие знания) и GPQA Diamond (сложные научные вопросы). Разработчики запускают их со своими настройками, так что небольшие различия не значат много.
| Модель | MMLU-Pro (%) | GPQA Diamond (%) | Источник |
|---|---|---|---|
| DeepSeek V4 Pro (макс. рассуждения) | 87,5 | 90,1 | карточка DeepSeek |
| Gemma 4 31B | 85,2 | 84,3 | карточка Google |
| Gemma 4 26B A4B | 82,6 | 82,3 | карточка Google |
| Qwen3.5 9B | 82,5 | 81,7 | карточка Qwen |
| gpt-oss 120B | 80,8 | 80,1 | карточка Qwen3.5-9B |
| Qwen3.5 4B | 79,1 | 76,2 | карточка Qwen |
| gpt-oss 20B | 74,8 | 71,5 | карточка Qwen3.5-9B |
| Gemma 4 E4B | 69,4 | 58,6 | карточка Google |
| Gemma 4 E2B | 60,0 | 43,4 | карточка Google |
По моделям
Gemma 4 (Google DeepMind)
Пять размеров: E2B (2,3B эффективных, 5,1B с эмбеддингами), E4B, 12B, MoE на 26B с 3,8B активных и 31B. Все понимают картинки, E2B, E4B и 12B ещё и звук. Контекст 128K у малых и 256K у остальных; предобучение на 140+ языках. Apache 2.0. 26B A4B даёт почти уровень 31B при скорости около 4B: хороший выбор для ноутбука.
Qwen3.5 (Alibaba)
Самая широкая линейка: 0,8B, 2B, 4B, 9B, 27B, 35B A3B, 122B A10B и 397B A17B, все под Apache 2.0 и все понимают картинки. Контекст 262K токенов (9B), 201 язык и диалект по данным Qwen. 4B и 9B на бумаге самые сильные малые модели; в нашем тесте на пять вопросов самые маленькие версии ошибались в простых фактах.
DeepSeek V4 (DeepSeek)
V4-Flash (284B, 13B активных) и V4-Pro (1,6T, 49B активных), контекст миллион токенов, лицензия MIT. По данным DeepSeek, Pro в режиме максимальных рассуждений набирает 93,5 в LiveCodeBench и рейтинг 3206 на Codeforces. 16 октября 2026 года вышла V4.1-Flash. Нужен серверный уровень железа. Маленькие «R1 Distill» это другие модели, и в нашем тесте они показали себя плохо.
Kimi K3 (Moonshot AI)
2,8 триллиона параметров, 104B активных, текст и картинки, контекст миллион токенов, собственная лицензия Kimi K3. Для долгих сессий программирования. Только серверы.
GLM-5.3 (Z.ai)
GLM-5.3 (своя лицензия) и GLM-5.3-Flash (MIT, понимает картинки), английский и китайский, обновлены 14 и 15 октября 2026 года. Большие модели для серверов и агентов.
Mistral Small 4 и Devstral (Mistral AI)
Mistral Small 4: 119B, Apache 2.0, в карточке 24 языка, включая русский. Devstral Small 2 (24B, Apache 2.0) для программирования помещается на мощный компьютер в 4 битах.
gpt-oss (OpenAI)
Две модели августа 2025 года, 20B и 120B, Apache 2.0. 20B по-прежнему частый выбор для машины с 16 ГБ.
Llama 4 (Meta)
Scout (109B, 17B активных) и Maverick, лицензия Llama 4 Community License, доступ по запросу на Hugging Face. Веса там последний раз обновлялись в мае 2025 года. Маленькие Llama 3.2 (1B, 3B) всё ещё часто встречаются в мобильных приложениях.
LFM2.5 (Liquid AI)
Малые модели для устройств: 230M, 1,2B, 2,6B и 8B с 1B активных. По данным Liquid AI, 1,2B работает меньше чем в 1 ГБ памяти, контекст 32 768 токенов, восемь языков (русского среди них нет). Liquid рекомендует её для агентов, извлечения данных и поиска по документам, но не для задач на знания и программирование. Лицензия своя (LFM Open License v1.0).
Какое нужно железо
Грубое правило: модель в 4 битах занимает примерно 0,5–0,6 ГБ памяти на миллиард параметров плюс место для разговора. Для MoE считайте все параметры, а не только активные.
| Устройство | Реальные модели (4 бита) |
|---|---|
| iPhone или Android | До ~4B: Gemma 4 E2B (~3,6 ГБ в MLX 4 бита), Qwen3.5 2B или 4B, LFM2.5 1,2B (~0,7 ГБ), Llama 3.2 1B или 3B |
| Ноутбук с 16 ГБ | До ~14B: Qwen3.5 9B, Gemma 4 12B, gpt-oss 20B (впритык) |
| Mac или ПК с 32–64 ГБ | Gemma 4 26B A4B или 31B, Qwen3.5 27B или 35B A3B, Devstral Small 2 24B |
| Рабочая станция от 128 ГБ | Mistral Small 4 119B, gpt-oss 120B, Qwen3.5 122B A10B |
| Дата-центр | DeepSeek V4, Kimi K3, GLM-5.3, Qwen3.5 397B, Llama 4 Maverick |
Небольшой тест: пять вопросов на Mac
Разработчики Pinku прогнали маленькие модели через одни и те же пять вопросов на факты (столица Франции, дней в високосном году, автор «Дон Кихота», химический символ золота, самая большая планета), три на испанском и два на английском, в сборках MLX 4 бита на Mac. Вопрос засчитывался, если модель отвечала верно и не уходила в рассуждения сверх лимита. Это пять вопросов, а не бенчмарк: тест показывает только, знает ли модель размером с телефон базовые факты.
| Модель | Верно |
|---|---|
| Gemma 4 E2B | 5 из 5 |
| LFM2.5 1,2B | 5 из 5 |
| Qwen3.5 2B | 4 из 5 |
| Qwen3.5 4B | 4 из 5 |
| DeepSeek R1 Distill 7B | 4 из 5 |
| Qwen3.5 0,8B | 2 из 5 |
| DeepSeek R1 Distill 1,5B | 0 из 5 |
Как ими пользоваться
На компьютере
- Pinku для Mac: в Mac App Store (в продаже версия 1.0.7), Apple silicon и macOS 14 или новее. Двенадцать моделей от 0,34 до 4,7 ГБ: Gemma 3 1B и Gemma 3n E2B, Llama 3.2 1B и 3B, Qwen3 0,6B, 1,7B, 4B и 8B, DeepSeek-R1 Distill Qwen 1,5B (4 и 8 бит), SmolLM3 3B и LFM2 1,2B. Без терминала и настроек: выберите модель и общайтесь. Скачать бесплатно; большие модели с Pinku Pro. Gemma 4 и Qwen3.5 пока нет.
- Ollama: бесплатно, открытый код (MIT), macOS 14+, Windows и Linux; командная строка и с июля 2025 года приложение для чата. В библиотеке есть Gemma 4, Qwen3.5, gpt-oss, Llama 4 и LFM2.5 для запуска у себя; гиганты (DeepSeek V4, Kimi K3, GLM-5.3) работают в облаке Ollama за кредиты.
- LM Studio: бесплатное приложение (код закрыт) с каталогом моделей, работает через llama.cpp и Apple MLX; на Mac нужен Apple silicon и macOS 14, рекомендуется 16 ГБ памяти.
- llama.cpp: открытый движок (MIT), на котором построены многие из этих приложений; для тех, кому удобен терминал.
- Jan: открытое приложение для чата, версия 0.8.6, macOS 13.6+; для локальных моделей на Mac нужен Apple silicon.
- mlx-lm: библиотека Apple (MIT) для разработчиков на Apple silicon.
На телефоне
- Pinku (iPhone 12+ с iOS 18.6 и Mac на Apple silicon): подборка малых моделей (Gemma, Llama 3.2, Qwen3, SmolLM3, LFM и другие), показывает только те, на которые хватает памяти; без аккаунта; интерфейс на русском; модель по умолчанию бесплатна, большие входят в Pinku Pro. Чаты никогда не покидают устройство; в этикетке конфиденциальности Apple указаны только история покупок и анонимный идентификатор пользователя для покупки Pinku Pro.
- PocketPal AI: бесплатно и с открытым кодом, iPhone и Android; любые GGUF-модели с Hugging Face.
- Private LLM: 299 ₽ один раз, iPhone, iPad и Mac.
- Enclave: бесплатно, iOS 27.
Locally AI в российском App Store на 20 октября 2026 г. нет.
Подробнее (на английском, оба сайта ведёт Saga Labs): приложения для телефона по моделям, которые они загружают, на Reviewland и программы для компьютера как альтернативы Ollama на Reditor.
По теме: ИИ-приложения для iPhone без Apple Intelligence и работает ли Apple Intelligence без интернета.
Частые вопросы
Какая открытая модель ИИ лучшая в 2026 году?
Зависит от железа. Для серверов по данным собственной карточки выше всех здесь DeepSeek V4 Pro. Для ноутбука: Gemma 4 26B A4B или Qwen3.5 9B. Для телефона: Gemma 4 E2B, Qwen3.5 2B–4B или LFM2.5 1,2B.
Чем открытые веса отличаются от открытого кода?
Открытые веса значат, что файлы модели опубликованы и их можно запустить. Лицензия может добавлять условия: у Gemma 4, Qwen3.5, Mistral Small 4 и gpt-oss Apache 2.0, у DeepSeek V4 MIT, а у Llama 4, Kimi K3, GLM-5.3 и LFM2.5 свои лицензии.
Сколько памяти нужно, чтобы запустить локальную модель?
Примерно 0,5–0,6 ГБ на миллиард параметров в 4 битах плюс место для разговора. Модель 4B помещается в современный телефон, около 14B в ноутбук с 16 ГБ, а модели на триллион параметров требуют серверов.
Какая открытая модель лучше всего работает на iPhone?
Модели примерно до 4B. В тесте Pinku на пять вопросов Gemma 4 E2B и LFM2.5 1,2B ответили верно на все пять, Qwen3.5 2B и 4B на четыре, DeepSeek R1 Distill 1,5B ни на один.
Какие модели лучше понимают русский?
В карточках русский явно указан у Mistral Small 4; Gemma 4 предобучена на 140+ языках, Qwen3.5 заявляет 201 язык. У LFM2.5 русского нет в списке языков.