“开放权重”指训练好的模型文件已经公开，可以在自己的硬件上运行。这不一定等于开源：有些许可证附带条件， 所以我们逐一列出。尺寸、许可证和上下文长度来自各模型的 Hugging Face 页面；基准成绩是各厂商自己公布的， 核对于 2026年10月20日。在中国大陆访问 Hugging Face 不便时，DeepSeek 等模型也发布在 ModelScope（魔搭）上。
一览
| 模型 | 厂商 | 尺寸 | 许可证 | 最适合 |
|---|---|---|---|---|
| Gemma 4 | Google DeepMind | E2B、E4B、12B、26B A4B（MoE）、31B | Apache 2.0 | 手机和笔记本；图像和音频；140 多种语言 |
| Qwen3.5（通义千问） | 阿里巴巴 | 0.8B 到 397B A17B（MoE） | Apache 2.0 | 尺寸选择最多；小模型很强；中文 |
| DeepSeek V4 | 深度求索 | Flash 284B（激活 13B）、Pro 1.6T（激活 49B） | MIT | 开放模型中最强的推理和代码；100 万 token 上下文 |
| Kimi K3 | 月之暗面 | 2.8T（激活 104B） | Kimi K3 许可证 | 长时间的智能体编程 |
| GLM-5.3 | 智谱 Z.ai | GLM-5.3、GLM-5.3-Flash | 自有许可（5.3）；MIT（5.3-Flash） | 中英文；智能体 |
| Mistral Small 4 | Mistral AI | 119B；代码用 Devstral Small 2 24B | Apache 2.0 | 24 种语言；宽松许可证 |
| gpt-oss | OpenAI | 20B、120B | Apache 2.0 | 16 GB 内存能装下的 20B 模型 |
| Llama 4 | Meta | Scout 109B（激活 17B）、Maverick | Llama 4 Community License，需申请 | 已有的 Llama 项目；2025 年 5 月后未更新 |
| LFM2.5 | Liquid AI | 230M、1.2B、2.6B、8B A1B | LFM Open License v1.0 | 手机和边缘设备上快速、省内存 |
MoE（混合专家）模型列出总参数和激活参数。所有参数都要放进内存，但每个 token 只用激活的那部分，所以速度比总尺寸看起来快。
厂商公布的基准成绩
两个常见测试：MMLU-Pro（广泛知识）和 GPQA Diamond（高难度科学问题）。各厂商用自己的设置运行， 小差距不必太在意。
| 模型 | MMLU-Pro（%） | GPQA Diamond（%） | 来源 |
|---|---|---|---|
| DeepSeek V4 Pro（最大推理） | 87.5 | 90.1 | DeepSeek 模型卡 |
| Gemma 4 31B | 85.2 | 84.3 | Google 模型卡 |
| Gemma 4 26B A4B | 82.6 | 82.3 | Google 模型卡 |
| Qwen3.5 9B | 82.5 | 81.7 | Qwen 模型卡 |
| gpt-oss 120B | 80.8 | 80.1 | Qwen3.5-9B 模型卡 |
| Qwen3.5 4B | 79.1 | 76.2 | Qwen 模型卡 |
| gpt-oss 20B | 74.8 | 71.5 | Qwen3.5-9B 模型卡 |
| Gemma 4 E4B | 69.4 | 58.6 | Google 模型卡 |
| Gemma 4 E2B | 60.0 | 43.4 | Google 模型卡 |
逐个模型
Gemma 4（Google DeepMind）
五个尺寸：E2B（有效 2.3B，含嵌入 5.1B）、E4B、12B、激活 3.8B 的 26B MoE 和 31B。全部支持图像， E2B、E4B 和 12B 还支持音频。小模型上下文 128K，其余 256K；预训练覆盖 140 多种语言。Apache 2.0。 26B A4B 接近 31B 的成绩、速度接近 4B，适合笔记本。
Qwen3.5（阿里巴巴通义千问）
阵容最全：0.8B、2B、4B、9B、27B、35B A3B、122B A10B 和 397B A17B，全部 Apache 2.0、全部支持图像。 9B 原生上下文 262K token；Qwen 称支持 201 种语言和方言。纸面上 4B 和 9B 是最强的小模型；在我们的五题测试里， 最小的版本在简单事实上出错较多。
DeepSeek V4（深度求索）
V4-Flash（284B，激活 13B）和 V4-Pro（1.6T，激活 49B），100 万 token 上下文，MIT 许可。据 DeepSeek 公布，Pro 在最大推理模式下 LiveCodeBench 93.5、Codeforces 评分 3206。2026 年 10 月 16 日又发布了 V4.1-Flash。需要数据中心级硬件，多数人通过 API 使用。小型的“R1 Distill”是另一回事，在我们的测试里表现不好。
Kimi K3（月之暗面）
2.8 万亿参数，激活 104B，支持文本和图像，100 万 token 上下文，采用自有的 Kimi K3 许可证。 面向长时间的编程和知识工作。只适合服务器。
GLM-5.3（智谱）
GLM-5.3（自有许可证）和 GLM-5.3-Flash（MIT，支持图像），中英文，分别于 2026 年 10 月 14 日和 15 日更新。 面向服务器和智能体的大模型。
Mistral Small 4 与 Devstral（Mistral AI）
Mistral Small 4：119B，Apache 2.0，模型卡列出 24 种语言（含中文）。Devstral Small 2（24B，Apache 2.0） 是编程模型，4 位量化后可在高配台式机上运行。
gpt-oss（OpenAI）
2025 年 8 月发布的 20B 和 120B 两个模型，Apache 2.0。20B 仍是 16 GB 机器的常见选择。
Llama 4（Meta）
Scout（109B，激活 17B）和 Maverick，Llama 4 Community License，在 Hugging Face 上需申请访问； 权重最后更新于 2025 年 5 月。小型的 Llama 3.2（1B、3B）仍常见于手机 App。
LFM2.5（Liquid AI）
为设备设计的小模型：230M、1.2B、2.6B 和激活 1B 的 8B。据 Liquid AI，1.2B 占用内存不到 1 GB， 上下文 32,768 token，支持八种语言（含中文）。Liquid 自己推荐用于智能体、数据提取和检索，不推荐用于 知识密集型任务和编程。许可证为其自有的 LFM Open License v1.0。
需要什么硬件
粗略规则：4 位量化的模型每十亿参数约需 0.5 到 0.6 GB 内存，另加对话占用。MoE 模型按总参数算， 而不是激活参数。
| 设备 | 现实可用的模型（4 位） |
|---|---|
| iPhone 或安卓手机 | 约 4B 以内：Gemma 4 E2B（MLX 4 位约 3.6 GB）、Qwen3.5 2B 或 4B、LFM2.5 1.2B（约 0.7 GB）、Llama 3.2 1B 或 3B |
| 16 GB 笔记本 | 约 14B 以内：Qwen3.5 9B、Gemma 4 12B、gpt-oss 20B（勉强） |
| 32 到 64 GB 的 Mac 或 PC | Gemma 4 26B A4B 或 31B、Qwen3.5 27B 或 35B A3B、Devstral Small 2 24B |
| 128 GB 以上工作站 | Mistral Small 4 119B、gpt-oss 120B、Qwen3.5 122B A10B |
| 数据中心 | DeepSeek V4、Kimi K3、GLM-5.3、Qwen3.5 397B、Llama 4 Maverick |
一个小测试：在 Mac 上问五个问题
Pinku 的开发者用同样五个事实问题（法国首都、闰年天数、《堂吉诃德》作者、金的化学符号、最大的行星； 三题西班牙语、两题英语）测试了几个小模型，使用 Mac 上的 MLX 4 位版本。答对且没有超出长度上限地兜圈子才算通过。 只有五个问题，不是基准测试：它只说明手机大小的模型能否答对基本事实。
| 模型 | 答对 |
|---|---|
| Gemma 4 E2B | 5/5 |
| LFM2.5 1.2B | 5/5 |
| Qwen3.5 2B | 4/5 |
| Qwen3.5 4B | 4/5 |
| DeepSeek R1 Distill 7B | 4/5 |
| Qwen3.5 0.8B | 2/5 |
| DeepSeek R1 Distill 1.5B | 0/5 |
如何使用
在电脑上
- Pinku（Mac 版）：在 Mac App Store 上架（在售版本 1.0.7），需 Apple 芯片和 macOS 14 及以上。12 个精选模型，0.34 到 4.7 GB：Gemma 3 1B 和 Gemma 3n E2B、Llama 3.2 1B 和 3B、Qwen3 0.6B、1.7B、4B 和 8B、DeepSeek-R1 Distill Qwen 1.5B（4 位和 8 位）、SmolLM3 3B 和 LFM2 1.2B。不用终端、不用设置：选一个模型就能聊天。免费下载；更大的模型需 Pinku Pro。目前还没有 Gemma 4 和 Qwen3.5。
- Ollama：免费开源（MIT），macOS 14 及以上、Windows 和 Linux； 命令行，2025 年 7 月起还有桌面聊天 App。模型库里有 Gemma 4、Qwen3.5、gpt-oss、Llama 4 和 LFM2.5 可在本机运行； 超大模型（DeepSeek V4、Kimi K3、GLM-5.3）在 Ollama 云端运行，按用量付费。
- LM Studio：免费桌面 App（不开源），自带模型浏览器，基于 llama.cpp 和 Apple MLX； Mac 需 Apple 芯片和 macOS 14，建议 16 GB 内存。
- llama.cpp：开源（MIT）推理引擎，很多 App 都基于它，适合习惯终端的人。
- Jan：开源聊天 App，0.8.6 版，macOS 13.6 及以上；Mac 上本地模型需要 Apple 芯片。
- mlx-lm：Apple 的 MIT 开源库，面向 Apple 芯片开发者。
在手机上
- Pinku（iOS 18.6 的 iPhone 12 及以上，以及 Apple 芯片的 Mac）：精选的小模型（Gemma、Llama 3.2、 Qwen3、SmolLM3、LFM 等），只显示设备内存装得下的；无需账户；有简体中文界面；默认模型免费，更大的模型在 Pinku Pro 中。 聊天内容不会离开你的设备；Apple 隐私标签只列出购买记录和一个用于 Pinku Pro 购买的匿名用户 ID。 在 Hugging Face 无法访问时，它会从 ModelScope 下载模型。
- PocketPal AI：免费开源，iPhone 和安卓；可加载 Hugging Face 上任意 GGUF 模型。
- Private LLM：一次性 ¥38，iPhone、iPad 和 Mac。
截至 2026年10月20日，Locally AI 和 Enclave 未在中国大陆 App Store 上架。
更详细的比较（英文，均由 Saga Labs 运营）：Reviewland 按可加载的模型比较手机 App，Reditor 比较 Ollama 的桌面替代品。
相关文章：没有 Apple Intelligence 的 iPhone 适合用哪些 AI App、 Apple Intelligence 能离线使用吗。
常见问题
2026 年最好的开放权重 AI 模型是哪个？
取决于硬件。服务器上，按各自模型卡的数据，DeepSeek V4 Pro 在本文模型中成绩最高。笔记本上选 Gemma 4 26B A4B 或 Qwen3.5 9B。手机上选 Gemma 4 E2B、Qwen3.5 2B 到 4B 或 LFM2.5 1.2B。
开放权重和开源有什么区别？
开放权重指模型文件公开、可以运行。许可证可能附带条件：Gemma 4、Qwen3.5、Mistral Small 4 和 gpt-oss 用 Apache 2.0，DeepSeek V4 用 MIT，Llama 4、Kimi K3、GLM-5.3 和 LFM2.5 用各自的许可证。
本地运行 AI 模型需要多少内存？
4 位量化下每十亿参数约 0.5 到 0.6 GB，另加对话占用。4B 模型能装进较新的手机，约 14B 能装进 16 GB 笔记本，万亿参数模型需要服务器。
在 iPhone 上哪个开放模型最好用？
约 4B 以内的模型。在 Pinku 的五题测试中，Gemma 4 E2B 和 LFM2.5 1.2B 全部答对，Qwen3.5 2B 和 4B 答对四题，DeepSeek R1 Distill 1.5B 一题都没答对。
在中国大陆怎么下载这些模型？
DeepSeek 等模型同时发布在 ModelScope（魔搭）上（见其模型卡的下载表）；Pinku 在 Hugging Face 无法访问时也会从 ModelScope 下载。