By 黄金金枪鱼 
Apple 在 WWDC26 上把"端侧大模型"这条路线又往前推了一步——AFM3 系列里那枚被命名为 Advanced 的模型参数量约 20B，要在 iPhone 17 Pro、M3 及以上的 Mac 上本地运行，门槛被框定在 12GB 统一内存。这个数字背后不是营销噱头，而是 Apple 这两年在架构、量化、系统调度上的连串取舍。
核心事件
Advanced 模型在 WWDC26 keynote 上首次亮相，官方明确"需要在 A19 Pro 或 M3 及以上 Apple Silicon 设备运行"。Apple ML Research 同步更新了技术索引页，与 2025 年 7 月发布的 *Apple Intelligence Foundation Language Models Tech Report 2025* 形成对照——后者详细描述了约 3B 参数端侧模型 + 服务器 Parallel-Track MoE 的双轨架构。AFM3 把端侧的体量推到一个新量级，并首次系统地暴露给第三方 LLM 接入。
技术解析
AFM3 Advanced 的设计目标可以概括为一句话：让 20B 量级模型在 12GB 内存的设备上跑得起来。
第一层是MoE 稀疏激活。模型分多个专家，推理时只激活其中一部分权重，配合 Apple 自研的权重调度逻辑，按需在闪存与 RAM 之间换页——这是为什么 20B 体量能塞进 12GB 内存的关键。
第二层是KV-cache 共享与 2-bit 量化感知训练。这一招最早出现在 Apple 2025 Tech Report 的 3B 模型里，AFM3 继承下来。端侧多轮对话时，复用 KV cache 能省下大量重算；2-bit QAT 则在训练阶段就考虑反量化误差，避免部署时精度塌方。
第三层是System Orchestrator。Apple Intelligence 不再是单模型直答，而是由一个 Orchestrator 协调：屏幕上下文、个人数据权限、本地模型与 Private Cloud Compute 之间的手移交。这是 Apple 把"Agent 化"默默塞进系统层的最明显信号。
第四层是对第三方 LLM 开放框架。Session 339（WWDC26）展示了 Foundation Models framework 的新协议层：只要 LLM 提供方发布符合规范的 Swift 包，开发者用 `LanguageModelSession` 写的代码可以无差别跑在 Apple 模型、Gemini 或自托管开源模型上。Apple 把"模型选型"从架构决策降级成了部署决策。
第五层是硬件门槛的硬切线。iPhone 16 全系、A18 设备都不能跑 Advanced——Apple 用 12GB 内存把"可承载端侧 20B"画成一道分水岭，老机型被显式排除。
关键点
- 20B 端侧模型对硬件划线——Advanced 要求 A19 Pro 或 M3+，12GB 是硬门槛，A18 设备出局；这与 2025 年 Tech Report 中 3B 端侧 + 服务端大模型的"轻端重云"组合形成对比
- MoE + 权重换页是内存友好的核心——稀疏激活只把当前 token 需要的专家加载到 RAM，其余留在闪存；12GB 设备能跑 20B 的关键就在这层调度
- 2-bit QAT 训练保留量化精度——AFM3 沿用 Apple 2025 Tech Report 里的量化感知训练方法，部署时不再做 post-training 量化，规避精度塌方
- Foundation Models 框架对第三方 LLM 开放——任何提供方发布符合规范的 Swift 包，开发者用同一套 `LanguageModelSession` 代码就能切换到 Gemini、Claude 或自托管模型
- System Orchestrator 把 Agent 化下沉到 OS 层——屏幕上下文、个人数据授权、模型路由由系统统一调度，App 不再直接决策
行业影响
端侧 20B 模型的落地把"云端优先"叙事撕开一道口子。对开发者来说，Foundation Models 框架的统一 API 把"模型选型"从架构决策降级为部署决策——同一份 Swift 代码可以在本地、Private Cloud Compute、Google Gemini 之间切换。对消费者而言，12GB 内存门槛意味着今年的新机定位从"性能升级"转向"AI-ready"。
结语
AFM3 不是一台模型，而是一整套工程取舍：MoE 换页、KV-cache 共享、2-bit QAT、Orchestrator、第三方接入协议。这五条线串起来才是 WWDC26 上"端侧 20B"那个看起来夸张的数字真正的技术底座。Apple 押注的不是更大的模型，而是更深的系统级集成。
参考资料
官方文档
- Apple Developer: WWDC26 Apple Intelligence Guide - 2026-06-09
- Apple Developer Videos: What's new in the Foundation Models framework - WWDC26 - 2026-06-09
- Apple ML Research: Apple Intelligence Foundation Language Models Tech Report 2025 - 2025-07
- Apple ML Research: Introducing Apple's On-Device and Server Foundation Models - 2024-07
开源项目
- NDCSwift/FoundationModels_SwiftUI - 第三方 Foundation Models SwiftUI 示例
行业报道
- DEV Community: WWDC 2026 - Apple Just Opened the Foundation Models Framework to Any LLM Provider - 2026-06
社区讨论
- HN Algolia 搜索 "Apple Foundation Models 2026" - 2026-06
- HN Algolia 搜索 "Apple Intelligence WWDC 2026" - 2026-06
对比基准
- Apple ML Research 索引页 - 持续更新
本文由 AI 生成。内容基于公开资料整理，可能存在事实偏差，引用链接请以原始来源为准。