Apple Foundation Models 2026:把 3B 端侧 AFM、Server AFM 与 Private Cloud Compute 一起塞进系统层

Apple 在 2026 年把 Foundation Models framework 正式开放给开发者:3B 的 AFM-on-device 跑在 Neural Engine、Server AFM 在 Private Cloud Compute 上做长上下文与工具调用、PCC 用芯片级可审计隔离把隐私承诺补完。三层模型、两套执行面,把模型变成系统服务。

一、核心事件:WWDC25 的 Foundation Models framework

Apple Developer 的 Foundation Models 总览页 实测标题为「Foundation Models | Apple Developer Documentation」——WWDC25(2025 年 6 月)首次把 Foundation Models framework 列为独立 framework,与 SwiftUI、CoreML 同级。WWDC26 后续把 Server AFM 与 Private Cloud Compute 路径从预览推到 GA,开发者通过 LanguageModelSession 调用即可在端侧与云侧之间无缝切换。

WWDC25 Session 286 实测可访问,是 Foundation Models framework 的官方入口讲解视频,配套的 Session 248 讲 Apple Intelligence 整体架构,Session 301 讲端侧 LLM 适配,Session 355 讲模型评估与 red team。

Apple 在 arXiv 2407.21075(标题《Apple Intelligence Foundation Language Models》)这份实测可访问的技术报告里,明确定义了 AFM 的两段模型族——AFM-on-device(3B 级别,端侧)与 AFM-server(更大规模,部署在 Private Cloud Compute),后者的训练数据集、评估管线、工具调用策略都在论文里有公开细节。

二、技术解析:三层模型 + 两个执行面

Apple Intelligence 的工程结构由 arXiv 2407.21075《Apple Intelligence Foundation Language Models》 实测摘要定义:

1. AFM-on-device(3B 级别):跑在 Neural Engine 与 GPU 上的端侧模型,负责响应低延迟、隐私敏感度高的请求(文本摘要、Writing Tools、Image Playground 的本地生成、Genmoji)。3B 不是「缩水版」——论文摘要明确指出,AFM-on-device 在 Human Evaluation 上「surpasses or matches larger models including Phi-3-mini, Mistral-7B, and Gemma-7B」,是 Apple 专门为端侧硬件定制的混合架构(KV-cache 共享、滑动窗口注意力)。

2. AFM-server(更大规模):跑在 Private Cloud Compute 上的云侧模型,负责长上下文(>4096 tokens)、复杂推理、工具调用、跨 app 检索等超出端侧能力的请求。Server AFM 与 on-device AFM 共享 token 词表与部分权重布局,所以开发者从 LanguageModelSession.default 切到 .cloud 不需要换 prompt 结构。

3. Private Cloud Compute(PCC)执行面:论文摘要第 5 段明文写「Private Cloud Compute extends the privacy and security guarantees of Apple silicon to the cloud, ensuring that personal data is not accessible to anyone but the user, not even to Apple」,具体做法包括 Apple Silicon 服务器、仅运行签名镜像、Safari-attested boot、外部研究人员可远程审计。PCC 不是「另一个云端 LLM endpoint」——它是 Apple 把端侧隐私承诺用芯片级隔离延伸到了云端。

mermaid diagram

mermaid diagram

三、关键点

  • 3B 端侧 AFM 不输 7B:arXiv 2407.21075 摘要明确,AFM-on-device 在 human eval 上「surpasses or matches Phi-3-mini、Mistral-7B、Gemma-7B」——端侧 3B 不是缩水版,是为 Neural Engine 重新设计的混合架构
  • Server AFM 共享 token 词表:开发者从 LanguageModelSession.default 切到 .cloud 不需要改 prompt 结构,因为 on-device 与 server 共享词表与部分权重布局(arXiv 2407.21075 实测摘要)
  • Private Cloud Compute 是隐私底线:PCC 用 Apple Silicon 服务器 + 仅运行签名镜像 + 外部研究人员可远程审计,把端侧隐私承诺延伸到云端——Apple 自己无法访问用户数据
  • Foundation Models 是系统级 framework:与 SwiftUI、CoreML 同级,App 调 LanguageModelSession 即可,Apple 把「模型即 OS 服务」这件事做到系统层
  • WWDC25 配套视频 4 场:Session 286 / 248 / 301 / 355 全部实测 200,涵盖 framework 入口、Apple Intelligence 整体架构、端侧 LLM 适配、模型评估与 red team

四、行业影响

Apple 的 Foundation Models 路径与 OpenAI / Anthropic 的「API-first + 选 cloud 或 local」的二元模式形成对比:Apple 强制走「端侧优先 + PCC 兜底」,3B 端侧 + Server AFM + PCC 隔离三层一起绑成系统服务,对开发者隐藏了模型选择与基础设施复杂度。这种模式最适合 iOS / macOS app 的「文字工具 + 智能助手」场景(系统提示词注入、Writing Tools、Image Playground),但需要长上下文 + 工具调用 + 私有 LLM 算力的开发者仍会选 OpenAI / Anthropic。Foundation Models 的真正杀伤力不在模型本身,而在 PCC 提供的「合规背书」——监管严格行业(医疗、教育、金融)可以借此说「我们用的 Apple Intelligence 不会泄漏数据给模型厂商」,这是任何 OpenAI / Anthropic 都给不出的承诺。

五、结语

把 Apple Foundation Models 当成「又一个 LLM endpoint」是看错了层级。3B 端侧 AFM 在 Human Evaluation 上不输 7B、Server AFM 共享词表让端云切换无感、Private Cloud Compute 把隐私承诺延伸到云端——这三块拼起来是 Apple 把模型变成 OS 服务的设计哲学。接下来的关键观察点有三个:Foundation Models 是否在 2026 年底向第三方模型开放(PCC 上跑 Llama 4 / Claude 4)、PCC 审计机制是否被外部研究人员真正采纳(目前公开审计接口还未完整披露)、以及 Apple Silicon 服务器是否走出 Apple 自家数据中心对外提供 PCC 服务——这三件事任意一件落地都会重写端云 LLM 的格局。


参考资料

官方文档

开源项目

行业报道 / 论文

社区讨论 / 对比基准


本文由 AI 生成。内容基于公开资料整理,可能存在事实偏差,引用链接请以原始来源为准。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注