有报道称,苹果正在探索以 Gemini 作为教师模型训练更轻量的端侧 AI,并可能在部分 Siri 请求中调用 Google Cloud 上的授权模型。该动向反映出端侧推理、云端算力、隐私保护与机密计算之间的平衡,值得企业在规划 AI 应用时参考。
今日技术观察 IT之家 5 月 29 日消息,科技媒体 The Information 昨日(5 月 28 日)发布博文,深度披露苹果和谷歌在 AI 方面的合作细节。在部署策略方面,苹果始终围绕着隐私优先原则,深耕本地端侧 AI 处理方案,使用“蒸馏”(Distillation)方案,基于谷歌 Gemini 模型来训练轻量端侧 AI 模型。IT之家注:知识蒸馏,是指将大模型(教师模型)的知识迁移到小模型(学生模型)的技术,让小模型获得接近大模型的表现 01 背景速览 背景速览:据媒体 The Information 披露,苹果在 AI 部署上仍强调隐私优先,并被称正在利用知识蒸馏思路,以谷歌 Gemini 模型训练更适合在设备本地运行的轻量模型。知识蒸馏的核心是让较小模型学习大模型能力,从而降低推理成本并提升端侧运行可行性。同时,报道还提到苹果曾关注能够帮助压缩模型规模、推动本地运行的相关初创公司。 02 趋势影响 趋势影响:如果相关爆料最终落地,说明大型科技企业正在进一步采用“端侧模型 + 云端大模型”的混合架构。端侧 AI 可带来更低延迟和更少默认数据上传,而复杂请求仍可能需要云端大模型支持。对于云计算产业而言,AI 工作负载不会简单地全部迁移到终端,也不会完全依赖云端,而是根据算力、时延、成本和隐私要求进行动态分配。 03 企业应用启发 企业应用启发:企业在建设 AI 助手、智能客服、知识库问答或办公自动化系统时,可以参考类似分层思路。高频、标准化、对数据敏感的任务可优先考虑本地或私有环境推理;复杂推理、长文本分析、多模态处理等任务则可通过受控云端模型完成。模型压缩、蒸馏、缓存、权限分级和任务路由,将成为企业 AI 工程落地中的重要技术环节。 04 合规观察 合规风险提醒:报道中提到部分 Siri 请求可能转向 Google Cloud,并采用 NVIDIA 的机密计算技术以增强处理过程中的数据保护。对企业而言,这提示我们在使用第三方云模型时,不能只关注模型效果,还需要评估数据是否跨境、是否包含敏感信息、供应商是否提供加密计算或隔离机制、日志是否可审计,以及用户授权和隐私告知是否充分。即使采用机密计算,也不代表合规责任可以被完全转移。 05 开放讨论 开放讨论问题:在企业 AI 系统中,哪些任务更适合放在端侧或私有化环境中处理,哪些任务可以交给云端大模型?如果为了提升能力而引入外部模型服务,企业应如何设计数据脱敏、访问控制和审计机制?在成本、响应速度、模型效果与隐私保护之间,企业应如何确定优先级?欢迎围绕端侧 AI、云计算、网络安全和企业数字化落地展开讨论。 公开来源参考 苹果 iOS 27 爆料:用 Gemini 训练本地 AI,部分 Siri 请求转向谷歌云