AI在线 AI在线

苹果揭秘 Apple 智能开发:差分隐私 + 合成数据,隐私原则贯穿 AI 技术演进

作者:故渊
2025-04-15 07:23
苹果公司昨日(4 月 14 日)发布博文,披露其 AI 隐私保护核心技术细节,重点介绍差分隐私和合成数据在 Apple Intelligence 中的应用。
感谢苹果公司昨日(4 月 14 日)发布博文,披露其 AI 隐私保护核心技术细节,重点介绍差分隐私和合成数据在 Apple Intelligence 中的应用。

差分隐私守护 AI 进化

以生成 Genmoji 表情为例,用户选择共享设备分析数据时,系统会通过随机噪声算法,收集高频指令(如“戴着牛仔帽的恐龙”),但不会记录频次过低的个性化指令,且所有数据与设备 ID 完全脱绑。

具体实现中,设备端会随机返回真实指令片段或干扰信号,只有某条指令被数百设备同时提交后,系统才会识别。这种机制已帮助优化多实体组合表情的生成准确率,且全程不触及 IP 地址等敏感信息。

合成数据破解长文本难题

面对邮件摘要等涉及长文本的功能,苹果研发了专有合成数据方案。首先由大语言模型批量生成虚拟邮件(如“明早 11:30 打网球吗?”),将其转换为包含主题、语言特征的数字向量(embedding)。AI在线附上苹果官方博文演示图如下:

苹果揭秘 Apple 智能开发:差分隐私 + 合成数据,隐私原则贯穿 AI 技术演进

参与计划的设备会在本地计算真实邮件的向量,通过差分隐私技术匿名反馈最接近的合成向量类型。经过多轮迭代,系统最终获得能反映真实邮件分布规律的合成数据集,但全程不接触原始邮件内容。目前该技术已在测试版邮件摘要功能中验证效果,未来还将应用于写作助手等场景。

隐私原则贯穿技术演进

苹果在博文中强调,Apple Intelligence 所有模型训练均采用去标识化数据,会预先过滤社交安全号等敏感信息。

即将发布的 iOS 18.5 等系统中,差分隐私和合成数据技术将扩展至 Image Wand 图像处理、记忆相册生成等十余项功能。苹果强调,即使用户启用设备分析计划,其个人数据也始终加密存储在本地,公司仅获取经数学验证的群体趋势报告。

相关标签:

相关资讯

股东施压苹果:要求其公开 AI“黑匣子”,提高隐私保护透明度

根据最新披露的股东提案,多名股东向苹果公司施压,要求其披露更多的 AI 活动细节,进一步提高训练和推理 Apple 智能(Apple Intelligence)的透明度。
1/30/2025 7:00:21 AM
故渊

Siri迎来救星?苹果资深元老空降AI部门,力求重塑AI竞争力

苹果公司正全力加速其人工智能(AI)的研发进程,以期重回行业领先地位。 为实现这一目标,苹果进行了重要的人事调整,资深执行副总裁Kim Vorrath被调任至人工智能与机器学习部门,担任AI主管John Giannandrea的首席副手。 Vorrath以其卓越的问题解决能力和推动重大项目成功的经验而闻名,此次调任被视为苹果加强AI团队,并重塑其AI竞争力的关键举措。
1/25/2025 9:16:00 AM
AI在线

苹果计划将谷歌Gemini引入iOS:iOS 18.4测试版泄露第三方AI模型选项

最新消息显示,苹果公司正计划为其海外版iPhone和iPad引入谷歌Gemini模型,进一步扩展其人工智能生态布局。 据悉,苹果在2024年WWDC大会上宣布与OpenAI合作,将ChatGPT集成至iOS18系统,但这并非其为iPhone规划的唯一AI模型。 除了传闻中针对国行iPhone的阿里系模型外,谷歌Gemini也有望成为海外用户的新选择。
2/25/2025 11:17:00 AM
AI在线