AI在线 AI在线

隐私

ScaleOT框架亮相AAAI 2025：提升隐私保护50%，降算力成本90%

ScaleOT框架亮相AAAI 2025：提升隐私保护50%，降算力成本90%
近日，在全球人工智能顶级学术会议AAAI2025期间，蚂蚁数科、浙江大学、利物浦大学和华东师范大学联合团队提出创新的跨域微调（offsite-tuning）框架——ScaleOT。 该框架能在模型性能无损前提下，将隐私保护效果提升50%，与知识蒸馏技术相比，算力消耗显著降低90%，为百亿级参数模型的跨域微调提供高效轻量化方案，论文因创新性入选AAAI的oral论文(本届大会近13000篇投稿，口头报告比例仅4.6%)。 跨域微调是目前业内保护模型产权与数据隐私的主流方案，通过有损压缩将大模型转换为仿真器，数据持有方基于其训练适配器并返回给大模型完成调优，数据和模型均未出域，可保护双方隐私，但存在局限性:一是“均匀抽积木”式处理易致模型关键层缺失，使性能显著下降;二是用蒸馏技术弥补性能损失，计算成本高;且现有方法隐私保护缺乏灵活性。
2/26/2025 2:13:00 PM
AI在线
微软或窃取你的Word、Excel文件以训练人工智能模型？

微软或窃取你的Word、Excel文件以训练人工智能模型？
微软在其生产力套件中的Connected Experiences选项已经引起了人们的恐慌，有人指责默认设置可能会允许微软使用客户的Word和Excel文档及其他数据来训练AI模型。 微软否认窃取个人文件的相关说法Windows相关方面强烈否认这些说法。 一位发言人告诉The Register 杂志：“在 Microsoft 365的消费者和商业应用程序中，微软不会在未经用户许可的情况下使用用户数据来训练大型语言模型。
11/28/2024 3:05:02 PM
bug胤
苹果为其 AI 构筑“云处理安全堡垒”：公开指南和研究环境，漏洞悬赏最高 100 万美元

苹果为其 AI 构筑“云处理安全堡垒”：公开指南和研究环境，漏洞悬赏最高 100 万美元
科技媒体 MacRumors 昨日（10 月 24 日）发布博文，报道称苹果公司最新推出了“私有云计算”（Private Cloud Compute）的云智能系统，确保 Apple Intelligence 在云端处理数据时构筑安全的请求环境。 苹果公司承诺安全和隐私研究人员可以验证“私有云计算”中的端到端安全和隐私承诺，并向安全研究人员公开“私有云计算”虚拟研究环境（VRE）及其他材料。 苹果公司发布了一份“私有云计算”安全指南，详细介绍了“私有云计算”的所有组成部分及其如何运作以提供云端人工智能处理的隐私保护。
10/25/2024 7:01:15 AM
故渊
蚂蚁集团WAIC发布大模型密算平台，助力大模型破解数据供给挑战

蚂蚁集团WAIC发布大模型密算平台，助力大模型破解数据供给挑战
大模型向下扎根深入行业，必须要破解高质量数据供给的挑战。7月5日，2024年世界人工智能大会进入第二天，作为数据要素领域的主要技术服务商，蚂蚁集团发布“隐语Cloud”大模型密算平台，通过软硬件结合的可信隐私计算技术，在大模型托管和大模型推理等环节实现数据密态流转，保护模型资产、数据安全和用户隐私。当下，高质量数据供给和安全流通，成为大模型进入垂直产业应用的首要挑战。其一，行业大模型要获得解决专业问题的能力，首先要经过数量充足、质量高的专业数据训练。然而，专业数据往往分散在不同的机构、企业中，并且由于价值大、保密要
7/5/2024 11:03:00 PM
新闻助手
互联网之父公司安全主管：苹果牌 AI 树立隐私保护新标杆，但仍不完美

互联网之父公司安全主管：苹果牌 AI 树立隐私保护新标杆，但仍不完美
Inrupt 公司安全主管发布评论，表示苹果 Apple Intelligence 制定了较为完善的措施，成为隐私保护的新标杆，但依然不够完美。Inrupt 公司由互联网之父蒂姆・伯纳斯・李（Tim Berners-Lee）爵士创办，他创办了世界上第一个网站和第一个网页浏览器，让普通用户能够访问和浏览网页。蒂姆・伯纳斯・李于 2018 年将工作的重心放在保护互联网隐私方面，联合创办了 Inrupt 的公司，致力于让用户完全控制其个人数据。Inrupt 的安全架构主管布鲁斯・施奈尔（Bruce Schneier）说，
7/5/2024 8:56:20 AM
故渊
巴西政府机构出手，禁止 Meta 公司使用用户数据训练生成式 AI 模型

巴西政府机构出手，禁止 Meta 公司使用用户数据训练生成式 AI 模型
感谢据美联社报道，巴西国家数据保护局当地时间周二（2 日）认定，拥有 Facebook、Instagram、WhatsApp 等平台的社交网络巨头 Meta 将不得使用来自巴西的数据来训练其生成式 AI 模型。Meta 近期更新了隐私政策，允许公司可将人们的公开帖子用于训练其模型。根据巴西国家数据保护局的公报，Meta 此举将会对受影响数据主体的基本权利造成严重的、不可挽回的或难以修复的损害，此次下达的禁令是“预防性措施”。巴西是 Meta 的最大市场之一。在该国 2.03 亿的总人口（IT之家注：数据来自 202
7/3/2024 7:16:46 PM
清源
全球首个隐私计算一体机国际标准发布，中国企业主导

全球首个隐私计算一体机国际标准发布，中国企业主导
近日，IEEE 标准协会（IEEE-SA）正式发布并推行了由我国企业主导的全球首个隐私计算一体机国际标准《隐私计算一体机技术要求》（IEEE 3156-2023）。IEEE-SA是权威国际标准制定机构，该标准的成功发布意味着中国的隐私计算技术与应用探索受到国际高度认可，可为全球提供参考方案。（图：IEEE标准协会官网发布“隐私计算一体机技术要求”国际标准）隐私计算一体机作为隐私计算产业落地的重要技术探索，通过软硬件结合方式构建从硬件、固件、操作系统到应用软件的一站式隐私保护计算解决方案，提供了开箱即用、安全可证、隐
3/1/2024 11:27:00 AM
新闻助手
优化回收电池的质量和盈利能力，清华团队通过联邦机器学习对废旧电池材料进行分类

优化回收电池的质量和盈利能力，清华团队通过联邦机器学习对废旧电池材料进行分类
编辑 | 萝卜皮未经分类的「退役电池」具有不同的正极材料，由于其正极特定的性质，阻碍了直接回收的采用。报废电池的激增需要精确分类以实现有效的直接回收，但不同的运营历史、不同的制造商以及回收合作者（数据所有者）的数据隐私问题带来了挑战。清华大学团队展示了，从涵盖 5 种阴极材料和 7 家制造商的 130 块锂离子电池的独特数据集中，联邦机器学习方法可以对这些退役电池进行分类，而无需依赖过去的运营数据，从而保护回收合作者的数据隐私。通过利用从报废充放电循环中提取的特征，该团队的模型在同质和异质电池回收设置下分别表现出
12/13/2023 11:56:00 AM
ScienceAI
从“源头”保护数据安全：腾讯安全推出大模型隐私保护脱敏技术

从“源头”保护数据安全：腾讯安全推出大模型隐私保护脱敏技术
大模型已经被广泛应用在各类场景，帮助人们进行报告摘要、文本翻译、数据分析、业务风控等各项工作，极大地提升了工作效率，但同时公众对于大模型带来的数据泄露的隐忧也从未停止。近日，腾讯安全玄武实验室披露了一项关于大模型隐私保护的安全脱敏与还原（Hide and Seek, HaS）技术，有望帮助大模型产品使用者从本地终端侧防范隐私数据泄露。HaS为业内首个支持信息还原的自由文本脱敏技术，通过对用户上传给大模型的prompt（提示词）进行隐私信息脱敏，并在大模型返回计算结果后进行恢复，该方案兼顾了隐私安全和计算资源消耗：脱
12/6/2023 9:41:00 AM
新闻助手
2023摩根大通博士奖学金名单公布，华人超3/5，西电、川大校友在列

2023摩根大通博士奖学金名单公布，华人超3/5，西电、川大校友在列
与去年入选 4 位华人博士生（共 11 位）相比，今年华人学生的占比有了显著增加。
7/19/2023 1:05:00 PM
机器之心
如何应对生成式大模型「双刃剑」？之江实验室发布《生成式大模型安全与隐私白皮书》

如何应对生成式大模型「双刃剑」？之江实验室发布《生成式大模型安全与隐私白皮书》
研究者们也开始意识到 ChatGPT 等生成式大模型面临着数据和模型方面的安全隐患。
6/7/2023 2:51:00 PM
机器之心
为数据而生，为隐私而战：隐私计算产业加速崛起

为数据而生，为隐私而战：隐私计算产业加速崛起
在充分保护隐私的同时尽可能多地挖掘数据价值，不仅理论上可行，实践中也有越来越多的团队为之努力并取得进展。
5/15/2023 3:06:00 PM
机器之心
打造更易用的隐私计算，“隐语”开源工业界首个多方安全数据分析系统SCQL

打造更易用的隐私计算，“隐语”开源工业界首个多方安全数据分析系统SCQL
3月29日，首届“隐语开源社区开放日”活动上，隐私计算开源框架“隐语”宣布产品升级，并开源了SCQL功能。SCQL提供的简单易上手的BI分析可帮助中小机构快速解决急迫的长尾数据安全分析需求，在工业界首次实现了隐私数据从Al分析到BI分析，是隐语走向易用的重要一步。图：“隐语”框架负责人王磊发布“隐语”SCQL系统在数据要素战略持续升级的背景下，发展以隐私计算为代表的密态技术，是解决大规模数据安全可信流转的技术手段。而正是由于隐私计算最早诞生于大规模数据场景，技术架构和资源投入对于小规模数据体量的机构来说相对复杂和奢
3/29/2023 3:17:00 PM
新闻助手
国内首次！腾讯Angel PowerFL联队实现iDASH隐私计算大赛“三连冠”

国内首次！腾讯Angel PowerFL联队实现iDASH隐私计算大赛“三连冠”
12月9日，2022年iDASH国际隐私计算大赛结果正式公布，腾讯Angel PowerFL联队凭借最优的模型效果和较快的推理速度获得最高综合得分，斩获同态加密赛道冠军。从两年前首次参赛到现在，腾讯已经连续获得2020年可信计算赛道冠军和2021年联邦学习赛道冠军，赢得了iDASH隐私计算大赛“三连冠”，这在国内尚属首次！同时，在多方安全计算（MPC）赛道和可信计算（SGX）赛道上，腾讯Angel PowerFL联队也分别取得了第二和第三的好成绩。历年来，同态加密赛道一直是iDASH比赛中最受关注和角逐最激烈的赛道
12/9/2022 3:09:00 PM
新闻助手
可信AI的驱动力——隐私计算

可信AI的驱动力——隐私计算
「机器之心2021-2022年度AI趋势大咖说」聚焦「驱动未来的AI技术」与「重塑产业的AI科技」，推出线上分享，共邀请近40位AI领域知名学者、产业专家及企业高管通过主题分享及多人圆桌等形式，与行业精英、读者、观众共同回顾 2021年中的重要技术和学术热点，盘点AI产业的年度研究方向以及重大科技突破，展望2022年度AI技术发展方向、AI技术与产业科技融合趋势。
7/21/2022 11:18:00 AM
机器之心Pro发布
深度剖析|可信AI 征途中的技术实践与应用机遇

深度剖析|可信AI 征途中的技术实践与应用机遇
「机器之心2021-2022年度AI趋势大咖说」聚焦「驱动未来的AI技术」与「重塑产业的AI科技」，推出线上分享，共邀请近40位AI领域知名学者、产业专家及企业高管通过主题分享及多人圆桌等形式，与行业精英、读者、观众共同回顾 2021年中的重要技术和学术热点，盘点AI产业的年度研究方向以及重大科技突破，展望2022年度AI技术发展方向、AI技术与产业科技融合趋势。
7/20/2022 5:48:00 PM
机器之心Pro发布
5月25日！联邦学习安全效率与开源生态论坛即将开幕

5月25日！联邦学习安全效率与开源生态论坛即将开幕
当下，人工智能与大数据已经渗透到生产生活的方方面面。在保护数据安全的前提下释放数据价值成为社会发展的必然需求，隐私计算联邦学习作为隐私增强计算与人工智能相结合的新型技术范式，将迎来怎样的技术方向和应用创新？可信联邦学习如何平衡安全、可用的双目标？加快培育数据要素市场，给产学研各界带来怎样的机遇？由中国信息通信研究院云大所、清华大学智能产业研究院、深圳数据交易有限公司共同指导，FATE开源社区、开放群岛（Open Islands）开源社区、智能投研技术联盟（ITL）联合主办的“联邦学习安全效率与开源生态”线上论坛议程
5/20/2022 2:44:00 PM
新闻助手
B站失踪人口回归，「年更UP」Gautam Kamath教授的《机器学习入门》终于上线了

B站失踪人口回归，「年更UP」Gautam Kamath教授的《机器学习入门》终于上线了
虽然一年才更一次，但素质三连还是可以走一发。
1/11/2022 2:21:00 PM
机器之心