安全
确保实验室安全，港中大徐曜论述AI驱动的高通量自动化实验平台的重要性
作者 | 徐曜编辑 | S2023年，全球高校化学实验室安全事故频繁发生，这一现象凸显了教育领域对实验室安全的重视已迫在眉睫。从4月10日浙江一高校动物房的火灾事件，到8月17日台湾一大学化工系实验室的爆炸，再到11月30日河北一高校药学院的药化实验室火灾，虽然这些事故没有直接导致人员伤亡，但对实验动物和科研设施造成了重大损害。这些案例提醒我们，加强高校实验室的安全管理和风险预防工作是不容忽视的。图1：高校实验室安全问题依旧严峻。为应对这一挑战，市场上涌现出了一系列创新产品和技术。这些技术旨在通过高通量、模块化流体
OpenAI发布新安全框架，董事会有权否决CEO发布新模型
机器之能报道编辑：吴昕人类正在进入生成式 AI 新时代。而 OpenAI 在引导新技术朝着符合人类价值观和安全标准的方向所做的努力，也被视为行业的路标。还记得 Sam Altman 回归 OpenAI 时提到的「三个当务之急」吗？首当其冲的就是险些将他踢出公司的安全问题。现在，OpenAI 正力图系统化他们的安全思维。「我们的准备团队正在开展开创性工作，将安全发展成为一门定量科学。」 OpenAI 总裁 Greg Brockman 在社交平台上表示。本周一，公司在其网站上公布的一项计划，制定了一个框架来解决其最先
从“源头”保护数据安全：腾讯安全推出大模型隐私保护脱敏技术
大模型已经被广泛应用在各类场景，帮助人们进行报告摘要、文本翻译、数据分析、业务风控等各项工作，极大地提升了工作效率，但同时公众对于大模型带来的数据泄露的隐忧也从未停止。近日，腾讯安全玄武实验室披露了一项关于大模型隐私保护的安全脱敏与还原（Hide and Seek, HaS）技术，有望帮助大模型产品使用者从本地终端侧防范隐私数据泄露。HaS为业内首个支持信息还原的自由文本脱敏技术，通过对用户上传给大模型的prompt（提示词）进行隐私信息脱敏，并在大模型返回计算结果后进行恢复，该方案兼顾了隐私安全和计算资源消耗：脱
电信及互联网行业数据安全内控审计建设实践 | 盾见
一站式解决数据安全合规审计、使用过程安全监测、动态脱敏防护等问题，为电信及互联网企业数字化建设保驾护航。
为数据而生，为隐私而战：隐私计算产业加速崛起
在充分保护隐私的同时尽可能多地挖掘数据价值，不仅理论上可行，实践中也有越来越多的团队为之努力并取得进展。
PPC Insights系列：洞见安全多方图联邦
知识图谱（Knowledge Graph）技术凭借其拓扑结构的信息关联关系和消息传递机制，能够对单体信息进行有益补充，因此正在被逐步应用于金融反欺诈、反洗钱和精准营销等场景。但是，因为现实社会中的数据孤岛问题，单一机构内的图数据往往只是一小部分，导致了更全面的关联关系和消息传递范式被阻断，这使得图数据的现实应用价值大打折扣。为此，洞见科技自主研发了“安全多方图联邦（Insight Federated Graph，InsightFG）”技术，并获得了国家发明专利。该技术从能力上涵盖了多方图数据的安全构建、安全查询、安
国内首届AI安全大赛圆满收官，上交大、北交大、北理工等夺得三项赛道冠军
从长远看，人工智能的安全问题，还需从算法模型的原理上突破，唯有持续加强基础研究，才能破解核心科学问题。
对话极盾科技CEO丁杨：初创企业，所有客户都是创始人
十几年前的丁杨是一名工科大学生，在校期间，他最喜欢的事儿就是参加每周的社团活动，这个社团名为东南大学网络安全联盟（SUS），它还有着一个特殊的称号，即国内最早的高校网络安全社团。在接受朋湖专访时，说起这段青春往事，丁杨的语调也变得高昂起来，“我们每周六社团的人都会聚在一起做内容分享，风雨无阻。”他讲道，“当然后期来的人也有所减少，但最后留下来的人现在来看，也都选择从事了和网络安全相关的工作。”丁杨是其中坚持下来的一员。如今，丁杨已是一家网络安全初创企业创始人，拥有15年安全和数据分析从业经验，现在的他依然决心要在网
道阻且长，行则将至 | 安远AI x 机器之心系列讲座圆满结束
历时一个月，安远AI与机器之心联合举办的「迈向安全、可靠、可控的人工智能」六场系列讲座圆满结束，我们邀请了全球顶尖人工智能机构专家分享强化学习、预训练大模型、通用人工智能等内容。这六位专家分享了他们的真知灼见，并对人工智能与人类的未来展现出忧虑与希望：第1期：「寻找AGI的安全路径 」不正确的微调或目标的错误泛化可能会导致AGI追求一个不正确的目标。如果足够智能，这种未对齐（unaligned）的AGI将导致灾难性的后果。 —DeepMind研究科学家Rohin Shah第2期：「人类与AI的共生演化 」AI技术的
【征稿】IJCAI 2021联邦学习与迁移学习国际研讨会
数字时代，隐私和安全正成为一个关键问题。公司和组织每天都在收集大量的数据，然而数据隐私保护相关法律法规越来越严格，给大数据和人工智能带来了新的挑战。例如欧盟的《通用数据保护条例》（General data Protection Regulation，GDPR）就明确提出，禁止在没有明确用户授权的情况下，直接合并来自不同来源的用户数据进行AI建模。为了探索AI如何适应这种新的监管环境，微众银行、京东、第四范式等中国企业联合香港科技大学、新加坡南洋理工大学、普林斯顿大学等国际知名高校及科研院所，将在第30届人工智能国际