构筑 AI 安全防线,谷歌、微软、英伟达等 14 家公司组建安全 AI 联盟

感谢昨日举办的阿斯彭安全论坛(Aspen Security Forum)会议中,谷歌、微软、OpenAI、亚马逊、英伟达、英特尔等 14 家 AI 领域的大公司宣布联合组建安全人工智能联盟(Coalition for Secure AI,CoSAI)。CoSAI 由 OASIS 全球标准机构主办,是一项开源计划,旨在为所有 AI 从业人员和开发人员提供创建设计安全人工智能系统所需的指导和工具。CoSAI 将建立一个合作生态系统,共享开源方法、标准化框架和工具等等。CoSAI 的创始赞助商包括谷歌、IBM、英特尔、微
感谢昨日举办的阿斯彭安全论坛(Aspen Security Forum)会议中,谷歌、微软、OpenAI、亚马逊、英伟达、英特尔等 14 家 AI 领域的大公司宣布联合组建安全人工智能联盟(Coalition for Secure AI,CoSAI)。

CoSAI 由 OASIS 全球标准机构主办,是一项开源计划,旨在为所有 AI 从业人员和开发人员提供创建设计安全人工智能系统所需的指导和工具。CoSAI 将建立一个合作生态系统,共享开源方法、标准化框架和工具等等。

CoSAI 的创始赞助商包括谷歌、IBM、英特尔、微软、英伟达和 PayPal。其他创始赞助商包括亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。

CoSAI 首先将致力于实现三个目标:

开发人工智能安全的最佳实践

应对人工智能领域的挑战

确保人工智能应用的安全

CoSAI 的工作范围包括安全地构建、集成、部署和运行人工智能系统,重点是降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。

CoSAI 是一个开源社区,由项目理事会和技术指导委员会领导,前者负责推进和管理其总体技术议程,后者由学术界和产业界的人工智能专家组成,负责监督其工作流。

构筑 AI 安全防线,谷歌、微软、英伟达等 14 家公司组建安全 AI 联盟

AI在线附上谷歌安全副总裁希瑟・阿德金斯(Heather Adkins)在声明中的部分内容如下:

AI 发展多年,为防御者带来的持续潜力,同时也认识到它为对手带来的机遇。

CoSAI 将帮助大大小小的组织安全、负责任地整合人工智能,帮助他们利用人工智能的优势,同时降低风险。

相关资讯

致力设计标准化人工智能框架,微软 / 英伟达 / 英特尔 / 谷歌等厂商联手组建 CoSAI 安全联盟

专门推动全球结构化信息标准的非营利组织 OASIS Open(由微软、英伟达、英特尔、谷歌、OpenAI、IBM、亚马逊、思科等厂商组建)在 7 月 18 日宣布建立 CoSAI 安全联盟(Coalition for Secure AI,安全 AI 联盟)。AI在线获悉,该联盟计划与学术界共同解决三大重点领域,分别是 AI 软件供应链安全性、网络领域安全性及 AI 安全治理性。同时将与 Frontier Model Forum、Partnership on AI、Open Source Security Found

道阻且长,行则将至 | 安远AI x 机器之心系列讲座圆满结束

历时一个月,安远AI与机器之心联合举办的「迈向安全、可靠、可控的人工智能」六场系列讲座圆满结束,我们邀请了全球顶尖人工智能机构专家分享强化学习、预训练大模型、通用人工智能等内容。这六位专家分享了他们的真知灼见,并对人工智能与人类的未来展现出忧虑与希望:第1期:「寻找AGI的安全路径 」不正确的微调或目标的错误泛化可能会导致AGI追求一个不正确的目标。如果足够智能,这种未对齐(unaligned)的AGI将导致灾难性的后果。 —DeepMind研究科学家Rohin Shah第2期:「人类与AI的共生演化 」AI技术的

瑞莱智慧完成新一轮战略融资,加速打造中国AGI安全基座

近日,人工智能安全基础设施提供商瑞莱智慧(RealAI)宣布完成新一轮战略融资,北京市人工智能产业投资基金等参与投资。本轮融资完成后,瑞莱智慧将继续加速通用人工智能安全基座产品研发,并不断推进安全可控的大模型商业化落地。随着全球范围内最大规模的人工智能浪潮掀起,人工智能的可控性和安全性成为愈发重要的发展议题。如今,人工智能大模型的通用性和泛化性大幅提升,应用也从传统的判别式任务走向生成式任务,而人工智能的内生及衍生安全问题变得愈加复杂,其带来的挑战和已经引起的各类风险事件也持续受到全球公众、企业和政府的广泛关注。当