AI在线 AI在线

​Virtue AI 获 3000 万美元融资,助力企业安全部署生成式 AI

作者:AI在线
2025-04-16 06:01
位于旧金山的 Virtue AI 公司近日宣布完成3000万美元的种子轮和 A 轮融资。 这轮融资由 Lightspeed Venture Partners 和 Walden Catalyst Ventures 领投,同时吸引了包括 Prosperity7在内的多位投资者。 Virtue AI 致力于消除企业在 AI 创新与安全之间的传统权衡,帮助企业安全高效地部署生成式 AI 技术。

位于旧金山的 Virtue AI 公司近日宣布完成3000万美元的种子轮和 A 轮融资。这轮融资由 Lightspeed Venture Partners 和 Walden Catalyst Ventures 领投,同时吸引了包括 Prosperity7在内的多位投资者。Virtue AI 致力于消除企业在 AI 创新与安全之间的传统权衡,帮助企业安全高效地部署生成式 AI 技术。

投资,融资,钱

Virtue AI 的创始团队由多位在 AI 安全和安全领域享有盛誉的专家组成,包括 Bo Li、Dawn Song、Carlos Guestrin 和 Sanmi Koyejo。他们在 AI 安全领域积累了超过80年的研究经验,深知企业在快速创新和安全合规之间面临的挑战。随着生成式 AI 的普及,企业在部署过程中面临的数据中毒、幻觉、提示注入等风险也日益增多,这些漏洞可能导致网络攻击和合规性问题。

“我们看到很多公司在解决相似问题时反复遇到困难,例如评估方法不完善、保护措施效率低下等,这些都在 AI 部署过程中造成了瓶颈。”Virtue AI 的首席执行官 Bo Li 表示。为了应对这些问题,Virtue AI 推出了一系列综合解决方案,包括:

- **VirtueRed**:一个基于算法的红队平台,涵盖320多种风险类别,提供可靠的风险评估并显著降低测试成本。

- **VirtueGuard**:能够比其他方案快30倍的保护模型,在90多种语言中对文本、图像、音频、视频和代码提供40%-50% 的性能提升。

- **VirtueAgent**:一个安全代理,能够自动解释内部公司的安全需求和政策,消除繁琐的手动过程。

Virtue AI 的技术基础源于国家安全局(NSA)认可的基础研究,这使得公司在客户中获得了显著的采用率。许多顶级企业客户已经与 Virtue AI 建立了合作关系。Uber 和 Glean 等公司对 Virtue AI 的技术给予了高度评价,认为其能够为生成式 AI 应用提供强有力的内容安全保护。

随着新一轮融资的到位,Virtue AI 计划进一步扩展其平台能力,加强市场存在感,并继续吸引致力于安全 AI 部署的顶尖人才。

划重点:  

💰 **Virtue AI 完成3000万美元融资,目标是消除 AI 创新与安全之间的权衡。**  

🔍 ** 公司推出多款解决方案,帮助企业有效应对 AI 部署过程中的安全风险。**  

🌐 ** 多个顶级企业客户已与 Virtue AI 合作,技术获得高度评价,显示出市场需求的强劲。**

相关资讯

美国人工智能安全研究所首任所长离职

美国人工智能安全研究所(U.S. AI Safety Institute)的所长埃莉莎白・凯利(Elizabeth Kelly)于本周三宣布辞职,她在 LinkedIn 上发布了这一消息。 这一决定使得该新成立的政府机构在特朗普总统领导下的未来方向变得更加不明朗。
2/6/2025 11:40:00 AM
AI在线

Anthropic安全防护面临挑战,AI模型通用越狱测试揭示突破口

在短短六天内,参与者成功绕过了Anthropic人工智能(AI)模型Claude3.5的所有安全防护措施,这一突破为AI安全防护领域带来了新的讨论。 前OpenAI对齐团队成员、现就职于Anthropic的Jan Leike在X平台宣布,一名参与者成功攻破了所有八个安全级别。 这项集体努力涉及了约3,700小时的测试和来自参与者的300,000条消息。
2/12/2025 11:14:00 AM
AI在线

警惕!马斯克的新AI模型Grok 3被曝存在严重安全漏洞,黑客可轻松操控!

AI 安全公司 Adversa AI 发布了一项令人震惊的报告,称埃隆・马斯克的创业公司 xAI 刚发布的 Grok3模型在网络安全方面存在重大漏洞。 Adversa 的研究团队发现,这款最新的 AI 模型容易受到 “简单的越狱攻击”,这可能使不法分子能够获取诸如 “如何诱骗儿童、处理尸体、提取 DMT 以及制造炸弹” 等敏感信息。 更糟糕的是,Adversa 的首席执行官兼联合创始人亚历克斯・波利亚科夫表示,这次漏洞不仅仅是越狱攻击那么简单,他们还发现了一种新的 “提示泄露” 缺陷,暴露了 Grok 模型的完整系统提示。
2/20/2025 9:44:00 AM
AI在线