危险公司 Wiz 近日发布报告,宣称开源 AI 模型共享平台 Replicate 生存重大毛病,黑客可通过恶念模型进行“跨租户攻打”(IT之家注:即行使生存于多租户环境中的危险毛病考察 / 干扰其他租户的数据资源),从而导致平台用户训练的 AI 模型内部机密数据泄露。
危险公司声称,Replicate 平台出现“跨租户攻打”毛病的主要原因是该平台为提升 AI 模型推论(inference)效益推出的模型容器化款式 Cog,虽然相干款式不妨显著改善模型与效益,不过 Replicate 平台忽略了 Cog 款式中的危险隔离机制。
IT之家获悉,黑客可以将经过训练后的恶念模型打包成 Cog 容器,并通过 Replicate 的用户操作界面与容器互动,最终顺利进行了一系列远程执行代码(RCE)攻打测试,获得了容器的 root 权限。
此后,研究人员还对 Replicate 平台的基础设施进一步调查,行使当前容器的 TCP 毗邻顺利考察到另一台容器,并通过名为 rshijack 的工具将特定数据顺利注入至 TCP 毗邻中,从而绕过了平台的身份验证步骤,顺利考察到其他用户的 AI 模型。
研究人员指出,黑客可以行使相干毛病轻松获取其他用户自用的 AI 模型,不妨自在从相干模型问答记录中提取用户隐私数据,还不妨自在下载 / 修改用户模型内容,对平台生存严重危害。
IT之家注意到,Replicate 平台在接到 Wiz 通报后已迅速修复相干毛病,并表示目前没有检测到有用户 AI 模型外流的迹象。