PC 版 ChatGPT 客户端曝“记忆”功能漏洞,黑客可利用恶意文件令 AI 转发对话记录

OpenAI 在今年 2 月宣布为 ChatGPT 推出记忆(Memory)的功能,今年 9 月初这项功能正式向所有用户开放,该功能的主要用途是“设定预设”,从而帮助 AI 向用户更符合需求的答案。不过研究人员 Johann Rehberger 目前披露报告,称这项功能在 PC 版 ChatGPT 客户端上存在漏洞,黑客可借漏洞获取用户对话记录。AI在线获悉,Johann Rehberger 将这项漏洞称为 SpAIware,他表示黑客可通过钓鱼形式让受害者在 PC 版 ChatGPT 客户端中上传特定文件 / 特

OpenAI 在今年 2 月宣布为 ChatGPT 推出记忆(Memory)的功能,今年 9 月初这项功能正式向所有用户开放,该功能的主要用途是“设定预设”,从而帮助 AI 向用户更符合需求的答案。

不过研究人员 Johann Rehberger 目前披露报告,称这项功能在 PC 版 ChatGPT 客户端上存在漏洞,黑客可借漏洞获取用户对话记录。

AI在线获悉,Johann Rehberger 将这项漏洞称为 SpAIware,他表示黑客可通过钓鱼形式让受害者在 PC 版 ChatGPT 客户端中上传特定文件 / 特定网址让 AI 分析,一旦分析成功,AI 便会“记住将用户的后续对话内容分享至黑客”,目前 OpenAI 已发布新版应用进行修补。

PC 版 ChatGPT 客户端曝“记忆”功能漏洞,黑客可利用恶意文件令 AI 转发对话记录

▲ 图源 Johann Rehberger(下同)

PC 版 ChatGPT 客户端曝“记忆”功能漏洞,黑客可利用恶意文件令 AI 转发对话记录

相关资讯

黑客论坛上2000万个OpenAI账户登录信息被售卖,用户需警惕风险

近日,一名自称 “emirking” 的俄罗斯黑客在著名的黑客市场 BreachForums 上发布了声称是2000万个 OpenAI ChatGPT 账户的登录信息,并将其标价出售。 此消息由 AI 创业公司 OpenAI 和网络安全公司 Malwarebytes Labs 于周五联合发布,显示出网络安全威胁的严重性。 图源备注:图片由AI生成,图片授权服务商Midjourney据 Malwarebytes 的博客介绍,emirking 在论坛上发布的帖子是用俄语写成,经过翻译后显示出这名黑客的嚣张态度。

腾讯朱雀实验室推出代码防护技术Deep Puzzling,让代码更难被猜透

随着AI技术与网络安全结合得越来越紧密,基于AI技术的网络攻防手段也在日益更替。11月26日,全球顶级的信息安全峰会HITB Cyberweek 2021于近日举办,腾讯朱雀实验室专家研究员Jifeng Zhu和研究员Keyun Luo受邀参加,并进行了题为《Deep Puzzling: Binary Code Intention Hiding based on AI Uninterpretability》(《基于AI不可解释性的二进制代码意图隐藏》)的议题分享。会上,腾讯朱雀实验室展示了如何利用AI模型的特性,实

安全公司披露 PyPI 虚假 GPT / Claude AI 辅助软件包工具,实为木马勒索软件

安全公司卡巴斯基发布通报,声称他们在 PyPI 中发现了两个恶意软件包,该工具包伪装成 GPT 和 Claude AI 平台辅助工具,实际上是木马勒索软件。