网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

AI智能体的滥用标志着网络攻击进入"自动化+智能化"新阶段。企业需同步升级防护体系,将AI视为潜在攻击载体,通过技术管控与管理规范降低风险。专家呼吁,未来需将AI安全纳入整体防御战略,平衡技术创新与安全防护。

网络安全公司 Symantec 于 3 月 13 日发布博文,指出 AI 智能体(如 OpenAI 的 Operator)已突破传统工具功能限制,可协助黑客发起钓鱼攻击、构建攻击基础设施。

AI在线援引博文介绍,研究人员强调,这类 AI 工具正从“被动辅助”转向“主动执行”,成为网络安全的新威胁。

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

Symantec 发现,AI 智能体现可执行复杂攻击链,包括情报收集、恶意代码编写及社会工程攻击设计。攻击者通过简单提示工程(prompt engineering)即可绕过 AI 伦理限制,操控智能体完成攻击任务。

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

此前 AI 仅能生成钓鱼邮件或基础代码,如今甚至可自动化搭建攻击基础设施,显著提升攻击效率。Stephen Kowski(SlashNext)建议强化邮件过滤(部署能检测 AI 生成内容的过滤系统),推行零信任原则(限制用户及 AI 智能体的最小权限访问)以及针对性培训员工识别 AI 生成的钓鱼威胁。

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

由 Operator 创建的 PowerShell 脚本

相关资讯

黑客论坛上2000万个OpenAI账户登录信息被售卖,用户需警惕风险

近日,一名自称 “emirking” 的俄罗斯黑客在著名的黑客市场 BreachForums 上发布了声称是2000万个 OpenAI ChatGPT 账户的登录信息,并将其标价出售。 此消息由 AI 创业公司 OpenAI 和网络安全公司 Malwarebytes Labs 于周五联合发布,显示出网络安全威胁的严重性。 图源备注:图片由AI生成,图片授权服务商Midjourney据 Malwarebytes 的博客介绍,emirking 在论坛上发布的帖子是用俄语写成,经过翻译后显示出这名黑客的嚣张态度。

腾讯朱雀实验室推出代码防护技术Deep Puzzling,让代码更难被猜透

随着AI技术与网络安全结合得越来越紧密,基于AI技术的网络攻防手段也在日益更替。11月26日,全球顶级的信息安全峰会HITB Cyberweek 2021于近日举办,腾讯朱雀实验室专家研究员Jifeng Zhu和研究员Keyun Luo受邀参加,并进行了题为《Deep Puzzling: Binary Code Intention Hiding based on AI Uninterpretability》(《基于AI不可解释性的二进制代码意图隐藏》)的议题分享。会上,腾讯朱雀实验室展示了如何利用AI模型的特性,实

PC 版 ChatGPT 客户端曝“记忆”功能漏洞,黑客可利用恶意文件令 AI 转发对话记录

OpenAI 在今年 2 月宣布为 ChatGPT 推出记忆(Memory)的功能,今年 9 月初这项功能正式向所有用户开放,该功能的主要用途是“设定预设”,从而帮助 AI 向用户更符合需求的答案。不过研究人员 Johann Rehberger 目前披露报告,称这项功能在 PC 版 ChatGPT 客户端上存在漏洞,黑客可借漏洞获取用户对话记录。AI在线获悉,Johann Rehberger 将这项漏洞称为 SpAIware,他表示黑客可通过钓鱼形式让受害者在 PC 版 ChatGPT 客户端中上传特定文件 / 特