黑客 - AI在线

AI抢不走的工作，微软力挺红队测试仍需人类“掌舵”

随着AI的快速发展，安全专家担心人工智能会取代他们的工作，但微软的研究人员坚持认为，有效的红队测试仍然依赖于人类的专业知识、文化意识和情商——这些品质是机器无法复制的。微软的AI红队严格测试了100多款生成式AI产品，并确定人类的创造力在发现漏洞，以及预测黑客如何利用这些系统方面仍然至关重要。根据雷德蒙德AI红队发布的白皮书，其开源的PyRIT（Python风险识别工具包）等工具可以简化模拟黑客攻击，但最终，在处理复杂风险方面，人类的参与仍然不可替代。

安全公司披露 PyPI 虚假 GPT / Claude AI 辅助软件包工具，实为木马勒索软件

安全公司卡巴斯基发布通报，声称他们在 PyPI 中发现了两个恶意软件包，该工具包伪装成 GPT 和 Claude AI 平台辅助工具，实际上是木马勒索软件。

研究发现黑客可轻松操控 AI 机器人，将其变成致命武器

宾夕法尼亚大学的研究人员发现，一系列人工智能增强型机器人系统存在严重的漏洞，容易受到黑客攻击和控制。

微软将举办大型线下黑客大会，400 万美元悬赏云计算与 AI 软件漏洞

微软宣布将举办一场名为“零日探索”（Zero Day Quest）的线下黑客大会，旨在鼓励研究人员发现影响云计算和人工智能工作负载的软件中的高危安全漏洞。

PC 版 ChatGPT 客户端曝“记忆”功能漏洞，黑客可利用恶意文件令 AI 转发对话记录

OpenAI 在今年 2 月宣布为 ChatGPT 推出记忆（Memory）的功能，今年 9 月初这项功能正式向所有用户开放，该功能的主要用途是“设定预设”，从而帮助 AI 向用户更符合需求的答案。不过研究人员 Johann Rehberger 目前披露报告，称这项功能在 PC 版 ChatGPT 客户端上存在漏洞，黑客可借漏洞获取用户对话记录。AI在线获悉，Johann Rehberger 将这项漏洞称为 SpAIware，他表示黑客可通过钓鱼形式让受害者在 PC 版 ChatGPT 客户端中上传特定文件 / 特

OpenAI 招聘内部风险技术调查员，调查自家员工

北京时间 8 月 27 日，对于 OpenAI 来说，安全威胁可能来自内部。该公司最近发布了一条招聘启事，寻找一名内部风险技术调查员，目的是“加强公司防御内部安全威胁的能力”。招聘信息显示，这份工作的职责包括分析异常活动，检测和降低内部威胁，以及与人力资源和法律部门合作“对可疑活动进行调查”。2023 年，OpenAI 成为恶意行为者的攻击目标。当时，黑客入侵了其内部消息系统。这一事件之所以能够被曝光，是因为两名知情人士向《纽约时报》泄露了信息。除了黑客组织外，这则招聘启事似乎表明 OpenAI 在担心来自自己员工

防不胜防：黑客可利用 AI 通过 HDMI 线远程窃取屏幕信息

乌拉圭的研究人员发现，黑客可以使用人工智能通过拦截电脑显示器和主机之间 HDMI 线缆泄露的电磁辐射来窥探屏幕内容。他们表示，这种攻击可能已经存在，但普通家庭电脑用户不必过于担心。图源 Pexels据AI在线了解，攻击者可以通过多种方式实施攻击，包括使用放置在建筑物外的天线来拦截 HDMI 线缆的信号，这种间谍活动通过拦截从电脑 HDMI 线缆泄露的电磁辐射进行。研究人员表示，虽然数字视频传输比模拟信号复杂得多，但仍然存在可乘之机。乌拉圭共和国大学的费德里科・拉罗卡和他的团队开发了一种人工智能模型，可以从几米外的泄

安全公司警告黑客正瞄准各大 AI 语言模型平台用户账号，转卖 API 余额 / 获取隐私信息

安全公司 Sysdig 近日发布报告，声称有大量黑客瞄准各大 LLM 大语言模型网络平台发动“LLM 劫持（LLMjacking）”攻击，黑客通过一系列方式盗取用户账号密码，将模型 API 转卖给第三方，还从用户的对话记录中选取隐私信息用于勒索或公开贩售。Sysdig 表示，黑客们似乎“偏好”Anthropic Claude v2 / v3 平台，目前他们检测到黑客主要利用撞库及 PHP 框架 Laravel 的凭据漏洞（CVE-2021-3129）进行攻击，更多偏向企业用户，不知情的受害者可能每天需要替黑客买单超

腾讯朱雀实验室推出代码防护技术Deep Puzzling，让代码更难被猜透

随着AI技术与网络安全结合得越来越紧密，基于AI技术的网络攻防手段也在日益更替。11月26日，全球顶级的信息安全峰会HITB Cyberweek 2021于近日举办，腾讯朱雀实验室专家研究员Jifeng Zhu和研究员Keyun Luo受邀参加，并进行了题为《Deep Puzzling: Binary Code Intention Hiding based on AI Uninterpretability》（《基于AI不可解释性的二进制代码意图隐藏》）的议题分享。会上，腾讯朱雀实验室展示了如何利用AI模型的特性，实