AI在线 AI在线

黑客

51秒破防！AI武器化时代CISO面临生死时速

51秒破防！AI武器化时代CISO面临生死时速
51秒？ 是的，你没看错。 从黑客拿到你的凭证到横向渗透整个网络，只需要51秒。
3/26/2025 11:05:43 AM
佚名
网络犯罪的“智能帮凶”：OpenAI Operator 等 AI 智能体成黑客新武器

网络犯罪的“智能帮凶”：OpenAI Operator 等 AI 智能体成黑客新武器
AI智能体的滥用标志着网络攻击进入"自动化+智能化"新阶段。企业需同步升级防护体系，将AI视为潜在攻击载体，通过技术管控与管理规范降低风险。专家呼吁，未来需将AI安全纳入整体防御战略，平衡技术创新与安全防护。
3/15/2025 12:51:09 PM
故渊
AI 会取代渗透测试工程师吗？

AI 会取代渗透测试工程师吗？
多年来，我们一直在听到同样的说法：AI将会取代你的工作。 事实上，2017年麦肯锡发布了一份报告《消失与新增的岗位：自动化时代下的劳动力转型》，预测到2030年，将有3.75亿工人需要寻找新工作，否则可能会被AI和自动化取代。 这无疑引发了人们的焦虑。
3/14/2025 10:00:00 AM
AI小蜜蜂
揭秘黑客窃取数据的内幕

揭秘黑客窃取数据的内幕
一旦黑客突破了组织的防御，在网络内部移动和访问信息就相对容易，可能会持续数天甚至数月而未被发现。 这对于存储有宝贵的敏感和个人身份信息的银行和金融服务机构来说，是一个重大隐患。 网络安全的目标是最小化风险和入侵的影响。
3/7/2025 12:00:05 AM
黑客如何利用快速工程技术操纵代理人工智能

黑客如何利用快速工程技术操纵代理人工智能
“代理”人工智能时代已经到来，企业再也不能忽视其变革潜力。 人工智能代理独立运作，根据其编程做出决策并采取行动。 Gartner预测，到2028年，15% 的日常业务决策将完全由人工智能代理自主做出。
2/21/2025 7:04:33 AM
何威风
黑客论坛上2000万个OpenAI账户登录信息被售卖，用户需警惕风险

黑客论坛上2000万个OpenAI账户登录信息被售卖，用户需警惕风险
近日，一名自称 “emirking” 的俄罗斯黑客在著名的黑客市场 BreachForums 上发布了声称是2000万个 OpenAI ChatGPT 账户的登录信息，并将其标价出售。 此消息由 AI 创业公司 OpenAI 和网络安全公司 Malwarebytes Labs 于周五联合发布，显示出网络安全威胁的严重性。 图源备注:图片由AI生成，图片授权服务商Midjourney据 Malwarebytes 的博客介绍，emirking 在论坛上发布的帖子是用俄语写成，经过翻译后显示出这名黑客的嚣张态度。
2/8/2025 11:56:00 AM
AI在线
AI抢不走的工作，微软力挺红队测试仍需人类“掌舵”

AI抢不走的工作，微软力挺红队测试仍需人类“掌舵”
随着AI的快速发展，安全专家担心人工智能会取代他们的工作，但微软的研究人员坚持认为，有效的红队测试仍然依赖于人类的专业知识、文化意识和情商——这些品质是机器无法复制的。 微软的AI红队严格测试了100多款生成式AI产品，并确定人类的创造力在发现漏洞，以及预测黑客如何利用这些系统方面仍然至关重要。 根据雷德蒙德AI红队发布的白皮书，其开源的PyRIT（Python风险识别工具包）等工具可以简化模拟黑客攻击，但最终，在处理复杂风险方面，人类的参与仍然不可替代。
1/15/2025 7:38:07 AM
跳舞的花栗鼠
安全公司披露 PyPI 虚假 GPT / Claude AI 辅助软件包工具，实为木马勒索软件

安全公司披露 PyPI 虚假 GPT / Claude AI 辅助软件包工具，实为木马勒索软件
安全公司卡巴斯基发布通报，声称他们在 PyPI 中发现了两个恶意软件包，该工具包伪装成 GPT 和 Claude AI 平台辅助工具，实际上是木马勒索软件。
11/25/2024 7:51:37 PM
漾仔
研究发现黑客可轻松操控 AI 机器人，将其变成致命武器

研究发现黑客可轻松操控 AI 机器人，将其变成致命武器
宾夕法尼亚大学的研究人员发现，一系列人工智能增强型机器人系统存在严重的漏洞，容易受到黑客攻击和控制。
11/25/2024 5:58:48 PM
远洋
微软将举办大型线下黑客大会，400 万美元悬赏云计算与 AI 软件漏洞

微软将举办大型线下黑客大会，400 万美元悬赏云计算与 AI 软件漏洞
微软宣布将举办一场名为“零日探索”（Zero Day Quest）的线下黑客大会，旨在鼓励研究人员发现影响云计算和人工智能工作负载的软件中的高危安全漏洞。
11/19/2024 10:00:25 PM
远洋
PC 版 ChatGPT 客户端曝“记忆”功能漏洞，黑客可利用恶意文件令 AI 转发对话记录

PC 版 ChatGPT 客户端曝“记忆”功能漏洞，黑客可利用恶意文件令 AI 转发对话记录
OpenAI 在今年 2 月宣布为 ChatGPT 推出记忆（Memory）的功能，今年 9 月初这项功能正式向所有用户开放，该功能的主要用途是“设定预设”，从而帮助 AI 向用户更符合需求的答案。不过研究人员 Johann Rehberger 目前披露报告，称这项功能在 PC 版 ChatGPT 客户端上存在漏洞，黑客可借漏洞获取用户对话记录。AI在线获悉，Johann Rehberger 将这项漏洞称为 SpAIware，他表示黑客可通过钓鱼形式让受害者在 PC 版 ChatGPT 客户端中上传特定文件 / 特
9/27/2024 12:37:13 PM
漾仔
OpenAI 招聘内部风险技术调查员，调查自家员工

OpenAI 招聘内部风险技术调查员，调查自家员工
北京时间 8 月 27 日，对于 OpenAI 来说，安全威胁可能来自内部。该公司最近发布了一条招聘启事，寻找一名内部风险技术调查员，目的是“加强公司防御内部安全威胁的能力”。招聘信息显示，这份工作的职责包括分析异常活动，检测和降低内部威胁，以及与人力资源和法律部门合作“对可疑活动进行调查”。2023 年，OpenAI 成为恶意行为者的攻击目标。当时，黑客入侵了其内部消息系统。这一事件之所以能够被曝光，是因为两名知情人士向《纽约时报》泄露了信息。除了黑客组织外，这则招聘启事似乎表明 OpenAI 在担心来自自己员工
8/27/2024 12:55:56 PM
箫雨
防不胜防：黑客可利用 AI 通过 HDMI 线远程窃取屏幕信息

防不胜防：黑客可利用 AI 通过 HDMI 线远程窃取屏幕信息
乌拉圭的研究人员发现，黑客可以使用人工智能通过拦截电脑显示器和主机之间 HDMI 线缆泄露的电磁辐射来窥探屏幕内容。他们表示，这种攻击可能已经存在，但普通家庭电脑用户不必过于担心。图源 Pexels据AI在线了解，攻击者可以通过多种方式实施攻击，包括使用放置在建筑物外的天线来拦截 HDMI 线缆的信号，这种间谍活动通过拦截从电脑 HDMI 线缆泄露的电磁辐射进行。研究人员表示，虽然数字视频传输比模拟信号复杂得多，但仍然存在可乘之机。乌拉圭共和国大学的费德里科・拉罗卡和他的团队开发了一种人工智能模型，可以从几米外的泄
7/28/2024 9:39:25 PM
远洋
安全公司警告黑客正瞄准各大 AI 语言模型平台用户账号，转卖 API 余额 / 获取隐私信息

安全公司警告黑客正瞄准各大 AI 语言模型平台用户账号，转卖 API 余额 / 获取隐私信息
安全公司 Sysdig 近日发布报告，声称有大量黑客瞄准各大 LLM 大语言模型网络平台发动“LLM 劫持（LLMjacking）”攻击，黑客通过一系列方式盗取用户账号密码，将模型 API 转卖给第三方，还从用户的对话记录中选取隐私信息用于勒索或公开贩售。Sysdig 表示，黑客们似乎“偏好”Anthropic Claude v2 / v3 平台，目前他们检测到黑客主要利用撞库及 PHP 框架 Laravel 的凭据漏洞（CVE-2021-3129）进行攻击，更多偏向企业用户，不知情的受害者可能每天需要替黑客买单超
5/12/2024 12:14:31 PM
漾仔
腾讯朱雀实验室推出代码防护技术Deep Puzzling，让代码更难被猜透

腾讯朱雀实验室推出代码防护技术Deep Puzzling，让代码更难被猜透
随着AI技术与网络安全结合得越来越紧密，基于AI技术的网络攻防手段也在日益更替。11月26日，全球顶级的信息安全峰会HITB Cyberweek 2021于近日举办，腾讯朱雀实验室专家研究员Jifeng Zhu和研究员Keyun Luo受邀参加，并进行了题为《Deep Puzzling: Binary Code Intention Hiding based on AI Uninterpretability》（《基于AI不可解释性的二进制代码意图隐藏》）的议题分享。会上，腾讯朱雀实验室展示了如何利用AI模型的特性，实
11/27/2021 2:31:00 PM
新闻助手
  • 1