漏洞

随着AI技术的迅猛发展，大语言模型应用（例如谷歌的Gemini和OpenAI的ChatGPT）已逐渐融入日常生活，帮助人们完成作业、解答各种问题。 然而，最近的一起事件再次引发了对AI模型潜在风险的广泛关注。 Gemini咒骂学生去死近日，一位Reddit学生用户分享了一段与Google聊天机器人Gemini的对话，令人不寒而栗。

近日，谷歌宣布其大语言模型（LLM）项目“Big Sleep”成功发现了一个SQLite数据库引擎中的内存安全漏洞，这是人工智能首次在真实软件中发现可利用的内存安全漏洞（且该漏洞无法通过传统的模糊测试检测到）。 AI首次发现内存安全漏洞谷歌的“Project Naptime”项目旨在评估LLM在进攻性安全研究方面的能力，后来该项目演变为“Big Sleep”，由谷歌Project Zero和Dee…

谷歌于 10 月 31 日公布了一项基于 AI 的漏洞分析工具 Big Sleep，该工具号称能够模仿人类安全专家“系统性地发现和分析安全漏洞”。 谷歌声称，研究人员已利用该工具发现了 SQLite 的一项堆栈缓冲区下溢漏洞，而这一漏洞实际上用现有的分析工具均无法发现，因此谷歌认为这一工具有较高的实用性。 ▲ 图源谷歌（下同）据介绍，谷歌 Big Sleep 分析工具源于谷歌 Project Ze…

开源数据库引擎 SQLite 有 bug，还是智能体检测出来的！ 通常，软件开发团队会在软件发布之前发现软件中的漏洞，让攻击者没有破坏的余地。 模糊测试 （Fuzzing）是一种常见的软件测试方法，其核心思想是将自动或半自动生成的随机数据输入到一个程序中，并监视程序异常。

AI 首次发现真实世界中的重大安全漏洞？ SQLite 中的一个漏洞，幸运地被谷歌研究者的 AI Agent 发现了，修复后并未造成任何损失。 莫非 AI 再进化一番，微软的全球蓝屏事故就可以永久避免了？