网络安全
新的 AI 安全在 2025 年正对 CISO 及其团队构成挑战
安全团队总是必须适应变化，但2025年将出现的新发展可能会使变化特别具有挑战性。 AI 创新步伐的加快、日益复杂的网络威胁和新的监管政策将要求首席信息安全官 （CISO） 驾驭更复杂的环境。 供应商正在迅速将AI 功能添加到现有产品中，其使用的基础大型语言模型 （LLM） 在增强产品能力的同时也暴露了新的攻击面给攻击者，企业CISO 需要了解他们面临这些威胁的严重程度，以及如何缓解这些威胁。
2025年的十大网络安全预测
人工智能在2025年仍将是一个热门话题，但不要错过其他趋势，包括初始访问代理的增长、首席信息安全官（vCISO）的崛起、技术合理化等等。 每年这个时候，行业专家和分析师都会关注明年的网络安全趋势、预测和挑战。 专家预测，到2024年，生成式人工智能（GenAI）和大型语言模型将会增加，勒索软件攻击和第三方供应链挑战也将持续。
国家网络安全通报中心预警新型犯罪手法：利用 AI 绕过图形类验证机制
广西桂林公安网安部门通过调查，成功抓获该“黄牛”团伙，缴获电脑等作案工具一批。同时发现，部分图形类验证码组件风险隐患突出，极易被不法分子利用，提醒广大单位、个人加强防范。
2025，CISO的AI元年
2025年被称为“CISO的AI元年”，因为这一年，首席信息安全官（CISO）们将解锁生成式人工智能（GenAI）的全部潜力，开启网络安全新时代。 随着生成式人工智能技术的不断成熟，其功能不再局限于回答问题，而是能够提供主动建议、执行具体行动，并以个性化方式与用户互动。 这一技术变革将使CISO及其团队得以充分利用GenAI的真正价值，全面增强网络安全防御能力。
恶意行为者运用GenAI：尚未达到预期，但需警惕
网络威胁联盟 (CTA) 的最新报告得出结论，GenAI帮助降低了恶意行为者的入门门槛，并提高了他们的效率，即更快地创建令人信服的深度伪造内容、发起网络钓鱼攻击和投资诈骗。 不过，就目前而言，它并没有让攻击者变得“更聪明”，也没有彻底改变网络威胁。 恶意行为者如何使用GenAI该报告基于 CTA 成员可获得的数据和实证案例研究，解释了攻击者目前使用GenAI的几个方面：创建深度伪造视频和欺骗性图像、克隆特定声音的录音、编写高度逼真的电子邮件、信息和网站内容辅助创建恶意软件(但无法在没有额外人为输入和调整的情况下创建恶意软件)优化命令和控制操作(例如，用于管理僵尸网络)传播错误信息和虚假信息(例如，以推动网络阴谋论、影响选举活动)创建由AI控制的虚假社交媒体账户网络(机器人农场)分析人员发现，“虽然AI创新无疑具有强大功能，但到目前为止，它们只是逐步提升了对手的能力，并没有创造出全新的威胁。
Ebay 等警告：利用个人信息展开的诈骗邮件正在激增，AI 或为“帮凶”
这些工具还能抓取受害者的社交媒体和在线活动数据，锁定他们最容易回应的话题，帮助黑客批量生成量身定制的网络钓鱼骗局。
2024年AI安全五大热点回顾
在ChatGPT推出两年后，生成式AI已成为网络安全领域的重要力量。 2024年生成式AI技术的影响无处不在，从深伪欺诈到“影子AI”的风险，再到AI安全法规的出现和AI驱动的漏洞研究潜力。 以下，我们将盘点过去一年AI与网络安全的五大热点话题。
AI+OSINT：2025年最值得关注的新兴威胁
在高度互联的数字化时代，情报工作正在经历一次深刻变革。 以往依赖人类线人或有限信息源的情报收集方式已逐渐被一种新的模式取代——公开源情报（Open Source Intelligence，简称OSINT）。 这种技术通过挖掘公开可用的信息资源，为网络安全和决策支持提供了重要依据。
网络安全的第六感：AI如何在威胁发生之前发现它们
在采访中，Reaktr.ai的总裁Vineet Chaku探讨了AI如何改变网络安全，特别是在异常检测和威胁识别方面。 Chaku谈到了网络安全专业人员与AI系统协作所需的技能，以及如何解决围绕AI部署的伦理问题。 AI如何改变传统的网络安全方法，特别是在异常检测和威胁识别方面?过去，网络安全就像在不停地追赶，我们总是对最新出现的问题做出反应，试图在坏事发生后进行修补，但AI正在改变这一状况，这就像我们终于找到了一种方法，能够抢先一步，在问题发生之前就发现它们。
企业为何仍挣扎于数据治理：挑战与破局之道
尽管AI和分析技术得到广泛使用，但许多企业的数据治理仍不到位，这在网络安全和合规性等多个层面都存在风险，更不用说对各种利益相关者的潜在影响了。 简而言之，随着企业对数据的依赖程度不断增加，数据治理变得越来越必要，而非减少。 Info-Tech Research Group负责数据、分析、企业架构和AI的首席研究总监Steve Willis提供了一个令人清醒的统计数字：大约50%至75%的数据治理计划都失败了。
为什么AI增强的威胁和法律不确定性成为风险主管最关心的问题
据Gartner称，2024年第三季度，企业面临的最大新兴风险是AI增强的恶意攻击。 关键的新兴风险这是连续第三个季度，这类攻击被列为首要新兴风险。 IT供应商的关键性以及动荡的监管和法律环境是新出现的首要企业新兴风险。
《人工智能安全治理框架》1.0 版发布
感谢据央视新闻今日报道，在 2024 年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0 版。制定该《框架》旨在落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险。《框架》提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等人工智能安全治理的原则。针对模型算法安全、数据安全和系统安全等内生安全风险
第十六届信息安全高级论坛暨2024 RSAC热点研讨会圆满落幕
6月7日，由中国计算机学会主办，中国计算机学会计算机安全专委会、绿盟科技集团、360集团承办的“第十六届信息安全高级论坛暨2024 RSAC热点研讨会”在北京圆满落幕。 大会汇聚政、产、学、研各方力量，围绕2024年RSA大会中热点观察、创新技术所引发的安全新思考、新理念展开深入探讨。 大咖云集——共探AI赋能产业发展之策公安部第一研究所所领导、中国计算机学会计算机安全专业委员会常务副主任于锐在致辞中表示，作为全球信息安全领域最具影响力、规模最大、水平最高的产业峰会之一，RSA大会已成为当前快速了解全球网络安全发展趋势重要风向标。
国内首个网络安全大模型评测平台SecBench发布
2024年1月19日，业界首个网络安全大模型评测平台SecBench正式发布，该平台由腾讯朱雀实验室和腾讯安全科恩实验室，联合腾讯混元大模型、清华大学江勇教授/夏树涛教授团队、香港理工大学罗夏朴教授研究团队、上海人工智能实验室OpenCompass团队共同建设，主要解决开源大模型在网络安全应用中安全能力的评估难题，旨在为大模型在安全领域的落地应用选择基座模型提供参考，加速大模型落地进程。同时，通过建设安全大模型评测基准，为安全大模型研发提供公平、公正、客观、全面的评测能力，推动安全大模型建设。行业首发，弥补大模型在
对话极盾科技CEO丁杨：初创企业，所有客户都是创始人
十几年前的丁杨是一名工科大学生，在校期间，他最喜欢的事儿就是参加每周的社团活动，这个社团名为东南大学网络安全联盟（SUS），它还有着一个特殊的称号，即国内最早的高校网络安全社团。在接受朋湖专访时，说起这段青春往事，丁杨的语调也变得高昂起来，“我们每周六社团的人都会聚在一起做内容分享，风雨无阻。”他讲道，“当然后期来的人也有所减少，但最后留下来的人现在来看，也都选择从事了和网络安全相关的工作。”丁杨是其中坚持下来的一员。如今，丁杨已是一家网络安全初创企业创始人，拥有15年安全和数据分析从业经验，现在的他依然决心要在网
「勒索」制造业
网络犯罪分子将注意力从消费者转移到了更大更肥的是鱼上——有钱、缺人、承受迅速恢复产能的巨大压力的制造业公司。然而，许多制造商都没有准备好与世界上最致命的恶意软件作斗争，即使遭受攻击，要么轻描淡写，要么讳莫如深。尽管勒索软件通常会带来巨大的成本，浪费时间和资源，给公司的声誉和品牌带来巨大的风险，并且会影响整个行业的看法，但是，随着制造商向工业4.0过渡，面对网络威胁，他们比其他行业更准备不足。比如，只有不到三分之二的制造商拥有网络安全计划，但计划位于部门响应计划最底层。越来越多的制造业企业也没有计划投资于改进网络安全
- 1