过去几年，人们非常关注人工智能 (AI) 技术的发展状况及其对网络安全的影响。在许多行业中，与人工智能攻击相关的风险仍然存在且令人担忧，尤其是全球平均数据泄露成本比去年增加了 10% 。
然而，根据 IBM X-Force 团队发布的最新《云威胁形势报告》，针对云计算环境的人工智能攻击的近期威胁实际上相对较低。不过，X-Force 的预测显示，这些复杂的攻击方法可能会有所增加。
云计算市场现状
云计算市场继续呈指数级增长，专家预计到 2024 年底其价值将达到 6750 亿美元以上。随着越来越多的组织将其运营能力扩展到本地限制之外并利用公共和私有云基础设施和服务，AI技术在多个行业领域的采用正在稳步增长。
生成式人工智能与云计算平台的快速融合为企业创造了许多机会，尤其是在实现 IT 服务和SaaS应用程序的部署、配置和可扩展性的更好的自动化和效率方面。
然而，随着越来越多的企业依赖新的颠覆性技术来帮助他们最大化云投资的价值，生成式人工智能带来的潜在安全危险受到各网络安全组织的密切监视。
为什么目前认为云端人工智能发起的攻击风险较低？
尽管根据Gartner 最近发布的报告，人工智能发起的攻击仍然是高级风险和保证主管面临的最大新兴风险之一，但根据 X-Force 的研究，目前人工智能技术在云基础设施攻击中被利用和利用的威胁仍然相对较低。
这并不是说人工智能技术不再被大规模地用于开发和分发高度复杂的网络钓鱼计划。这种行为已经在活跃的恶意软件分发者（如Hive0137 ）身上得到体现，他们在编写新的暗网工具脚本时使用大型语言模型 (LLM)。相反，当前较低的风险预测与人工智能平台在云和本地环境中直接成为攻击目标的可能性有关。
风险较低的主要原因之一是网络犯罪分子需要进行复杂的工作才能成功破坏和操纵 AI 部署的底层基础设施。即使攻击者投入大量资源，基于云的 AI 工具和解决方案的市场饱和度仍然相对较低，这可能会导致在实施这些攻击时投入的时间、资源和风险回报率较低。
为人工智能驱动的云威胁不可避免的增加做好准备
尽管如今人工智能驱动的云威胁的直接风险可能较低，但这并不是说组织不应该为这种状况在不久的将来发生的变化做好准备。
IBM 的 X-Force 团队已经认识到新技术在各个市场中的市场份额百分比与其相关网络安全风险的触发点之间的相关性。根据最近的 X-Force 分析，一旦生成式人工智能成熟并接近 50% 的市场饱和度，其攻击面很可能会成为网络犯罪分子更大的目标。
对于目前正在使用 AI 技术并着手采用云技术的组织而言，设计更安全的 AI 策略至关重要。这包括开发更强大的身份安全态势、在整个云开发过程中集成安全性以及保护其数据和量子计算模型的完整性。