英国政府正着手制定四项新法律，旨在打击利用人工智能（AI）工具生成儿童性虐待材料（CSAM）的行为。根据英国内政部的声明，这些法律将明确规定，创建、持有或分发用于生成 CSAM 的 AI 工具均属违法行为。此举将使英国成为全球首个对此类行为立法的国家。
根据新法，违法者最高可面临五年监禁。此外，持有教唆他人使用 AI 性侵儿童的“AI 恋童癖手册”也将被定为犯罪，最高可判处三年监禁。运营托管 CSAM 或提供诱骗儿童建议的网站将被视为非法，违法者最高可面临十年监禁。
与此同时，英国边境部队将获得新的执法权限，可在涉嫌儿童性虐待者入境时检查其电子设备中是否存有潜在的 CSAM。根据内容的严重程度，违法者最高可被判处三年监禁。
英国内政大臣伊薇特・库珀表示：“我们知道，这些病态掠夺者的在线活动往往会导致他们在现实中实施最可怕的虐待行为。本届政府将毫不犹豫地采取行动，确保儿童在线安全，使我们的法律能够应对最新的威胁。”
AI 生成的 CSAM 包括完全或部分由计算机生成的内容，例如通过替换面部将真实图像编辑成他人形象，或包含儿童真实声音的内容。
AI在线注意到，英国国家犯罪局（NCA）的数据显示，每月约有 800 人因与在线儿童虐待威胁相关的罪行被捕。据 BBC 报道，NCA 估计英国约有 84 万名成年人（占总人口的 1.6%）对儿童构成威胁（包括线上和线下）。
反儿童虐待组织呼吁政府采取进一步行动。互联网观察基金会（IWF）呼吁禁止“脱衣”应用程序，这些应用程序可用于生成成人和儿童的裸体图像。
IWF 临时首席执行官德里克・雷-希尔表示：“AI 图像与真实虐待照片的难以区分速度令人震惊，这表明立法必须跟上新技术的步伐。这些 AI 内容的存在进一步助长了针对儿童的性暴力行为，它不仅鼓励了施虐者，还使真实儿童的安全受到更大威胁。”
尽管创建或持有 AI 生成的 CSAM 已被视为非法，但 IWF 指出，新法将明确禁止优化 AI 模型以“生成最严重的儿童性虐待材料”。
IWF 是最早对 AI 和合成 CSAM 发出警告的慈善组织之一。该组织发现，在线 AI 生成的 CSAM 数量有所增加，并指出 2024 年报告的 245 起此类图像中，许多“逼真到必须与‘真实’内容同等对待”。
这些新法律将被纳入即将出台的《犯罪与警务法案》，是英国政府围绕儿童在线安全整体努力的一部分。英国数字监管机构 Ofcom 近期宣布，成人网站在向用户提供访问权限前必须进行年龄验证。该机构还要求科技公司在 3 月 16 日前完成对其平台上非法内容对儿童和成人构成风险的评估。
