AI 技术的普及极大地方便了人们的生活与工作，也因此被不法分子盯上，有的为赚取平台流量补贴，获得流量变现，利用 AI 合成技术编造谣言，严重扰乱社会秩序，更有甚者利用 AI 技术撰写色情小说牟利。
据“大冶检察”公众号，一男子柯某某（大专文化）以牟利为目的，借助 AI 工具批量生成淫秽小说在海外平台发布并售卖，总计售卖约 760 篇（次），共计获利 22873.95 元。
AI在线参考报道获悉，法院经审理认为被告人柯某某以牟利为目的，制作、贩卖、传播淫秽物品，非法获利 2 万余元，其行为已经构成制作、贩卖、传播淫秽物品牟利罪，公诉机关指控罪名成立。被告人柯某某到案后，能如实供述其犯罪事实，自愿认罪认罚，并退缴违法所得，依法可以从宽处理。
根据案件事实及量刑情节，法院采纳了公诉机关量刑建议，依法以制作、贩卖、传播淫秽物品牟利罪，判处被告人柯某某有期徒刑 10 个月，并处罚金人民币 5000 元，同时追缴全部违法所得。这也是全国首例利用人工智能（AI）技术撰写色情小说并牟利案件。
检察院表示，我国《刑法》规定，制作、复制、出版、贩卖、传播淫秽物品，情节严重的，将构成相应犯罪。AI 虽为工具，但利用它创作色情小说，等同于利用传统手段进行违法活动，同样要承担法律责任。
