湖北男子因AI生成色情小说被判刑10个月，首例案件引发热议

使用人工智能的人必须对所创作内容的法律合规性负责，切勿触碰法律底线。借助AI撰写色情小说的行为面临极高的法律风险，一旦这些作品通过网络或其他渠道传播，传播范围的大小均可能触犯传播淫秽物品罪或以此牟利的罪名。

近年来，随着人工智能技术的日益普及，给人们的生活和工作带来了极大便利，但也因此被一些恶意分子利用。部分人为了获得平台的流量补贴和变现机会，使用AI合成技术捏造谣言，扰乱社会秩序。更有甚者，利用此技术撰写色情小说，并通过翻译软件将其转为外文，出售给境外网站以获取非法收益，甚至企图通过虚拟货币进行隐蔽交易，逃避法律制裁。

据《法治周末》记者了解，湖北省大冶市人民检察院处理了首例涉及利用AI技术创作色情小说并进行销售的案件。经过公诉程序，被告人柯某某因犯制作、贩卖、传播淫秽物品牟利罪，被法院判处十个月有期徒刑，并处以5000元罚金，同时追缴其全部违法所得。柯某某未提出上诉，该判决已生效。

通过“翻墙”软件访问境外网站并撰写色情小说

柯某某是一名“95后”男性，平时喜欢在家中创作“二次元”小说并发布到相关平台，以供读者付费阅读。由于他的创作数量较大，通常每月能从这些网络小说平台获得四五千元的收入。

在2022年11月的某一天，柯某某意外地从一个二次元小说网站上得知某境外网站，并使用“翻墙”工具进入该网站浏览色情小说，随后又通过与之关联的境外网站购买了部分付费内容。

在阅读了几部色情小说后，柯某某了解到这些作品的盈利模式，他觉得仅依靠正常的二次元小说收入还不够，因此萌生了撰写色情小说以获取更多收入的想法。

为了提升创作效率，柯某某先是自己撰写了一些内容，然后在网上摘抄了一部分，最终将这些材料提交给AI平台，要求其进行创作。生成后，柯某某对内容进行编辑，最终完成了一篇完整的色情小说。

自2022年11月至2023年3月，柯某某借助AI创作了十余篇色情小说，并将其翻译成外文后发布在境外网站上，累计售出约760篇（次），获利超过22800元。

事后，柯某某表示，他当时抱有侥幸心理，以为通过境外网站发布色情小说就不会被国内查处。

然而，在大数据时代，即便借助AI技术，违法行为终将暴露。

证据锁定后，柯某某被检方起诉

2023年8月，四川省某市侦破了一起制售淫秽漫画案，其中一条线索涉及湖北省大冶市的柯某某。大冶市警方获悉后迅速立案调查，并于同年8月31日在柯某某的住处将其抓获，查获其使用的计算机主机，并对其实施了刑事强制措施。

经过讯问，柯某某如实交代了自2022年11月至2023年3月期间，以非法获利为目的传播淫秽物品的犯罪事实，并在其电脑中找到了相关的小说文件。

2023年9月25日，此案被移交至检察机关进行审查。承办检察官在审阅卷宗后，对犯罪嫌疑人进行了讯问。“在审查逮捕阶段，我们主要指导公安机关完成两项工作：一是对相关小说进行了鉴定，确认其属于淫秽物品，二是查清其违法所得金额。”案件承办人方雪告诉记者。由于柯某某是通过虚拟货币收款并兑换成人民币，侦查人员调取了其支付宝和微信的交易记录，确认其共计获利超过2.2万元。在证据面前，柯某某自愿认罪并退还了所有违法所得。

大冶市检察院认为，柯某某以牟利为目的，制作、贩卖、传播淫秽物品，共售出约760篇次，非法获利22873.95元，犯罪事实清楚，证据确凿充分，其行为触犯了相关刑法。因此，2024年10月18日，该院对柯某某涉嫌制作、贩卖、传播淫秽物品牟利罪提起公诉。法院开庭审理后，采纳了公诉方的量刑建议，依法作出了上述判决。

技术的中立性并不代表价值的中立性

随着人工智能技术的飞速发展，其应用已经深入到社会生活的各个方面。值得注意的是，除了上述“AI撰写色情小说案”，近年来，我国其他地区也有因利用AI制作、销售、传播其他淫秽物品而被追究刑事责任的案例。

2023年7月，陕西咸阳的周某某利用从网络下载的“AI修图”软件，制作了4369张淫秽图片，并通过QQ向他人贩卖53次，获利2035元。2024年3月18日，周某某因犯制作淫秽物品牟利罪，被咸阳市秦都区人民法院判处四年有期徒刑，并罚款1万元，违法所得予以追缴；同年4月28日，咸阳市中级人民法院二审维持了原判。

从2021年至2022年8月，浙江杭州的虞某某利用“AI换脸”软件，将从网络收集的人脸信息与淫秽视频进行替换合成，制作出虚假的换脸视频，并在多个网络社交软件群中传播，成员达2000多人，其中不少是明星，虞某某通过“收红包”的方式获利超过6万元。2023年11月，虞某某因犯制作、传播淫秽物品牟利罪，被杭州市萧山区人民法院判处七年三个月有期徒刑，并罚款六万元。

值得注意的是，杭州市萧山区人民检察院还针对虞某某的“AI换脸”案提起了个人信息保护的民事公益诉讼。杭州互联网法院支持了公益诉讼起诉人的请求，判令虞某某删除其在社交软件群中存留的涉案个人信息，并支付6万元的社会公共利益损害赔偿款（用于个人信息保护和人脸深度合成技术不当应用的治理等公益事项），并在《法治日报》上公开致歉。

“技术本身是中立且无害的，不应当受到法律的负面评价。”杭州互联网法院的法官在判决书中强调，然而，技术的中立性并不意味着价值的中立性，尤其是开发和应用者的价值观中立，更不代表参与深度合成的人员不应受到法律的约束。

方雪 湖北省大冶市人民检察院 第一检察部检察官

案件分析

尽管AI作为工具，但利用它创作色情小说，实质上与传统手段进行违法行为无异，同样需承担相应的法律后果。

使用AI的人必须对所创作的内容合法性负责，切勿触碰法律的底线。借助AI撰写色情小说存在巨大的法律风险，一旦这些作品通过网络或其他途径传播，传播范围的大小均可能触犯相关的法律。

依据我国刑法及相关司法解释，制作、复制、出版、贩卖、传播淫秽电子图片、文章等一百件以上，或利用淫秽电子信息获取违法所得五千元以上的，即可被追究刑事责任。在此案中，柯某某销售的AI撰写色情小说共计760篇（次），获利超过两万元，远远超出了上述标准，且涉及的跨境传播情况也非常严重。因此，尽管柯某某在案后如实供述、自愿认罪并退还赃款，法院依旧未对其适用缓刑，依法进行了相应的处罚。

技术应用的双重性：守法与自律的重要性

技术的运用如同一把“双刃剑”，若善用其能为社会带来福祉，若滥用则可能引发诸多风险与危害。在享受人工智能所带来的便利与创新之际，公众应时刻坚守法律底线。AI的开发者、使用者及各大平台应加强自我约束，平台有责任制止不法内容的传播，而个人用户也需自觉遵循法律法规，避免参与任何违法创作行为。