红星资本局 1 月 13 日消息,国内首起 AI 服务提供者因涉黄获刑的案件迎来新进展。红星资本局获悉,该案二审将于明日(1 月 14 日)在上海市第一中级人民法院开庭审理。
2025 年 9 月,该案一审宣判,案涉 App 的两名创始人被认定犯制作淫秽物品牟利罪,分别获刑 4 年、1 年 6 个月,并处罚金 400 万元和 20 万元。随后两人提起上诉。
1 月 13 日,其中一名当事人的代理律师周小羊向红星资本局表示,一审中当事人的诉求是无罪辩护,二审也将作无罪辩护。
与此前公开的个人利用 AI 工具制黄案不同,此起案件是法律首次认定提供工具的 " 服务提供者 " 为主要责任主体。
AI 聊天 App 涉黄
创始人一审获刑 4 年罚金 400 万元
红星资本局了解到,案涉 App"Alien Chat" 由梁某和王某(均为化名)开发运营,2023 年 6 月上线,定位为 AI 伴侣聊天应用,为年轻群体提供亲密陪伴和情感支持。用户注册会员后,可以通过软件和大语言模型与虚拟角色进行交互聊天。
但因涉黄内容,App 创始人梁某和王某站上了被告席。一审判决书显示,该 App 用户 11.6 万余人,其中充值用户 2.4 万余人,产生了 400 万余段交互聊天。经随机抽样鉴定,150 名用户中有 141 人聊天内容涉黄,12000 多段聊天中,有 3600 多段涉黄。

截图自 Alien Chat 小红书账号
根据证人证言," 案涉 App 聊了之后会有很多色情、淫秽、露骨描述性行为的内容 "" 别的软件都有限制词,这个不设限制词 "" 大部分用户都是冲着这点玩软件的 "。
红星资本局注意到,案涉 App 提供两档会员服务,尊享会员收费 138 元 / 月,高级会员收费 68 元 / 月,累计收费高达 363 万余元。
一审法院认定,案涉 App 产生了 " 大量具体描绘性行为或露骨宣扬色情的内容 ",属于淫秽物品。无论是从淫秽物品数量、会员人数,还是从违法所得数额来看,均远超相关司法解释所规定的入罪标准,具有刑事可罚性。
最终,一审法院认为,被告人梁某和王某以牟利为目的,制作淫秽物品,情节严重,行为构成制作淫秽物品牟利罪。梁某被判处有期徒刑 4 年,并处罚金 400 万元;王某被判处有期徒刑 1 年 6 个月,并处罚金 20 万元。
目前,该 App 已下架,各大应用商店均搜索不到。
二审即将开庭
当事人主张无罪
梁某的代理律师北京盈科(上海)律师事务所周小羊律师向红星资本局表示,一审中当事人的诉求是无罪辩护,二审也将作无罪辩护。
主要理由包括:一是梁某主观上不能认定为故意,编写、修改系统提示词并不是为了传播淫秽物品,修改提示词是希望把大模型调整得更拟人化、更灵动,满足用户的情感陪伴需求;二是本案中 " 涉黄 " 聊天内容是一对一的,封闭的,不具有传播价值,也没有被传播出去。
一审判决书显示,法院认同梁某和王某的行为不构成传播淫秽物品牟利罪。其中提到:本案中的色情聊天内容是人际互动时产生的、一对一的,通常情况下仅有参与聊天的会员能看到,具有一定的封闭性。
但法院认为,构成制作淫秽物品牟利罪,主要理由是:被告二人主观上积极追求色情淫秽聊天内容的产生,客观上通过编写、修改系统提示词等方式突破大语言模型的道德限制,将 "Alien Chat" 软件训练成可持续对外输出色情淫秽内容的工具,对外宣传 "Alien Chat" 软件具有 " 聊黄 " 功能引导用户参与聊天,且在明确知晓会员交互聊天中产生大量淫秽内容的情况下,继续向用户提供 "Alien Chat" 软件运营和技术支持服务,对涉案色情淫秽聊天内容的产生具有决定性作用。
一审判决后,两人提起上诉。红星资本局获悉,该案二审将于明日(1 月 14 日)在上海市第一中级人民法院开庭审理,采取不公开开庭的方式。
有业内声音认为,此案的特殊点在于,法律首次认定提供工具的 " 服务提供者 " 是主要责任主体。
红星资本局注意到,此前也有多起利用 AI 工具制黄案披露。2025 年 7 月,人民法院报报道称,湖北省大冶市人民法院审结了一起利用 AI 生成色情小说牟利案,被告人柯某使用 AI 文本工具生成色情小说,在境外网站售卖 760 余篇次,获利 2.2 万余元,最终被判处有期徒刑 10 个月。
记者 强亚铣
编辑 杨程 余冬梅
红星资本局原创


登录后才可以发布评论哦
打开小程序可以发布评论哦