现代快报讯(记者 顾元森)1 月 14 日下午,备受关注的国内首起 AI 陪伴 " 聊黄 " 案,在上海市第一中级人民法院开庭二审。当天下午,现代快报记者了解到,因该案涉及人工智能领域的技术问题尚不明晰,法院宣布休庭,将择日再次开庭。
现代快报记者了解到,涉案 APP Alien Chat(以下简称 AC)是一款主打 AI 陪伴聊天的应用。一审判决书显示,AC 的手机注册用户达 11.6 万人,其中 2.4 万人为付费用户,充值总额高达 363 万余元。据报道,2024 年 4 月,因用户举报,王某某和李某某(两名被告人均为化姓)二人被捕,AC 停止服务。上海市徐汇区人民法院在一审判决认为,AC 产生了 " 大量具体描绘性行为或露骨宣扬色情的内容 ",属于淫秽物品。经公安机关抽样鉴定,150 个收费用户的 12495 段聊天中,有 141 个用户的 3618 段属于淫秽物品。一审法院判决,两名被告人的行为构成制作淫秽物品牟利罪,分别获刑四年和一年半。构成制作淫秽物品牟利罪的主要原因在于:两名被告人通过编写和修改底层系统提示词(Prompt),人为突破了基础语言模型的道德约束机制。
两名被告人不服判决提出上诉。刘某某的辩护人北京盈科(上海)律师事务所律师周小羊表示,对于一审判决并不认同," 我们一审,包括现在二审,我们都是做的无罪辩护。" 一审时,在事实认定方面,控辩双方就 AC 软件是否需要备案,编写、修改系统提示词的目的和作用问题及关于被告人是否采取有效措施防范色情内容等问题展开辩论。周小羊认为,这种封闭的聊天内容由 AI 和用户互动产生,开发者没有制作及传播淫秽聊天内容。他说:" 机器 AI 和用户之间是一对一的封闭聊天,而且只是文字聊天,不涉及图片、视频,也没有传播出去。"
1 月 14 日下午,二审庭审休庭后,周小羊称,他已向法院提交申请人工智能领域专家证人出庭作证的申请,还向法院申请做实验,验证输入相同内容提示词,是否会导致案涉 AI 大模型 " 聊黄 ",但暂未获得法院回复。


登录后才可以发布评论哦
打开小程序可以发布评论哦