央视网 昨天
没机会当兵,AI换身军装警服“过过瘾”,行吗?
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

" 这辈子没机会真入伍,先整个‘电子军装’过把瘾 ""AI 一键让我穿上了绿色的军装,圆了我儿时梦 "" 体验一下穿上警服抓人的样子,帅气吗 " ……近期,AI 生成的 " 军装照 "" 警察抓人照 " 在短视频平台爆火,用户上传照片即可轻松 " 变身 "。

多位专家接受《法治日报》记者采访时指出,技术本无善恶,绝大多数网友借此表达对军人、警察崇高职业的向往与敬仰之情,满足了普通人体验荣誉感的精神需求,无可厚非。但部分网友 AI" 换装 " 军人、警察照片、制作视频,使用不良姿态、配上烟酒,混淆军种、配发虚假案情等,不当消费甚至亵渎军人、警察形象,触碰法律红线,更潜藏多重社会风险,亟待加强规范与治理。

AI 换装乱象丛生

记者发现,短视频平台上 "AI 军装照 " 制作教程流行,用户只需上传一张照片,即可一键生成军装照,有些照片还会配上坦克车、阅兵场等背景,看上去英姿飒爽。还有不少人发视频教学:" 网上很火的 AI 变身军装特效,很多人找不到制作入口,三秒教会你如何制作,学会快去试试。"

类似的," 一键生成警察抓人 " 特效也广受欢迎。有用户设定如 " 因酒量差被带走 "" 因打麻将赌博被抓 " 等戏谑或虚构的案情,生成自己被抓捕的图片或视频。

细观这些 AI 生成的 " 军人 "" 警察 " 形象,问题重重。有业内人士举例说,有的混淆军种制式乱搭乱配,有的勋章军衔是错误的,不符合《中国人民解放军内务条令》等规定的着装规范。

图源:视觉中国

记者也注意到,网友发布的一些 AI 生成的 " 军人形象 ",有的勾肩搭背、站姿懒散、坐姿浮夸,有的手中拿着烟酒,一副 " 混混形象 ",与军人应有的严整军容相去甚远。

还有些用户上传的并非自己照片,而是他人或者明星的照片。对此,北京市盈科律师事务所高级合伙人王风和告诉记者,AI 生成的图片或视频中,若人物形象可被识别,且未经本人同意,依据民法典规定,未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。这种行为已经侵害了他人肖像权。

法律风险不容忽视

对于上述 AI" 换装 " 乱象,多数网友认为,这是对军人、警察形象的不当消费和亵渎,应当依法进行整治,净化网络环境;也有少数网友认为,只是闹着玩,没必要上纲上线。

多位受访专家认为,上述 AI" 换装 " 乱象,不仅损害了军人、警察职业的庄重感,模糊了虚拟与现实的界限,会引发一系列社会危害,也涉嫌触犯了法律红线。

中国传媒大学文化产业管理学院法律系教授周丽娜说," 换装 " 乱象的社会危害在于——

导致公信力受损。虚假内容的大肆传播,将逐渐降低公众对军人、警察职业的信任程度,降低民众对执法行为的敬畏感,进而产生干扰正常执法工作的行为,影响法律的权威性与执行效能;

存在引发社会秩序混乱的潜在风险。" 假执法视频 " 的传播可能误导公众,引发不必要的恐慌,甚至可能诱发群体性事件,威胁社会稳定,扰乱正常的社会秩序;

产生技术滥用的示范效应。降低伪造内容的制作门槛,让更多人能够轻易制作并传播虚假信息,这不仅会助长灰色产业链的扩张,还可能导致更多不法分子跟风效仿,从而进一步加剧信息环境的混乱。

" 军人、警察等特殊群体,承担着处理国家公共事务、维护公共安全与公共利益的职责,有明确的制式服装着装规范。在未获得有关授权的情况下,若用 AI 生成某些能够清晰表明其身份的图片和视频,或蓄意捏造、传播与其职业形象不符的内容,将面临不同程度的法律风险。" 周丽娜说。

她进一步分析道,依据国防法、军人地位和权益保护法的相关规定,军人应当受到全社会的尊崇;按照《互联网军事信息传播管理办法》,互联网军事信息服务提供者和用户使用深度合成、生成式人工智能等新技术新应用,不得损害人民军队形象。相关法律法规明确保护军人荣誉,若利用 " 换装 " 生成的内容损害军人形象,同样会受到相应的处罚。

" 生成警察抓人视频并配上所谓警情通报,若内容虚假,涉嫌违反《生成式人工智能服务管理暂行办法》中关于不得生成虚假有害信息的规定。若有人借此进行诈骗或勒索他人财物,可能构成诈骗罪或敲诈勒索罪。警服、军装等有特定设计,受法律保护。若 AI 软件在生成图片和视频时,未经授权使用受版权保护的素材,如警服细节设计、特定字体的警情通报格式等,可能侵犯版权方权益。" 王风和说。

平台或担连带责任

受访专家认为,除用户外,对于类似图片和视频的制作和传播,平台和 AI 软件公司都应依法承担相应法律责任。

在王风和看来,根据《生成式人工智能服务管理暂行办法》,平台作为生成式人工智能服务提供者,若未对违法内容采取停止生成、停止传输、消除等处置措施,未向有关主管部门报告,需承担法律责任;平台还需按照规定对生成内容进行标识,若未标识导致公众混淆或误解,也违反了《互联网信息服务深度合成管理规定》。

此外,若平台明知用户利用其服务实施违法违规行为,却未依法依约采取警示、限制功能等处置措施,需承担相应连带责任。

完善立法合规审查

受访专家指出,治理此类乱象需压实各方责任,形成合力,在尊重法律与职业尊严的前提下,引导技术发挥积极价值。

周丽娜建议,在制度层面进一步健全法律法规。明确 AI 生成特殊公职人员形象的使用界限、责任划分以及法律后果,特别是针对损害公职人员形象、滥用职业标识等行为,细化法律条文,提升法律的针对性与可操作性。落实标识制度,严格遵循《人工智能生成内容标识办法》,确保 AI 生成的涉及公职人员形象的内容均添加 "AI 生成 " 标识,涵盖显式标识和隐式元数据,便于公众识别,减少误解和虚假信息的传播。

图源:视觉中国。本图片是创作者利用第三方 AI(人工智能)工具生成技术辅助创作而成的数字艺术作品

从操作层面而言,作为产品研发者,应精心做好产品设计,严格把控训练数据的入口以及 AI 生成的出口。要始终将合规性放在首要位置,不为流量和娱乐因素所干扰。相关主管部门在审核 App 时,对于涉及生成特殊公职人员形象的人工智能产品,需强化模型的合规性审查。同时,可以设置技术门槛,要求相关应用程序具备一定的合规检测功能后,方可上线运营。

从平台层面来说,平台需切实履行主体责任,对 AI" 换装 " 相关内容设置显著标识,并建立审核机制。对于存在公职人员形象误用、虚假包装、侵犯他人权利等问题的内容,应及时下架封禁。进一步提升技术审核能力,充分利用人工智能技术优势,开发更为精准的内容审核算法,通过图像识别、语义分析等技术,对 AI" 换装 " 生成的内容进行实时监测,及时发现违法违规内容。在用户使用相关功能前,以弹窗等形式提示法律风险和使用规范。

" 还应加强对公众的法治教育和职业尊重教育,提高民众对军人、警察等职业形象重要性的认识,以及对相关法律规定的了解,引导民众自觉抵制和不传播不当内容。同时向公众普及 AI 内容的识别方法,降低被骗、被误导风险。" 王风和说。

你用过 "AI 换装 " 的功能吗?

体验如何?

评论区说说

黄仁勋:将开始向中国市场销售 H20 芯片

责任心太强的人为什么容易受累不讨好

监 制丨李绍飞

            编 辑丨应凰               

  审 校丨寒冬    

来 源丨法治日报

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 短视频 教学 中国传媒大学 民法典
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论