4 月 17 日消息,一项最新调查显示,苹果 与 谷歌 的应用商店系统,正在通过搜索与广告机制,间接提升一类 "AI 去衣化 "(nudify)应用的曝光度与传播范围。
根据科技监督机构 Tech Transparency Project 发布的报告,这类应用利用生成式人工智能对真实人物照片进行篡改,使其呈现出裸露或带有性暗示的效果,甚至可生成相关视频或聊天内容。尽管两家公司均明确禁止开发 " 非自愿性性化图像 " 的应用,但相关产品仍在平台上存在。
报告指出,在应用商店中搜索 "nudify""undress" 等关键词时,系统不仅会返回相关应用,还会通过自动补全与广告推荐进一步引导用户下载。这种平台级分发机制被认为在客观上放大了相关应用的触达范围。
调查显示,Apple App Store 上识别出 18 款此类应用,Google Play 上则有 20 款。部分应用以明显性暗示内容进行推广,另一些则表面中性,但同样具备生成相关图像的功能。数据统计显示,这些应用累计下载量已达约 4.83 亿次,生命周期收入超过 1.22 亿美元。
报告还指出,其中有 31 款应用被标注为适合未成年人使用,这一情况引发外界对校园场景中 " 深度伪造性内容 " 风险的担忧。
在报告发布后,两家公司已采取部分下架措施:苹果删除了 15 款相关应用,谷歌删除了 7 款。但调查认为,平台推荐机制本身仍存在漏洞。
监管层面,相关问题正在引发更广泛关注。美国部分州正推动立法限制此类应用,英国监管机构也呼吁全面禁止,认为其可能助长针对未成年人的深度伪造性侵害行为。(AI 普瑞斯编译)


登录后才可以发布评论哦
打开小程序可以发布评论哦