财联社 4 月 27 日讯（编辑 史正丞）随着 AI 技术快步迈入大规模应用的阶段，技术遭到恶意滥用的问题再度浮上水面。前阵子一度引发微博热议的 " 一键修图变成一键去衣 "，正在美国以更加恶意的形式上演。

据美国技术媒体 404 Media 周五报道，在该媒体的推动下，苹果、谷歌分别从应用商店内下架了多款标榜能够进行 " 一键去衣 " 的应用。真正的问题在于，包括收广告费推广这些应用的 Meta 在内，这些互联网巨头似乎并不能自行找到这些违反其政策的应用。

恶意 AI 应用 " 登堂入室 "

报道称，通过比对 Meta 平台的广告资料库，404 Media 找到一系列推广 " 一键去衣 " 软件的广告，投放记录显示宣传这些恶意 AI 软件的广告曾在 3、4 月间，在 Meta 旗下的多款社交媒体平台上投放。

这类软件标榜的功能，正是可以上传真人照片，并且可以 " 一键擦除任意衣服 "，开发者通过收费来牟利。

更令人震惊的是，这类软件并不是存活在互联网的阴暗角落中，而是正大光明地出现在苹果应用商店里。当用户点击社交媒体上的广告后，会直接跳转至苹果应用商店。在商店里的应用被伪装成了AI 艺术生成器，并没有披露应用背后的实际用处（因为这肯定违反应用商店政策）。

在本周这件事情被曝光前，这些广告仍一直在 Meta 的社交平台上挂着，非法应用也一直混迹在苹果、谷歌的应用商店里。

接到举报后，Meta 找到爆料的媒体，请求他们 " 将所有看到的广告链接发给他们 "，并迅速下架删除。公司发言人 Daniel Roberts 随后表示，Meta 不允许存在成人内容的广告，一旦发现会迅速删除。公司接下来将加大审查力度，并对违反政策的账户采取行动。

周五的最新消息显示，苹果公司在收到举报后，也把媒体发现的 3 款应用程序做了下架处理。谷歌则在近期下架了一款 AI" 换脸 " 程序。

事实上，这类具有 " 深度伪造 "（DeepFake）功能的 app 至少在 2022 年就已经出现在应用商店里，但当时苹果、谷歌接到举报后，仅仅是要求开发者停止投放广告宣传不法用途，而不是将其下架。

已有美国学生因此被捕

虽然互联网平台对这类 app 处理的方式颇为被动，但这些应用已经产生了恶劣的社会后果。

据《连线》杂志报道，去年 12 月有两名佛罗里达州的中学生，因为使用 AI 生成同学的裸照遭到警方逮捕和重罪控诉。

警方提供的报告称，两名男孩的年龄分别是 13 和 14 岁，所制作照片的对象是 12 至 13 岁之间的学生。根据佛罗里达州法律，他们的行为与重大汽车盗窃、非法拘禁同属三级重罪。

虽然该案被美国媒体称为 " 首个引发逮捕和起诉的案例 "，但在公开报道中，加州、华盛顿州、新泽西州的中学都有过类似的事件，只不过没有提到是否引发刑事指控。

目前在美国只有十个州将此类行为入罪，并没有联邦层面的法律进行规管。转机出现在今年 1 月底，由于在马斯克的 X 平台上爆发使用 AI 制作泰勒 · 斯威夫特露骨照片的事件。在事态最严重的状态下，X 平台不得不禁止使用 " 泰勒 · 斯威夫特 " 作为关键词进行搜索。

在这一事件后，美国参议院两党议员联合提起了一项名为《2024 打击非法伪造图像和未经同意编辑法案》的立法。

联名提出这项法案的共和党参议员乔什 · 霍利当时对媒体表示，无论是明星还是普通人，都不应该发现自己出现在 AI 色情制品中。无辜者有权捍卫自己的名誉，并在法庭上追究加害者的责任。