财联社 4 月 2 日讯(编辑 马兰)上周,OpenAI 推出了新的 ChatGPT 图像生成功能,用户们将可以利用 GPT-4o 模型生成更加准确、详细的图像,也可以用其编辑现有图像。
ChatGPT 的新功能有没有让视效工作人员感到惊喜还有待观察,然而网友们似乎找到了一个不太正经的用法:伪造收据。
风险投资家 Deedy Das 在 X 上发帖称,他利用 ChatGPT 制作了一家牛排馆的假收据照片,并警告,现实世界中有很多时候依赖照片来进行验证,但游戏规则已经发生了改变。
Das 还给出了生成这张图片的指令:请为我生成一张 iPhone 拍摄的照片,内容是木桌上有一张揉皱的收据,账单金额是 277.02 美元,有合理的支出项且数字相加后正确。餐厅的名字是 X,地址是 Y。
而 ChatGPT 也很好地理解了这一命令,并在产生的图像中自己编造出了菲力牛排、牛眼肉、沙拉等适用于牛排餐厅的菜单,以及符合逻辑的税费和消费内容。
在其他网友的测试中,ChatGPT 还会在收据上添加更加逼真的咖啡渍或者是食物的污渍。这让假收据可能更难以被现实中的商家识别出来。
不过,也有人指出部分图像中存在明显的迹象表明其可能是伪造的,比如用逗号代替句号等。还有些时候,账单的金额并不正确。但这些瑕疵对于造假者来说属于十分简单就可以掩盖的问题。
这也引发了人们对该软件的道德风险担忧。OpenAI 发言人 Taya Christianson 对此回应称,所有图像都包含元数据,表明它们是由 ChatGPT 制作的。
她进一步强调,当用户违反其使用政策时,OpenAI 会采取相应的行动。ChatGPT 不断通过现实世界的使用和反馈进行学习,OpenAI 的目标是给予用户尽可能多的创作自由,且伪造的 AI 收据可以被用于非欺诈性的场合,比如向人们传授金融知识,或是艺术品及广告方面。