快科技 9 月 16 日消息，据报道，OpenAI 内部存在一个名为 Project Lily 的项目，雇佣数百名合同工人工审阅 ChatGPT 用户的聊天记录，以此来改进模型回复质量。

这些合同工被称为提示词审核员，工作内容是查看匿名后的真实聊天，评估 ChatGPT 回复的质量，判断是否真正回答了问题，是否存在 AI 腔调、居高临下的语气、表情符号滥用或阿谀奉承。

审核标准明确禁止拟人化表达和编造个人经历，如 ChatGPT 可以说 " 我找到了一些信息 "，但不能说 " 作为一名厨师，我喜欢…… " 或 " 我知道那是什么感觉 "。

一位审核员形容工作非常机械，虽然时薪超过 50 美元，但审核指南经常变动且自相矛盾。

令人担忧的是，许多用户会把 ChatGPT 当作临时朋友或心理咨询师，从而在对话中倾吐深层秘密。审核员表示，大多数用户并不知情自己的聊天正在被他人阅读。

虽然聊天记录经过匿名化处理且审核员看不到用户名，但 OpenAI 向 404 Media 承认，这种处理有可能会遗漏掉部分个人信息，短对话尤其容易遗漏。

此外交给审核员的版本还包含一份用户记忆摘要，汇总了用户的提问兴趣、上下文甚至可能的位置信息。

这一项目也戳破了 AI 公司的技术形象：模型并非仅靠技术进步和更好的训练数据提升，仍然需要大量人工介入。

而且大多数聊天机器人会默认启用 " 允许使用你的对话改进产品 " 选项，包括许多付费计划。已存入数据库的聊天除非用户主动删除否则仍会保留，但即便删除，聊天可能已被采集和匿名化，存在于某个数据集中。

OpenAI 最初对 404 Media 的询问没有回应，后来提供了一条 FAQ 链接，该页面至少存在两年，报道发表后 OpenAI 更新了帮助页面，但文中未提及人工审核。

Google Gemini 在隐私中心则明确表示 " 人工可能会审阅部分已保存的聊天 "，Anthropic 也有类似页面，Perplexity 的态度则不明确。

【本文结束】如需转载请务必注明出处：快科技

责任编辑：黑白