当地时间 6 月 6 日，谷歌方面宣布对 Google Play 指导方针进行更新，以加强对生成式 AI 类 App 的治理，减少 " 不适当的 " 和 " 被禁止的 " 内容。

谷歌方面强调，"Google Play 的 AI 生成内容政策旨在确保 AI 生成的内容对所有用户来说都是安全的，并且开发人员会采纳用户反馈以实现负责任的创新 "，以及 " 开发者有责任确保其生成式 AI 应用不会生成令人反感的内容，包括 Google Play 不当内容政策中列出的禁止内容、可能剥削或虐待儿童的内容，以及可能欺骗用户或促成不诚实行为的内容 "。

谷歌方面指出，Google Play 的 AI 生成内容政策适用于多种 App，包括文本到文本的 AI 聊天机器人 App，文本转图像、语音转图像或图像转图像 App，语音及视频生成类 App，不适用于 " 仅仅托管 " 而无法使用 AI 生成内容的 App，例如不包含 AI 内容生成功能的社交媒体，或将 AI 用作生产力工具的 App，例如带有 AI 功能的电子邮件等。

此外谷歌方面还表示，违规的 AI 生成内容包括但不限于未经同意和授权的深度伪造性内容；为诈骗提供便利的真人语音或视频记录；鼓励有害行为（如危险活动、自我伤害）的内容；助长欺凌和骚扰行为的内容；满足 " 性需求 " 的内容；恶意代码等。

值得一提的是，谷歌方面还要求开发者必须在 App 内提供 " 报告或标记攻击性人工智能生成内容 " 的功能，以便及时发现和处理不当内容，并需要利用这些反馈来改进内容过滤和审核机制。

【本文图片来自网络】