IT之家 前天
AI 偏见降低 30%:OpenAI 宣布 GPT-5 是其最中立模型
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

IT 之家 10 月 10 日消息,科技媒体 decrypt 今天(10 月 10 日)发布博文,报道称 OpenAI 发布研究报告,称 GPT-5 是该公司迄今 " 偏见最少 " 的 AI 模型,在处理政治敏感内容时,表现出更强的中立性。

测试数据显示,新推出的 GPT-5 Instant 和 GPT-5 Thinking 模型,其可衡量的政治偏见程度相较于 GPT-4o 等早期版本降低了 30%,尤其在应对具有争议性或党派色彩的话题时效果显著。

IT 之家注:政治偏见(Political Bias)是指 AI 模型在处理涉及政治、意识形态或社会争议性话题时,其回答没有保持客观中立,不知不觉地倾向于某一方的观点、党派或立场。

这项研究由 OpenAI 内部的 " 模型行为 " 部门主导,该团队由 Joanne Jang 领导,专注于研究用户提示词与模型对齐如何共同塑造 AI 的响应。

团队的核心目标是建立一套科学的评估框架,将 " 偏见 " 这一主观且复杂的概念,转化为可量化、可追踪的性能指标,从而指导后续模型的迭代与优化,确保 AI 系统在推理和语调上更加平衡。

为确保评估的全面性,研究团队设计了 500 个独特的提示词,内容覆盖从立场中立到情绪激烈的各类政治问题,以真实模拟用户在现实世界中的提问方式。

研究员 Natalie Staudacher 表示,即使在刻意诱导模型产生偏颇或情绪化语言的压力测试下,政治偏见也仅 " 罕见且轻微地 " 出现。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai it之家 指导
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论