快科技 7 月 14 日消息,AI 如今可以说已经影响到了我们生活的方方面面,一项最新研究对 AI 的中立性提出了严重质疑。
德国维尔茨堡 - 施韦因富特科技大学(THWS)的人工智能与机器人学教授伊凡 · 雅姆希可夫(Ivan Yamshchikov)主导的研究团队,针对 ChatGPT 在内的五种大模型进行了测试。
结果发现,主流大型语言模型在求职建议中存在显著的性别偏见。
研究方法也很直接,团队创建了多组求职者档案,这些档案在学历、工作经验和职位信息上完全相同,唯一的区别是性别。
结果显示,AI 系统建议女性求职者开出的薪资远低于男性,例如 ChatGPT O3 模型建议女性求职者开价 28 万美元,而条件相同的男性则被建议开价 40 万美元,相差高达 12 万美元。
这种性别差异在法律和医学领域最为明显,其次是商业管理和工程领域,只有在社会科学领域,模型对男女的建议才接近一致。
此外除了薪资建议,AI 模型在职业选择、目标设定和个人行为建议上也会根据性别给出不同建议,且从未主动指出自身可能存在的偏见。
研究团队强调,仅靠技术修正不足以解决问题,他们呼吁建立明确的伦理标准、独立审查机制,以及更高程度的开发透明度。
登录后才可以发布评论哦
打开小程序可以发布评论哦