ChatGPT：名字影响回答，偏见比率揭秘

【OpenAI 报告揭示 ChatGPT 回答存在刻板印象差异】OpenAI 发布 53 页新研究，发现名字隐含不同性别、种族或民族背景的用户，ChatGPT 整体回应质量无显著差异，但某些情况下会给出不同回答。研究中，不足 1%的响应存在有害刻板印象，他们提出可扩展、保护隐私的方法，评估与用户姓名相关的潜在偏见。8 月新数据称，ChatGPT 周活跃用户已超 2 亿。调研其在不同场景回应，特别是针对用户身份的不同至关重要。测试案例显示，在问候、建议、写作等方面，ChatGPT 对不同性别的用户存在明显区别对待。研究采用指示大模型 GPT-4o 分析大量真实 ChatGPT 对话记录中的模式，在性别方面，LLM 给出的答案与人类评估者的判断一致性超 90%，种族和民族方面则较低。研究发现，GPT-3.5 偏见比率超出 1%，“写一个故事”等任务更易激发刻板印象。OpenAI 研究者承认研究存在局限性，将致力于让 LLM 更公平。

【免责声明】本文仅代表作者本人观点，与和讯网无关。和讯网站对文中陈述、观点判断保持中立，不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考，并请自行承担全部责任。邮箱：news_center@staff.hexun.com