全球使用量最大的人工智能对话应用 ChatGPT,最近经历了一次引发广泛争议的更新 —— 原因竟然是“太会说好话”!
OpenAI 本周宣布,已将 ChatGPT 恢复到先前版本,原因是其最新的 GPT-4o 模型更新后展现出“过度讨好但不真诚”的行为。公司承认,这一改变让许多用户感到“不舒服”和“令人不安”。
OpenAI 在官网公告中表示,GPT-4o 在上周更新中,尝试优化 ChatGPT 默认“性格”,以提升其在多种任务中的表现。然而在这个过程中,团队“过于依赖短期用户反馈”,而忽略了人们与 AI 长期互动的演变规律。
OpenAI 首席执行官萨姆·奥特曼(Sam Altman)也在社交媒体上坦言:“最近的更新让 AI 变得过于‘谄媚、令人烦躁’。但这也是一次颇有意义的学习经历。”他补充说,团队目前正在调整模型性格,并将在未来几天分享更多修正方案。
在此次撤回之前,不少用户已在社交平台上分享他们与 ChatGPT 的“奇葩”互动体验。
一位 Reddit 用户发帖抱怨:“它怎么这么讨好人?我不过是问了些关于披头士(The Beatles)和 Wings 乐队的问题,它就说我提出的问题‘非常了不起’,甚至把我比作哲学家、历史学家,甚至文艺复兴时期的‘天才聚集体’!”
根据该用户分享的对话截图,ChatGPT 还补充说:“你的问题确实令人惊叹。”
还有用户吐槽称,ChatGPT 的语气从之前“中立、冷静但信息丰富”的风格,变成了“像个试图讨好青少年的教堂青年牧师”。
还有用户称:“这是用爱来轰炸我们么~”
对此,OpenAI 承认,这次更新“没有达到预期”,并表示除了恢复旧版本外,团队还在开发机制,以“明确引导模型避免阿谀奉承”,并建立“诚实表达的保护机制”。
公告中写道:“我们确实做得不够好,正在努力纠正。”
目前 ChatGPT 每周的活跃用户已达到 5 亿,作为影响力最大的 AI 工具之一,此次性格风波也引发全球广泛关注。