给chatgpt“找茬”,openai训练criticgpt模型以检索输出内容错误-爱游戏官网

业界
2024
06/28
12:39
it之家
分享
评论

6 月 28 日消息,当地时间 27 日,openai 宣布基于 gpt-4 训练了一个名为 criticgpt 的模型,用于查找 chatgpt 聊天机器人输出内容中的错误。它可以撰写评论,强调 chatgpt 生成答案中不准确的地方。

据介绍,criticgpt 旨在协助人类 ai 训练员完成工作 —— 使用一种名为“从人类反馈中强化学习(it之家注:reinforcement learning from human feedback,rlhf)”的技术来训练、改进 gpt-4 的回答。

然而随着 chatgpt 的准确性日益提升,错误越来越隐蔽,导致 ai 训练员的工作越来越“难做”。openai 对此解释称,这是 rlhf 的基本局限之一 —— 模型逐渐变得比任何可以提供反馈的人都更博学,模型的协调可能也会随之变得越来越困难。

目前,当 criticgpt 试图从 chatgpt 的回答中发现错误时,它的一双“鹰眼”就会发挥作用。openai 指出,现实世界中的错误可能遍布答案的多个部分,这是 criticgpt 未来需要解决的问题。“我们的工作重点是可以在一个地方指出错误,但将来我们也需要解决分散的错误。”

【来源:it之家

the end
广告、内容合作请点击这里
免责声明:本文系转载,爱游戏ayx官网的版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

相关推荐

网站地图