新知榜官方账号
2023-09-25 17:40:33
OpenAI发布名为ChatGPT的新模型,它以对话的方式进行交互,并具有承认错误、挑战前提和拒绝不适当请求等特点。这种对话允许ChatGPT回答后续问题,不同于别的语言模型胡编乱造。当它不知道自己在说什么时,它承认不知道。此外,ChatGPT拒绝回答它没有受过训练的问题,例如,它不会试图回答有关2022年之后发生的事件的问题。它也不会回答关于个人的问题。这个模型可以帮助用户解决代码问题、写简介等任务。
ChatGPT有时会写出看似合理但不正确或荒谬的答案。解决这个问题非常具有挑战性,因为:RL训练期间需要现实世界的数据,但目前没有来源;模型被训练得过于谨慎导致它拒绝回答可以正确回答的问题;(3)监督训练会影响模型的性能,因为理想情况是模型知道正确答案是什么,而不是人类演示者知道是什么。ChatGPT对调整输入措辞或多次尝试相同的prompt很敏感。例如,给定一个问题,模型可以声称不知道答案,但只要对问题稍作改写,模型就就可以正确回答。模型的回答通常过于冗长并过度使用某些短语,例如重申它是OpenAI训练的语言模型。这些问题源于训练数据(训练者喜欢看起来更全面的长答案)和过度优化。理想情况下,当用户提供模棱两可的查询时,模型会提出质疑,然而ChatGPT目前是自行猜测用户的意图。虽然该研究已努力使模型拒绝不当请求,但它有时会回复有害指令或给出有偏见的回答。研究团队正在使用ModerationAPI来警告模型或阻止某些类型的不安全内容,并试图收集用户反馈来进一步改进该系统的工作。
微信扫码咨询
相关工具
相关文章
相关快讯
推荐
阿里Accio中文版上线!一键搞定复杂采购
2025-08-19 09:13
视频“用嘴编辑”的时代来了,但钱包顶得住吗?
2025-08-15 17:59
智谱新模型GLM-4.5V全面开源,玩家们有福啦!
2025-08-12 17:56
扎心文案+AI插画=爆款!揭秘8万赞视频的制作全流程
2025-08-12 10:08
GPT-5没你想的那么好,附实测体验~
2025-08-11 11:07
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49