新知榜官方账号
2023-10-18 01:26:14
MIT提出了一种新的大模型优化策略,基于博弈论制定的均衡排名。在多个测试数据集上,均衡排名优化方式的效果显著优于其他方式,甚至其他模型。
均衡排名优化法基于博弈论,将大模型语言解码过程转化为正则化不完全信息博弈。生成器和判别器掌握着不同的信息,扮演不同角色。在执行重复的生成和判别中,模型的目标是达到纳什均衡。在纳什均衡策略组合下单方面改变自己的策略,而其他玩家策略不变,都不会提高自身的收益。
达到纳什均衡后,生成器和判别器的策略便确定,会分别对候选答案进行打分,然后进行排序选出最佳答案。在纳什均衡条件下,二者的评分应当是一致的,如果不一致,答案便会被剔除。
为了避免二者同时出错的情况出现,开发者还引入了正则化纠错机制。向生成器和判别器基于客观事实的先验策略,而不是任由其随机初始化。这些先验策略是生成器和判别器生成策略的“金科玉律”,引导了策略的优化方向。在此还有一种KL惩罚策略,当新的策略出现时,会计算其与初始策略的KL散度(又叫相对熵)。这一结果会加入到生成新策略的函数当中,避免了最终生成的结果偏离客观事实。
均衡排名优化后的Llama在常识推理、阅读理解、数学和对话任务中的表现都十分出色。优化后的Llama成绩也超过了其他模型。
相关工具
相关文章
相关快讯
推荐
阿里Accio中文版上线!一键搞定复杂采购
2025-08-19 09:13
视频“用嘴编辑”的时代来了,但钱包顶得住吗?
2025-08-15 17:59
智谱新模型GLM-4.5V全面开源,玩家们有福啦!
2025-08-12 17:56
扎心文案+AI插画=爆款!揭秘8万赞视频的制作全流程
2025-08-12 10:08
GPT-5没你想的那么好,附实测体验~
2025-08-11 11:07
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49