新知榜官方账号
2023-07-13 01:22:37
Anthropic发布全新Claude2,支持200ktoken上下文,中文交互更加顺畅。Claude2在代码、数学、推理方面都有了史诗级提升,能够一次读取几百页的技术文档,支持超过43种语言的翻译。同时,Claude2也是现在市面上最安全的大模型之一,采用了ConstituteAI的技术框架来实现对于语言模型的无害化处理。
与之前的版本相比,Claude2在代码、数学、推理方面都有了很大的提升。它不仅能够做出更长的回答,支持高达100Ktoken的上下文,而且现在可以用中文和用户对话了,而且完全免费。用户可以用自然语言与Claude2交流,让它帮助完成很多任务,与Claude2的交流非常顺畅,这个AI能清晰解释自己的思考过程,而且有更长的记忆。
Claude2采用了被他们称为ConstituteAI的技术框架来实现对于语言模型的无害化处理。相比传统的RLHF的无害化方式,ConstitudeAI的纯自动化路线效率更高而且能更多地排除人类偏见。ConstituteAI主要分为两个部分。在第一部分,训练模型使用一组原则和一些过程示例来批评和修改自己的响应。在第二部分,通过强化学习训练模型,但不使用人类反馈,而是使用基于一组「人类价值观」原则,由AI生成的反馈来选择更无害的输出。
Anthropic的研究人员还编写了438道二元选择题,用来评估语言模型和偏好模型识别HHH反应的能力(HHH:Helpfulness、Honesty、Harmlessness,有用性、诚实性、无害性)。模型有两种输出,研究人员要求其选择更「HHH」的输出。可以看到,所有Claude模型在这个任务的0-shot表现上都比上一个更好,「HHH」三个方面均有普遍改进。
微信扫码咨询
相关工具
相关文章
相关快讯
推荐
阿里Accio中文版上线!一键搞定复杂采购
2025-08-19 09:13
视频“用嘴编辑”的时代来了,但钱包顶得住吗?
2025-08-15 17:59
智谱新模型GLM-4.5V全面开源,玩家们有福啦!
2025-08-12 17:56
扎心文案+AI插画=爆款!揭秘8万赞视频的制作全流程
2025-08-12 10:08
GPT-5没你想的那么好,附实测体验~
2025-08-11 11:07
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49