LLaMA2语言模型介绍及相关资源

新知榜官方账号

2023-09-19 03:12:28

LLaMA2是什么？

Meta发布了LLaMA2，这是一种最先进的新型开放大语言模型(LLM)。LLaMA2代表LLaMA的下一代版本，并附带商业许可。LLaMA2有3种不同的尺寸-7B、13B和70B参数。与原始LLaMA相比，新的改进包括：使用2万亿个文本数据进行训练，允许商业用途，使用4096个默认上下文窗口（可以扩展），使用RoPE缩放4位量化，超越4ktoken限制70B模型采用分组查询注意力（GQA），适用于HuggingFaceHub。

LLaMA2在线体验

有几个不同的游乐场可用于测试与LLaMA2Chat的交互：HuggingChat、HuggingFaceSpaces、Explorellamav2with_TGIPerplexity、7B-chat、13B-chat和70B-chat。这些提供了一种查看聊天机器人运行情况的简单方法。

LLama2模型选择

如果你正在寻找特定的开源LLM，你会发现有很多变体。GPTQ版本、GGML版本、HF/基本版本。我们应该选择使用哪个版本？按一般规则：如果你有很多VRAM，请使用GPTQ，如果你的VRAM最小，请使用GGML，如果你想要原始模型，则使用基本的HuggingFace模型，而量化造成的智能损失可以忽略不计。

LLaMA2背后的研究

LLaMA2是一个基本的LLM模型，并根据在线公开数据进行了预训练。此外，Meta还发布了CHAT版本。CHAT模型的第一个版本是SFT（监督微调）模型。之后，LLaMA-2-chat通过人类反馈强化学习（RLHF）进行迭代改进。RLHF流程涉及拒绝采样和近端策略优化(PPO)等技术，以进一步完善聊天机器人。

LLaMA2基准测试

Meta声称“Llama2在许多外部基准测试上都优于其他开源语言模型，包括推理、编码、熟练程度和知识测试”。您可以在拥抱开放LLM排行榜中找到有关性能的更多见解。

使用Prompt与LLaMA2聊天

LLaMA2Chat是一种开放的对话模型。与LLaMA2Chat有效互动需要提供正确的提示和问题，以产生连贯且有用的响应。单轮和多轮对话的提示模板遵循模型的训练过程，如LLaMA2论文中所述。

如何训练LLaMA2

LLaMA2是公开可用的，因此可以轻松使用PEFT等技术进行微调。有大量资源可用于训练您自己的LLaMA2版本。

如何部署LLaMA2

LLaMA2可以使用HuggingFaceInferenceEndpoints等托管服务或通过AWS、GoogleCloud和MicrosoftAzure等云平台部署在本地环境(llama.cpp)中。使用文本生成推理和推理端点部署LLaMa2。

LLama2在线API接口

replicate提供了基于Llama2Chat在线微调的API接口，可以使用ReplicateAPI运行Llama2。

References

本文包含了LLaMA2的官方公告、论文、提示模板等相关资源。

本页网址：https://www.xinzhibang.net/article_detail-12360.html

寻求报道，请

关键词

LLaMA2 语言模型 Meta 预训练模型微调模型 API接口

分享至微信：

相关工具

ChatGLM

开源的、支持中英双语的1300亿参数的对话语言模型

Poe

问答社区Quora推出的问答机器人工具

商量SenseChat

商汤科技推出的类ChatGPT的人工智能大语言模型

TigerBot

虎博科技推出的AI对话聊天机器人，基于TigerBot开源大模型

Inworld

开发和创建AI虚拟角色并与其互动

Neeva

集成了AI问答的AI搜索引擎

OpenAI面临分崩离析危机，Claude2.1和StableVideoDiffusion发布，生成式AI大戏仍在继续

过去几天，作为新一轮AI浪潮的领头羊，OpenAI面临一次的分崩离析的重大危机，从董事会宣布辞退创始人兼CEOSamAltman，到回归又被否，期间还经历了多次反转，包括Altman加入微软、员工逼宫、与Anthropic（Claude）合并等。到了北京时间11月22日下午，OpenAI又表示原则上

分类标签 OpenAIClaude2.1StableVideoDiffusionAI浪潮大模型生成式AI

11-23 10:04

如何更好地使用Claude，以及一些使用技巧

如何更好地使用Claude，以及一些使用技巧作为ChatGPT的竞品，Claude有着不俗的实力，同时它也是目前唯一能在国内网络环境下免费使用的国外AI工具。它可以帮助你在各种场合进行聊天、写文章、整理资料和学习知识。下面我们将介绍一些如何更好地使用Claude的技巧：1. 正确的使用方式在使用Cl

分类标签 ClaudeAI工具聊天写文章整理资料学习知识

11-23 10:03

2023年顶级LLM聊天机器人排名

LLM聊天机器人的兴起在2023年，大型语言模型（LLM）的兴起对人工智能领域产生了深远的影响。LLM经过大量文本和代码数据集的训练，可以生成文本、翻译语言、编写不同类型的创意内容，并以信息丰富的方式回答您的问题。其中，聊天机器人是LLM最令人兴奋的应用之一，它是可以模拟与人类对话的计算机程序。20

分类标签 LLM聊天机器人人工智能

10-25 10:21

StabilityAI推出基于Web的聊天界面StableChat

StabilityAI推出基于Web的聊天界面StableChatStabilityAI是图像生成AIStableDiffusion的开发商，其最近推出了开放访问的语言模型StableBeluga的基于Web的聊天界面StableChat。StableBeluga是HuggingFace排行榜上表现

分类标签 StabilityAI语言模型StableBeluga

10-25 10:20

AI独角兽Character.AI谈判筹集数亿美元新资金，估值或达60亿美元

近年来，随着AI技术的不断发展，越来越多的AI独角兽企业正在崛起。其中，生成式AI独角兽企业Character.AI备受关注。据媒体报道，该公司正在进行早期谈判，以筹集数亿美元的新资金，这笔交易可能将这家初创公司的估值推至50亿至60亿美元之间。Character.AI成立于2021年，由前谷歌员工

分类标签 AI独角兽Character.AI生成式AI

10-13 02:52

StabilityAI推出开源大语言模型StableLM，叫板ChatGPT

StabilityAI推出开源大语言模型StableLM，叫板ChatGPT StabilityAI于4月19日推出了开源大语言模型StableLM，挑战ChatGPT。据StabilityAI官网介绍，StableLM的Alpha版本中拥有30亿和70亿参数，后续还将推出150亿至650亿参数的版

分类标签 StabilityAI开源大语言模型StableLMChatGPTStableDiffusion

10-08 03:26

AI声音克隆：逝去的记忆复活，法律和伦理问题随之而来

背景1970年4月，披头士乐队解散，数百万歌迷们伤心不已。50多年后的今天，人工智能（AI）正在将“逝去的记忆”复活，重新创作和重新想象披头士乐队的演唱。然而，AI声音克隆得如此逼真也引发了一系列伦理和法律问题，甚至导致了电信诈骗的出现。最新报告显示，2022年澳大利亚人因诈骗损失了创纪录的31亿美

分类标签 AI声音克隆电信诈骗音乐版权

10-02 01:28

AI创作的版权问题：人类创作力的界定争议

AI创作的版权问题：人类创作力的界定争议AI创作的版权问题引发争议，如何界定人在AI创作过程中所表达的思想和创造力成为争议点。本文通过多个案例说明，AI生成内容是否应受版权保护存在争议，同时介绍了AI音乐在格莱美奖上的提名情况以及AI生成音乐带来的侵权问题。AI创作的版权争议案例艺术家Jason A

分类标签 AI版权问题创作力人工智能艺术音乐

10-02 01:26

AI独角兽Character.AI正在进行数亿美元的新融资，估值或将达到60亿美元

近日，生成式AI独角兽企业Character.AI正在进行早期谈判，以筹集数亿美元的新资金。据报道，本次交易可能将这家初创公司的估值推至50亿至60亿美元之间。Character.AI是生成式AI领域的早期宠儿，吸引了大量投资者的兴趣。今年3月份，Character.AI完成了一笔1.5亿美元的融资

分类标签 AI独角兽Character.AI新融资

09-29 23:02

HuggingFace发布人工智能聊天机器人HuggingChat，成为OpenAI的竞争对手

4月30日消息，据外媒报道，人工智能公司HuggingFace发布了HuggingChat，这是OpenAI流行的人工智能聊天机器人ChatGPT的开源竞争对手。HuggingChat现在可以通过该公司的网站向公众开放，它可以通过HuggingFace应用程序编程接口与第三方应用程序和服务连接。Hu

分类标签 HuggingFaceHuggingChatOpenAI

09-21 17:18

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway