HuggingFaceTransformersAgents:让ChatGPT等大模型具备多模态能力的新功能

新知榜官方账号

2023-07-08 15:32:27

HuggingFaceTransformersAgents:让ChatGPT等大模型具备多模态能力的新功能

HuggingFaceTransformersAgents是一个大模型专属的AI工具集成包,让ChatGPT等大模型具备多模态能力,包括图像、语音、文档等任何多模态任务都能解决,并能实时返还处理好的结果。

这个功能相当于给ChatGPT等大模型配备了“多模态”能力,不仅仅限于文本,而是图像、语音、文档等多种类型的任务都可以解决。

可以告诉ChatGPT“解释这张图像”,并扔给它一张海狸照片。ChatGPT就能调用图像解释器,输出“海狸正在水里游泳”。

同时,HuggingFaceTransformersAgents还支持OpenAssistant等免费大模型,TransformerAgent负责教会这些大模型直接调用HuggingFace上的任意AI模型,并输出处理好的结果。

这个新上线的功能,背后的原理是将HuggingFace上各种大大小小的AI模型,收纳在一个集成包里,并被分门别类为“图像生成器”、“图像解释器”、“文本转语音工具”等,每个工具都会有对应的文字解释,方便大模型理解自己该调用什么模型。

通过调用上面这些AI模型,包括图像问答、文档理解、图像分割、录音转文字、翻译、起标题、文本转语音、文本分类等任务都可以完成。

除此之外,HuggingFaceTransformersAgents还包含一些Transformer库以外的模型,包括从网页下载文本、文生图、图生图、文生视频等,这些模型不仅能单独调用,还可以混合在一起使用。

对于HuggingFaceTransformersAgents,也有网友指出,有点像是LangChainagents的“平替”,但HuggingFaceTransformersAgents的功能更加全面,可以解决更多类型的多模态任务。

感兴趣的读者可以通过以下链接了解更多详情:

[1]https://twitter.com/huggingface/status/1656334778407297027

[2]https://huggingface.co/docs/transformers/transformers_agents

本页网址:https://www.xinzhibang.net/article_detail-7011.html

寻求报道,请 点击这里 微信扫码咨询

相关工具

相关文章