8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

感兴趣的小伙伴,可以跟着操作过程试一试。前段时间,Mistral AI 公布的 Mixtral 8x7B 模型爆火整个开源社区,其架构与 GPT-4 非常相似,很多人将其形容为 GPT-4 的「缩小版」。我们都知道,OpenAI 团队一直对 GPT-4 的参数量和训练细节守口如瓶。Mistral 8x7B 的放出,无疑给广大开发者提供了一种「非常接近 GPT-4」的开源选项。在基准尝试中,Mistral 8x7B 的表现优于 Llama 2 70B,在大多数标准基准尝试上与 GPT-3.5 不相上下,甚至略胜一筹。

感兴趣的小伙伴,可以跟着操作过程试一试。

前段时间,Mistral AI 公布的 Mixtral 8x7B 模型爆火整个开源社区,其架构与 GPT-4 非常相似,很多人将其形容为 GPT-4 的「缩小版」。

我们都知道,OpenAI 团队一直对 GPT-4 的参数量和训练细节守口如瓶。Mistral 8x7B 的放出,无疑给广大开发者提供了一种「非常接近 GPT-4」的开源选项。

在基准尝试中,Mistral 8x7B 的表现优于 Llama 2 70B,在大多数标准基准尝试上与 GPT-3.5 不相上下,甚至略胜一筹。

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理图源:https://mistral.ai/news/mixtral-of-experts/

随着这项研究的出现,很多人表明:「闭源大模型已经走到了结局。」

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

短短几周的时间,机器学习爱好者 Vaibhav (VB) Srivastav 表明:随着 AutoAWQ(支持 Mixtral、LLaVa 等模型的量化)最新版本的发布,现在用户可以将 Mixtral 8x7B Instruct 与 Flash Attention 2 结合应用,达到快速推理的目的,实现这一功能大约只需 24GB GPU VRAM、不到十行代码。

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

图源:https://twitter.com/reach_vb/status/1741175347821883502

AutoAWQ 地点:https://github.com/casper-hansen/AutoAWQ

操作过程是这样的:

首先是安装 AutoAWQ 以及 transformers:

pip install autoawq git+https://github. com/huggingface/transformers.git

第二步是初始化 tokenizer 和模型:

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

第三步是初始化 TextStreamer:

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

第四步对输入进行 Token 化:

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

第五步生成:

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

当你配置好项目后,就可以与 Mixtral 进行对话,例如对于用户要求「如何做出最好的美式咖啡?通过简单的步调完成」,Mixtral 会按照 1、2、3 等步调进行回答。

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

完整过程如下所示:8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

项目中应用的代码:

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

Srivastav 表明上述实现也意味着用户可以应用 AWQ 运行所有的 Mixtral 微调,并应用 Flash Attention 2 来提升它们。

看到这项研究后,网友不禁表明:真的很酷。

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

8x7B MoE与Flash Attention 2结合,不到10行代码实现快速推理

更多相关链接,请参考:

模型地点:https://huggingface.co/models?search=mixtral%20awq

Transformer 中量化技术:https://huggingface.co/docs/transformers/main/en/quantization

给TA打赏
共{{data.count}}人
人已打赏
应用

GitHub年终福利,编程谈天机器人绽放给所有用户,网友直呼:破局者

2024-1-2 14:14:00

应用

安徽,全面瞄准通用人工智能

2024-1-2 14:33:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索