零一万物34B超大模型,本地部署包,李开复最强开源项目

🌈什么是零一万物Yi-34B

零一万物Yi-34B模型凭借其70.72分的傲人成绩,荣登全球英文和中文权威排行榜的榜首位置。李开复最强开源项目,该模型在Hugging Face的英文测试公开榜单中,击败了包括LLaMA2-70B和Falcon-180B在内的多个大型模型,成为全球第一。Yi-34B模型即将发布一款全球最长上下文窗口版本,支持200K超上下文窗口(context window),能够处理大约40万汉字的超文本输入。

项目地址

https://github.com/01-ai/Yi

🎖︎模型性能

根据 Hugging Face 英文开源社区平台和 C-Eval 中文评测的最新榜单,Yi-34B 预训练模型取得了多项 SOTA 国际最佳性能指标认可,在一些关键指标上优于包括 Meta 的 Llama 2 在内的领先开源模型,是目前唯一成功登顶 Hugging Face 全球开源模型排行榜的国产模型。

⬇️如何本地运行资源?

1:下载压缩包
首先,您需要从以下链接下载一键启动包:

2:启动程序

下载完成后,解压压缩包,点击”exe启动”,其中支持N卡、A卡、还有CPU版本

3:启动操作

启动软件后,界面会显示检测到的显卡型号。点击Launch按钮,并选择yi-34b-chat.Q2 K.gguf模型文件以启动模型。

4:浏览器操作

启动模型后,会自动在浏览器中打开http://localhost:5001 地址,您可以开始与Yi-34B模型进行交互了!

声明:本站所有软件、课程、素材等资源全部来源于互联网,赞助VIP仅用于对本站服务器带宽及网站运营等费用支出做支持,从本站下载资源,说明你已同意本条款。如若本站内容侵犯了原著者的合法权益,请与我们联系,经过核实后,我们会及时删除处理。