2023-11-09 14:40
资源分享丨号称目前最强的中文开源大模型：百川智能Baichuan 2-7B版本离线整合包
哈喽呀小伙伴们，今天分享一个号称业内截止目前“最强的中文开源模型”——Baichuan 2的离线整合包。
百川大模型Baichuan是由前搜狗CEO王小川离职创业，投身AI领域后，开发出的国产AI大模型。Baichuan 2是他们公司新一代的大模型产品。
Baichuan 2是百川智能推出的新一代开源大语言模型，采用2.6万亿参数的高质量语料训练。Baichuan 2在多个权威的中文、中文和多语言的通用、领域基准上取得了同尺寸的最佳效果。
本次对外开源发布的大模型，包含有7B、13B的Base和Chat版本，并提供了Chat版本的4bits量化。
所有版本对学术研究完全开放。同时，开发者通过邮件申请并获得官方许可后，即可免费获得。
部署百川大模型Baichuan 2比较麻烦，这里我也已经帮大家整理好了Baichuan 2的离线整合包了，解压即用。
今天制作的是7B模型的整合包，它对机器性能要求相对较低，方便大家快速上手。
①下载整合包：解压到本地后，双击“一键启动-7B量化.exe”这个文件。
②加载大模型：双击一键启动程序后，会打开一个命令提示窗口，项目会自动运行。加载成功后，可以看到以下地址“ http://127.0.0.1:7860”。
在浏览器输入该地址，即可看到项目主界面，直接问他一个比较有智慧的问题：
Q：鸡和兔在一个笼子里，共有26个头，68只脚，那么鸡有多少只，兔有多少只？
假设鸡的数量为x，兔子的数量为y。
根据题目给出的信息，我们可以得到以下两个方程：① x + y = 26 (头的总数)；② 2x + 4y = 68 (脚的总数)现在我们需要解这个二元一次方程组。
首先从第一个方程中解出x：x = 26 - y，然后将x的表达式代入第二个方程：2(26 - y) + 4y = 6852 - 2y + 4y = 682y = 16。
接下来我们求解y的值：y = 16 / 2y = 8现在我们得到了兔子的数量是8只。将y的值代入x的表达式求得鸡的数量：x = 26 - 8x = 18所以鸡有18只，兔子有8只。
Baichuan-2-7B大模型的回答非常快（实测10~20秒出答案），而且答案很正确。
恭喜你，已经可以在本地拥有一个超强的AI大模型了，以后辅导孩子写作业，再也不慌了！
注意事项：
①该项目需要N卡，显存8G以上，建议2060以上级别显卡，过低显存可能无法使用
②请确保安装路径不包含中文，不然可能会引起奇怪的适配问题
欢迎大家点击我的头像，扫码关注我的公众号，回复【Baichuan-2-7B】，免费获得本文提到的资源。
相关文章
近期文章
更多
雷小军
