19 lines
892 B
Plaintext
19 lines
892 B
Plaintext
|
在Linux下部署Llama2超详细教程
|
|||
|
|
https://www.bilibili.com/video/BV1n8411U7wh
|
|||
|
|
|
|||
|
|
离线AI聊天清华大模型(ChatGLM3)本地搭建
|
|||
|
|
https://blog.csdn.net/i2blue/article/details/135275343
|
|||
|
|
|
|||
|
|
算力平台 AutoDL
|
|||
|
|
|
|||
|
|
1、创建实例 ： 北京C区，GPU数1，V100-32GB 4/8 1.88元/小时，镜像：PyTorch 2.0.0 /11.8,创建完直接关机，节约钱。
|
|||
|
|
2、使用无卡模式开机，无卡模式的话一个小时保需要一毛钱，适合部署环境，下载模型这样的操作。
|
|||
|
|
3、打开JupyterLab,大的模型文件一般是存在autodl-tmp中的，新建一个文件夹Llama2,存放执行文件。
|
|||
|
|
4、....
|
|||
|
|
|
|||
|
|
离线AI聊天清华大模型(ChatGLM3)本地搭建
|
|||
|
|
https://blog.csdn.net/i2blue/article/details/135275343
|
|||
|
|
|
|||
|
|
|
|||
|
|
1、算力平台 AutoDL 充值200元，实现中文LLaMA-2、清华大模型(ChatGLM3 在GPU主机部署，同时，完成模型微调实验。
|