零基础，零成本，部署一个属于你的大模型_阿里云大模型部署

前言

看了那么多chatGPT的文章，作为一名不精通算法的开发，也对大模型心痒痒。但想要部署自己的大模型，且不说没有算法相关的经验了，光是大模型占用的算力资源，手头的个人电脑其实也很难独立部署。就算使用算法压缩后的大模型，部署在个人电脑上，还要忍受极端缓慢的计算速度以及与chatGPT相差甚远的模型效果。

有什么办法能够部署属于我们自己的大模型呢？其实很简单，我们将目标拆解一下：

• 有编程基础：作为一个合格的程序员，这应该是必备素质。
• 有足够的算力资源：专业GPU自己买不起怎么办，阿里云最近推出了”飞天“免费试用计划，AI模型训练，GPU资源免费用！
• 要懂大模型：真的要精通大模型吗？不需要。如果只是简单的模型部署和使用，现在的开源模型部署已经非常简单化，只需要掌握基础的Python知识就可以。

随着chatGPT的火爆，许多开源爱好者涌入AI领域，将许多与大型模型相关的工具进行进一步封装，使得我们这些AI初学者也能够用很少的工作量搭建一个私有大型语言模型。而且，有许多成熟的工具可供我们使用，可以帮助我们进一步使用和微调大型模型。

因此，本文是为AI初学者们（包括我自己）编写的保姆级大型模型部署和使用指南。现在正值阿里云免费试用计划，我们可以不花一分钱就可以体验部署自己的大型模型的乐趣。

【一一AGI大模型学习 所有资源获取处一一】

①人工智能/大模型学习路线

②AI产品经理入门指南

③大模型方向必读书籍PDF版

④超详细海量大模型实战项目

⑤LLM大模型系统学习教程

⑥640套-AI大模型报告合集

⑦从0-1入门大模型教程视频

⑧AGI大模型技术公开课名额

下图便是我通过阿里云免费申请的PAI平台资源（显卡是Nvidia V100），部署的清华大学chatGLM对话大模型，在网页端和手机端都能直接体验：

电脑端

手机端

下文围绕如何手把手搭建一个大模型Demo展开，文章主要目录：

• 领取阿里云免费使用资源
• 创建并使用PAI平台实例
• 部署清华ChatGLM大模型
• 加餐：免费额度用量查询
• 总结和展望

领取阿里云免费使用资源

免费试用活动页

https://free.aliyun.com/

只要没有申请过PAI-DSW资源的新老用户皆可申请5000CU的免费额度，3个月内使用。

至于5000CU能用多久，和实际申请实例的性能相关，在下面会讲解。

创建并使用PAI平台实例

官方有PAI-DSW使用教程，教你如何用领取的免费资源搭建一个Stable Diffusion来做AI画图，如果对SD感兴趣，可以按照官方教程实践。

https://help.aliyun.com/document_detail/615220.html

我们领取额度后，秒到账。之后在阿里云页面内搜索PAI平台，点击立即开通，开通PAI控制台。

开通时的页面没有截图，其中有一些可选的开通项，比如NAS，比如网关等，可以按照自己需求选取，比如希望保存自己的模型，那可以关联NAS资源。我当时没有选其他资源，仅开通了PAI，这样没有额外的收费。

随后进入控制台，创建DSW实例。

这里选取资源，注意选择GPU资源，并选择支持资源包抵扣的资源。比如下图的ecs.gn6v-c8g1.2xlarg。可以看到他们的价格里，写明了每小时消耗的CU，你可以大致计算一下，5000CU可以用多久，ecs.gn6v-c8g1.2xlarg这个型号可以跑333小时，大概连续13天。

系统可以任意选择，本文为了部署chatGLM，选择pytorch1.12

当然，中间你可以随时停止机器，就不会继续扣费。注意，这里的机器，是只有系统盘的，如果停止了机器，挂载的系统盘会被回收，你在上面下载的各种文件，模型，都会回收掉。你重新启动，是新的系统盘，文件需要重新下载。（别问我怎么知道的- -!）

创建完成后，点击打开，就进入了交互式的Web页面，可以开始你的模型开发之旅。