基于Ollama + DeepSeek + Chatbox 的AI大模型本地部署指南(适合小白)

一、引言

        最近国产AI大模型 Deepseek 火爆全网,网上也出现了很多相关的本地部署教程。随大流的我也尝试了本地部署了属于自己的AI模型。在这里我就简单分享一下自己的安装过程与心得,努力做到让计算机小白也能看懂吧!

二、本地部署

        在开始之前先声明一下,Ollama 和 Deepseek 是默认安装在C盘的,如果想安装在其他盘的小伙伴可以自行在 CSDN 或者B站上搜索其他大佬的帖子去进行实操,我就不必再这里班门弄斧了

        1. Ollama的安装

          官网网址如下:Ollama

        在下载完后进行安装就行,因为我是安装过了的,这里也就没有截图了,安装界面很简单,也就只有一个 Install 的按钮,点击后就自动安装了。

        好,我们已经完成了 Ollama 的安装了,接下来就去看下我们本地的 Ollama 吧!

        按住 win + r 弹出运行,输入“cmd”进入命令行程序

        接下来在里面输入

ollama help

        如果出现以下内容即为安装成功啦

         Ollama 的安装也就告一段落了,我们进入下一节。

        2. Deepseek的下载

        模型的官网地址仍然在ollama里面:deepseek-r1

        在进入后选择模型大小(本人使用的8b,感觉效果还不错。模型内存越大精度越高),这里根据个人喜好选择即可(本人推荐 7b 或者 8b,太大的模型一般家用电脑带不动,本人是用的游戏本,配置稍微差点儿的电脑建议选择更小的模型)

         选择好对应的模型后复制一下下拉选择菜单栏右边的代码,即

        复制完后在 cmd 里粘贴、回车运行,即可下载自己的模型(这里下载有点慢哦,请耐心等待~)

        安装完成后在cmd里输入

ollama list

 即可查看自己本地安装的模型

        Ok,这里肯定有人会有疑问:我这模型都安装了,为什么不能使用?别急,是可以使用的,还记得前面在 cmd 里输入“ollama help”时里面的某个内容么?

         是的,以后我们想在命令行运行自己的 AI 模型,可以直接输入

ollama run 自己模型的名字
(e.g. ollama run deepseek-r1:8b)

 若出现以下内容

即为运行成功,我们和它进行一个简单的互动吧!

        在进行完这步操作后,我们就进行最后的UI安装吧! 

        3. Chatbox的安装

          如果大家一直在 cmd 里运行 deepseek 会不会很麻烦呢?我能不能在图形化 UI 里使用自己的 AI 呢?答案是可以的,我们甚至可以在软件里使用自己的 AI,我们可以安装一个图形化 UI 界面软件,把自己本地的 AI 放在那上面使用!这里我是用的Chatbox,官网:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

         下载完安装包后进行安装,这里我安装过了,同样没有截图,就简单用文字语言描述下:选择“仅为我安装” → 点击下一步 → 修改安装路径(建议C盘以外的其他盘),安装完成即可。

        进入软件界面后点击右下角设置

        模型提供方选择ollama API,模型选择自己安装的模型,最后点击确定,所有工作就大功告成啦!我们来简单运行下。

 

三、结语

        好的,所有的安装就告一段落了,如果以后启动 Chatbox 无法运行的话,就再在 cmd 里面用 ollama run 一下自己的模型,再打开 Chatbox 就可以运行了。

        创作不易,如果您都看到这里了,可以给我一个点赞、收藏并关注一下么?您的支持与喜爱是激励我创作的最大动力!同时前端和爬虫本人仍在学习,近段时间较忙,所以一直没更新,后续一定会补上滴!尽请期待吧!

        如果内容有误请及时联系我进行修改!开学季,我们继续加油!努力成为更好的自己!

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值