使用Ollama本地运行大语言模型(windows/deepseek)

先贴一下显卡和cpu配置,应该很难有比我这个配置还低了的吧。
在这里插入图片描述
在这里插入图片描述

第一步 安装Ollama

官网地址:

Download Ollama

有墙,下载失败的话开一下科技。

下载后是一个可行文件。
在这里插入图片描述
如果直接双击运行,默认会按照到c盘!

安装到指定目录的方法:
①在你想要的安装路径下创建一个文件夹,把OllamaSetup.exe放到该文件夹下。
在这里插入图片描述
②在该目录下打开命令窗口,输入以下命令,将等号后的E:\Ollama替换为你自己的路径。

OllamaSetup.exe /DIR=E:\Ollama

③现在就可以看到Ollama安装到E盘了。
在这里插入图片描述

第二步 使用Ollama下载大语言模型(LLM)

Ollama本身是不自带UI界面的,如果想使用更美观方便的UI可以使用网上一些开源的项目,比如webUI等。这里我们直接使用命令行进行操作。

①先检查ollama是否正常安装。

ollama -v

在这里插入图片描述
②然后下载大语言模型,这里我下载的是deepseek。

ollama pull deepseek-r1:1.5b

使用list命令可以查看已经下载的大语言模型。

ollama list

在这里插入图片描述
③使用run命令运行大语言模型
在这里插入图片描述

到此已经完成了本地运行大语言模型。

ollama常用命令

启动
systemctl start ollama
停止
systemctl stop ollama
重启
systemctl restart ollama
创建模型
ollama create [Modelfile路径]:使用包含模型信息的Modelfile来创建一个新模型。
显示模型信息
ollama show:显示特定模型的详细信息,如模型名称、版本等。
列出模型
ollama list:列出本地所有可用的模型。
从注册表拉取模型
ollama pull [模型名称]:从模型注册表中拉取一个模型到本地使用。
推送模型到注册表
ollama push [模型名称]:将本地模型推送到模型注册表中,以便他人或其他系统使用。
复制模型
ollama cp [原模型名称] [新模型名称]:复制一个模型到另一个位置或给定名称的地方。
删除模型
ollama rm [模型名称]:删除一个已安装的模型。
运行模型
ollama run [模型名称]

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值