先贴一下显卡和cpu配置,应该很难有比我这个配置还低了的吧。
第一步 安装Ollama
官网地址:
有墙,下载失败的话开一下科技。
下载后是一个可行文件。
如果直接双击运行,默认会按照到c盘!
安装到指定目录的方法:
①在你想要的安装路径下创建一个文件夹,把OllamaSetup.exe放到该文件夹下。
②在该目录下打开命令窗口,输入以下命令,将等号后的E:\Ollama替换为你自己的路径。
OllamaSetup.exe /DIR=E:\Ollama
③现在就可以看到Ollama安装到E盘了。
第二步 使用Ollama下载大语言模型(LLM)
Ollama本身是不自带UI界面的,如果想使用更美观方便的UI可以使用网上一些开源的项目,比如webUI等。这里我们直接使用命令行进行操作。
①先检查ollama是否正常安装。
ollama -v
②然后下载大语言模型,这里我下载的是deepseek。
ollama pull deepseek-r1:1.5b
使用list命令可以查看已经下载的大语言模型。
ollama list
③使用run命令运行大语言模型
到此已经完成了本地运行大语言模型。
ollama常用命令
启动
systemctl start ollama
停止
systemctl stop ollama
重启
systemctl restart ollama
创建模型
ollama create [Modelfile路径]:使用包含模型信息的Modelfile来创建一个新模型。
显示模型信息
ollama show:显示特定模型的详细信息,如模型名称、版本等。
列出模型
ollama list:列出本地所有可用的模型。
从注册表拉取模型
ollama pull [模型名称]:从模型注册表中拉取一个模型到本地使用。
推送模型到注册表
ollama push [模型名称]:将本地模型推送到模型注册表中,以便他人或其他系统使用。
复制模型
ollama cp [原模型名称] [新模型名称]:复制一个模型到另一个位置或给定名称的地方。
删除模型
ollama rm [模型名称]:删除一个已安装的模型。
运行模型
ollama run [模型名称]