Dify(Do it for you)是一款开源的大语言模型应用开发平台,旨在简化AI应用的创建、部署和管理过程,使开发者能够更快速、更轻松地构建和运营基于GPT等模型的AI应用。
Dify平台创建和运营一个AI chatbot应用,涉及到登录平台、连接数据集、训练AI模型、创建应用程序、配置用户体验、利用可视化工具和服务以及持续优化等步骤。
WIN11 部署Dify
本机系统:win11家庭版,CPU:i5,内存:8G。
确保电脑已开启了Hyper-V虚拟化,win11家庭版是没有虚拟化选项的,需要手动配置。
一、开启虚拟化
桌面上新建一个名为“hyper-v.cmd”文件,记事本打开,输入以下内容,保存后用管理员身份运行。
pushd "%~dp0"
dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hyper-v.txt
for /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i"
del hyper-v.txtDism /online /enable-feature /featurename:Microsoft-Hyper-V-All /LimitAccess /ALL
以管理员身份打开 PowerShell 控制台,运行以下命令:
Enable-WindowsOptionalFeature -Online -FeatureName Microsoft-Hyper-V -All
打开控制面板-程序-启用或关闭windows功能,勾选Hyper-V,确定完成后重启电脑。
二、安装docker desktop最新版
官网链接:Get Started | Docker
安装完成后,用管理员身份运行docker desktop,要确保docker的服务保持正在运行。
三、部署Dify
提前安装好Git - Downloading Package,并在git命令行中输入代码:
git clone https://github.com/langgenius/dify.git
使用管理员身份运行命令提示符,进入到dify/docker目录,输入命令:
这一步要打开科学上网,否则会报错。
打开docker desktop,检查容器出现以下的内容,即部署成功。
测试:浏览器输入http://localhost/apps,跳转到Dify页面
设置好本地的管理员的密码和账号就使用Dify了。
Ubuntu 部署Dify
需要先配置git、提前部署好docker
克隆Dify代码到本地:
git clone https://github.com/langgenius/dify.git
完成后进入到docker目录,输入以下命令
cd dify/docker
cp .env.example .env
docker compose up -d
配置 docker compose up -d 会提示拉取不了镜像
需用 sudo vim /etc/docker/daemon.json 并加入以下配置镜像
{
"registry-mirrors": ["https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"]
}
重启docker后就可以拉取到镜像了
systemctl daemon-reload
systemctl restart docker
常见问题:物理机与虚拟机无法复制粘贴,执行以下命令
sudo apt-get upgrade
sudo apt-get install open-vm-tools-desktop -y
sudo reboot
测试复制和粘贴功能
磁盘不足,可以扩容
lvextend -L 20G /dev/mapper/ubuntu--vg-ubuntu--lv //增大或减小至20G
lvresize -l +100%FREE /dev/mapper/ubuntu--vg-ubuntu--lv //按百分比扩容resize2fs /dev/mapper/ubuntu--vg-ubuntu--lv //重新调整逻辑卷大小
实现本地局域网设备访问Dify:
确保物理机和虚拟机共享一个网段,在虚拟机设置-桥接模式。
可以手动指定IP地址、子网掩码和DNS
即可实现同一局域网内不同设备访问Dify
常见问题:重置管理员密码方法
docker exec -it docker-api-1 flask reset-password
密码错误次数超限(默认锁24小时):系统设置手动改时间,加1天。
Dify使用过程
使用前,需获取对应模型API
以智谱AI为例,创建API Keys,将API复制到Dify中。
按需勾选模型,flash免费。
搭建Agent步骤
在 “提示词” 中编写指令,需要明确它的角色、任务目标、要求和限制等。
#角色
你是一位贴心的学生学习与成长伙伴,为学生提供专业的学习辅导、温暖的情感支持以及长久的陪伴。
#目标
1.当学生倾诉情感问题时,耐心倾听并给予理解,提供积极的建议和鼓励。
2.当学生询问学习问题时,先了解问题的具体情况,如学科、知识点等。运用清晰易懂的语言进行讲解、举例说明。
#要求
1.只针对学生的学习和情感问题提供帮助,拒绝回答无关的话题。
2.讲解和建议部分要简洁明了,易于学生理解。
用硅基流动模型,文字作图。
协作功能:添加成员,任意邮箱发送邀请,用于创建账号
复制邀请链接,在新页面打开链接
设置密码,配置信息,即可创建协作用户。