AutoDL：启动webui服务时的问题

已于 2024-11-11 23:10:44 修改
阅读量2.1k 收藏 14
点赞数 5
CC 4.0 BY-SA版权
文章标签： visual studio code pycharm llama ubuntu ssh linux
于 2024-07-22 17:04:45 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_72977159/article/details/140614273

AutoDL：启动webui服务时的问题

一、No CUDA runtime is found

  1. 检查是否启动autoDL上的显卡：

    如果没有启动，请启动

  2. 检查CUDA的版本是否和pytorch相匹配：

    如果不匹配，可以重新安装相适配的CUDA，也可以重新创建镜像

  3. 设置CUDA_HOME的环境变量：

    参考大佬的文章：解决’No CUDA runtime is found’错误：从CUDA_HOME环境变量入手-百度开发者中心 (baidu.com)

二、打不开http://0.0.0.0:7860

image.png

原因：autoDL的网络是在内网当中，无法直接连接外网，访问公网IP

AutoDL帮助文档

解决办法：端口转发（通过SSH连接）

  1. autoDL官方提供的端口转发工具：AutoDL-SSH-TOOLS：

    下载TOOLS，然后按照教程启动服务。

    此时的端口号（autoDL远程服务的端口）为http://0.0.0.0:7860中的7860

    将TOOLS中的端口号从默认的端口号6006改为7860（或者添加一个7860的端口号），此时访问http://localhost:7860即可实现内网的端口转发。

    image-20240722162534352

    AutoDL官方文档：

    AutoDL帮助文档

  2. 在Vsocode中有相应端口转发的工具：Remote SSH

    Remote SSH自带一个port forward功能

    使用 VS Code 端口转发本地服务_Vscode中文网 (github.net.cn)

  3. 自己配置SSH端口转发

    大佬的文章：

    在Linux中使用SSH端口转发实现远端与本地端口映射-腾讯云开发者社区-腾讯云 (tencent.com)

    ssh端口转发：ssh隧道-朱双印博客 (zsythink.net)

    Linux官方文档：

    如何使用 SSH 隧道或端口转发 (linux-console.net)

    B站视频：

    【秒懂】5分钟学会SSH端口转发，远程工作用得着 | 如何充分利用云服务器_哔哩哔哩_bilibili

Keriyar
关注
【Stable Diffusion】在GPU云服务器上部署并使用Stable Diffusion----在autoDL上使用Stable Diffusion webUI
AnChenliang_1002的博客
02-18 286
本专栏主要记录人工智能的应用方面的内容，包括chatGPT、AI绘图等等；在当今AI的热潮下，不学习AI，就要被AI淘汰；所以欢迎小伙伴加入本专栏和我一起探索AI的应用，通过AI来帮助自己提升生产力；本节的目标，让每个人都能在10分钟内，从零开始搭建好属于自己的Stable Diffusion webUI并生成一幅属于自己的图片。
LLama webui微调模型点击启动后报错，如何解决？
**My Coding Family**
04-30 699
🏆 本文收录于《全栈Bug调优(实战版)》专栏，致力于分享我在项目实战过程中遇到的各类Bug及其原因，并提供切实有效的解决方案。无论你是初学者还是经验丰富的开发者，本文将为你指引出一条更高效的Bug修复之路，助你早日登顶，迈向财富自由的梦想🚀！同时，欢迎大家关注、收藏、订阅本专栏，更多精彩内容正在持续更新中。让我们一起进步，Up！Up！Up！    备注： 部分问题/难题源自互联网，经过精心筛选和整理，结合数位十多年大厂实战经验资深大佬经验总结所得，数条可行方案供所需之人参考。
在 AutoDL 上部署 Ollama + DeepSeek-R1 + Open-WebUI 的倒腾记录
AiRg1xt的博客
02-20 1914
一些在 AutoDL 上部署 Ollama + DeepSeek-R1 + Open-WebUI 倒腾的经验
在Autodl上部署llamafactory微调大模型(包括如何打开webui的公共URL）
最新发布
weixin_53736013的博客
05-22 637
要使用公有连接要autodl-tmp/LLaMA-Factory/src/llamafactory/webui/interface.py文件下最后改成share=True。建议输出目录手动设置一下（autodl的JupyterLab可能找不到保存的目录，因为它的初始目录就是/root下的）使用webui前开启学术加速，好像因为它会下载一个包，我也忘记了，不开代理可能会下载失败。（最好下载前开启学术加速，因为后面也要开，我这里忘记开了，但也下载好了）设置好数据集和微调参数就可以训练啦~
llama-factory || AutoDL平台 ||启动web界面
失眠的树的博客
03-02 474
下面的链接就是可访问的动态链接。
autodl访问失败
2301_79016504的博客
08-04 1089
如果以上方法都没有解决问题，建议你检查网站的官方渠道或社交媒体，看看是否有其他用户也遇到类似的问题，或者联系网站的技术支持获取更多帮助。但是我还是很担心这个autodl的云平台与civitai的代理一起开会不会有问题，估计要先下载到网盘再传输到autodl上了。于是就一条条往下看，123都基本不可能，尝试了一下4就把历史记录全删除，然后刷新就可以进去了。- 被访问的资源可能已经移除或位置更改，注意检查是否有更新的信息。- 确认你输入的链接是正确的，确保没有拼写错误或多余的字符。
autodl开放端口使用方法
man_Xue_hao的博客
03-11 1862
在6006端口启动webui，自定义服务中直接打开。
autodl中JupyterLab服务异常，请SSH登录卸载JupyterLab后重装问题
NIE_WIN的博客
10-27 1969
使用autodl复现代码的时候jupyter突然打不开啦！怎么办呢？进来看看吧！
本地打开autodl的stable-diffusion-webui,自动SSH连接
10-20
标题中的“本地打开autodl的stable-diffusion-webui,自动SSH连接”指的是在本地计算机上运行一个名为“stable-diffusion-webui”的应用程序，该应用与autodl项目集成，并通过SSH（Secure Shell）协议自动连接到远程...
在autodl搭建stable-diffusion-webui+sadTalker
weixin_37515325的博客
02-25 1740
本文介绍在audodl.com搭建gpu服务器，实现stable-diffusion-webui+sadTalker功能，图片+音频 可生成视频。
自动化数据下载管理Web界面：AutoDL-SD-WebUI
gitblog_00035的博客
04-22 434
自动化数据下载管理Web界面：AutoDL-SD-WebUI 在数据科学和机器学习领域，有效管理和自动化数据获取是至关重要的步骤。tzwm/autodl-sd-webui 是一个基于网页的工具，它提供了对数据下载任务的自动化管理和监控能力，简化了繁琐的数据预处理工作流。下面我们将深入探讨其技术特性、用途和优势。 项目简介 是一个轻量级的web应用，它允许用户创建、管理并监视各种数据下载任务。该项目...
open-webui入门
热门推荐
repos的博客
06-27 3万+
Open WebUI是一个可扩展、功能丰富、用户友好的自托管WebUI，旨在完全离线操作。它支持各种LLM运行程序，包括Ollama和OpenAI兼容的API。有关更多信息，请务必查看Open WebUI文档。
AutoDL云服务器的基础使用方法（pycharm远程，jupyterLabx线上）
Colorkiller86的博客
12-23 2549
也可以通过微信扫码登录。
mac如何在autodl打开网页
lsy775616349的博客
09-19 892
在配置angchain-chatchat，mac如何打开autodl网页
远程连接autodl的服务器传输文件
weixin_52933023的博客
04-23 723
给出服务器的站点端口和密码（从audtodl中的SSH中得到）：ssh -p 33956 [email protected]。密码：uxOXxgWMdDsy。
项目实训：AutoDL部署大模型并实现外部接口调用
m0_63155449的博客
06-23 4904
选择社区镜像，直接搜索langchainchatchat，立即创建。打开jupyterNotebook，并输入下面命令。可用postman测试，比如上传文件到知识库。拒绝访问，这里需要做端口映射，参照。1.注册AutoDL账号并充值。2.创建实例，这里选择4090。再次访问，可查看到接口文档。
pycharm远程连接AutoDL服务器，解决JupyterBook无法运行问题
qq_45329568的博客
11-15 3205
pycharm远程连接
【大模型研究】（1）：从零开始部署书生·浦语2-20B大模型，使用fastchat和webui部署测试，autodl申请2张显卡，占用显存40G可以运行
freewebsys的专栏
01-21 2101
总体上效果还不错。速度也挺快的。需要 40G的显存才可以启动成功。而且可以使用webui 启动成功。
autodl vscode连接windows
02-06
### 配置 AutoDL 以连接 Windows 上的 VSCode #### 安装必要软件 为了实现从 Windows 的 Visual Studio Code (VSCode) 远程连接到 AutoDL 并进行开发工作，需要先确保已经安装了必要的工具。这包括但不限于最新版本的 VSCode 和 Remote-SSH 插件。 #### 获取 SSH 登录信息 在准备就绪之后，登录至 AutoDL 控制面板选择所需启动的实例。一旦选定并成功开启目标机器，则可以获取用于建立安全外壳协议(SSH)会话所需的凭证数据——即具体的命令字符串与对应的访问密钥[^3]。 #### 设置 VSCode 中的 Remote-SSH 扩展 打开 VSCode 后应立即前往扩展市场搜索 "Remote - SSH" 来确认此功能已被激活。如果尚未安装，请按照提示完成设置过程。随后利用之前从 AutoDL 获得的信息来创建一个新的远程主机条目： 1. 当尝试首次连接时，可能会被询问有关保存新的 SSH 主机配置； 2. 将获得的用户名@IP 地址组合粘贴进去作为新记录的一部分，并移除任何多余的空白字符以防潜在错误发生； 3. 接着连续按下回车键直至看到选项卡底部出现“Connect”的按钮为止，此时点击它继续前进； 4. 如果一切顺利的话，现在应该能够观察到底部状态栏附近显示出了正在加载的消息，表明正在进行身份验证流程； 5. 输入由 AutoDL 提供给用户的临时密码完成最后一步认证手续[^2]。 #### 测试连接稳定性 当以上步骤均无误执行完毕后，理论上讲应当可以在左侧资源管理器视图里发现代表远端系统的文件夹结构。这意味着可以通过图形界面轻松浏览云端存储空间内的各项资产，同时也意味着拥有了完整的读写权限来进行后续的应用部署或是调试作业。 ```bash # 示例：测试与AutoDL服务器之间的网络延迟情况 ping your.autodl.server.ip.address ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值