使用离线部署32B模型实现OpenDeepWiki项目代码自动分析与文档生成

最新推荐文章于 2025-07-17 13:42:41 发布
最新推荐文章于 2025-07-17 13:42:41 发布
阅读量53 收藏
点赞数

背景介绍

在企业环境中，我们经常需要对公司项目代码进行分析和文档生成。然而，考虑到代码的保密性，将代码上传至公共AI平台存在安全隐患。为解决这一问题，我们可以在公司内部GPU服务器上部署强大的大语言模型（如qwen2.5:32b-instruct-fp16），并结合OpenDeepWiki工具，实现安全、高效的代码仓库分析与文档自动生成。

环境需求

  • 硬件: 支持qwen2.5:32b-instruct-fp16模型运行的GPU服务器（推荐配置：4*RTX 3090）
  • 软件: Ollama（用于部署模型）、Docker和Docker Compose环境
  • 网络: 内部网络环境，确保安全性

部署步骤

1. 部署OpenDeepWiki

在服务器上创建并配置必要文件：

docker-compose.yml:


   

       
services:

       
  koalawiki:

       
    image: crpi-j9ha7sxwhatgtvj4.cn-shenzhen.personal.cr.aliyuncs.com/koala-ai/koala-wiki

       
    environment:

       
      - KOALAWIKI_REPOSITORIES=/repositories

       
      - TASK_MAX_SIZE_PER_USER=5 # 每个用户AI处理文档生成的最大数量

       
      - REPAIR_MERMAID=1 # 是否进行Mermaid修复，1修复，其余不修复

       
      - CHAT_MODEL=qwen2.5:32b-instruct-fp16 # 必须要支持function的模型

       
      - ANALYSIS_MODEL=qwen2.5:32b-instruct-fp16 # 分析模型，用于生成仓库目录结构，这个很重要，模型越强，生成的目录结构越好，为空则使用ChatModel

       
      - CHAT_API_KEY=sk- #您的APIkey

       
      - LANGUAGE=简体中文 # 设置生成语言默认为"中文"

       
      - ENDPOINT=http://您的Ollamaip:11434/v1

       
      - DB_TYPE=sqlite

       
      - DB_CONNECTION_STRING=Data Source=/data/KoalaWiki.db

       
      - UPDATE_INTERVAL=5 # 仓库增量更新间隔，单位天

       
      - EnableSmartFilter=true # 是否启用智能过滤，这可能影响AI得到仓库的文件目录

       
      - PARALLEL_COUNT=1 # The warehouse processes the quantity in parallel

       
    volumes:

       
      - ./repositories:/app/repositories

       
      - ./data:/data

       
      

       
  koalawiki-web:

       
    image: crpi-j9ha7sxwhatgtvj4.cn-shenzhen.personal.cr.aliyuncs.com/koala-ai/koala-wiki-web

       
    environment:

       
      - NEXT_PUBLIC_API_URL=http://koalawiki:8080 # 用于提供给server的地址

       
      

       
  nginx: # 需要nginx将前端和后端代理到一个端口

       
    image: crpi-j9ha7sxwhatgtvj4.cn-shenzhen.personal.cr.aliyuncs.com/koala-ai/nginx:alpine

       
    ports:

       
      - 8090:80

       
    volumes:

       
      - ./nginx.conf:/etc/nginx/conf.d/default.conf

       
    depends_on:

       
      - koalawiki

       
      - koalawiki-web

nginx.conf:


   

       
server {

       
    listen 80;

       
    server_name localhost;

       
 

       
    # 设置上传文件大小限制为 100MB

       
    client_max_body_size 100M;

       
 

       
    # 日志配置

       
    access_log /var/log/nginx/access.log;

       
    error_log /var/log/nginx/error.log;

       
 

       
    # 代理所有 /api/ 请求到后端服务

       
    location /api/ {

       
        proxy_pass http://koalawiki:8080/api/;

       
        proxy_http_version 1.1;

       
        proxy_set_header Upgrade $http_upgrade;

       
        proxy_set_header Connection 'upgrade';

       
        proxy_set_header Host $host;

       
        proxy_set_header X-Real-IP $remote_addr;

       
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;

       
        proxy_set_header X-Forwarded-Proto $scheme;

       
        proxy_cache_bypass $http_upgrade;

       
    }

       
 

       
    # 其他所有请求转发到前端服务

       
    location / {

       
        proxy_pass http://koalawiki-web:3000;

       
        proxy_http_version 1.1;

       
        proxy_set_header Upgrade $http_upgrade;

       
        proxy_set_header Connection 'upgrade';

       
        proxy_set_header Host $host;

       
        proxy_set_header X-Real-IP $remote_addr;

       
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;

       
        proxy_set_header X-Forwarded-Proto $scheme;

       
        proxy_cache_bypass $http_upgrade;

       
    }

       
}

2. 启动服务

创建好上述文件后，在同级目录下执行以下命令：

  1. 拉取必要的镜像：

    
     
    
         
    		docker-compose pull

  2. 启动容器：

    
     
    
         
    		docker-compose up -d

  3. 等待服务初始化完成（通常需要几分钟）

3. 访问OpenDeepWiki平台

在浏览器中访问 http://[服务器IP]:8090，即可看到OpenDeepWiki的界面：

使用指南

添加代码仓库进行分析

  1. 从以下地址获取OpenDeepWiki源码（推荐国内用户使用Gitee）：

  2. 下载源码的ZIP压缩包

  3. 在OpenDeepWiki平台点击"添加新仓库"：

  1. 选择"上传压缩包"，填写组织名称和仓库名称（这些字段必填，将影响前端路由显示），然后提交：

  1. 上传完成后，系统将开始处理仓库（处理时间约为3-5分钟）。处理中的仓库会显示在列表中：

  1. 处理完成后，点击仓库名称即可查看由qwen2.5:32b-instruct-fp16模型自动生成的文档：

系统优势

  • 安全可控：所有代码分析和文档生成过程都在内部环境完成，确保代码安全
  • 高质量文档：借助强大的qwen2.5:32b-instruct-fp16模型，生成的文档结构清晰、内容全面
  • 一键操作：简单的上传流程，无需复杂配置
  • 可扩展性：支持多种代码仓库格式，适用于不同项目需求

结语

通过部署OpenDeepWiki与qwen2.5:32b-instruct-fp16模型，我们可以安全、高效地为公司代码仓库生成完整文档，大幅提升项目理解和开发效率。

如果您对OpenDeepWiki感兴趣，欢迎访问以下地址并给项目点个Star：

在线体验地址：https://opendeep.wiki/
目前已有500+仓库加入！您也可以将您的开源仓库添加进来。

原创作者: token-ai 转载于: https://www.cnblogs.com/token-ai/p/18876966
碎影立画
关注
大模型的实践应用35-基于Qwen-32b模型与知识图谱技术、RAG等实现数据的归因分析，结合实践项目与应用场景
微学AI的博客
01-04 281
大模型（如通义千问14b,32b）能够理解和生成自然语言文本，通过训练大量数据学习到了丰富的知识和语言模式。RAG（检索-增强-生成）技术通过在大规模知识库中检索相关信息，结合大模型的生成能力，提供更为准确和丰富的回答。
windows平台本地部署DeepSeek大模型+Open WebUI网页界面（可以离线使用）
Navy的博客
02-09 3589
windows平台本地部署DeepSeek大模型+Open WebUI网页界面
你的代码库还在当“黑箱”？OpenDeepWiki带你玩转AI自动化文档与知识图谱！（详细拆解+实践教程）
许泽宇的技术分享
05-22 1199
OpenDeepWiki是一款面向开发者的AI驱动型代码知识库生成器，旨在解决代码库维护中的“黑箱”问题。它支持全语言、多仓库分析，自动生成结构化文档、知识图谱与对话式AI说明，帮助团队快速理解和使用代码库。OpenDeepWiki的核心功能包括多语言支持、多仓库集成、AI驱动分析、自动生成Mermaid结构图、全自动文档生成和对话式交互。通过OpenDeepWiki，开发者可以轻松管理代码库，提升团队协作效率，减少技术债。部署简单，支持多种AI模型和数据库，适合个人开发者、创业团队和企业级应用。OpenD
开源免费的opendeepwiki
dotNET跨平台
05-07 216
OpenDeepWiki 应运而生，利用 AI 智能分析和可视化技术，为团队提供一套自动化、可维护的“活文档”体系，解决上述常见痛点。OpenDeepWiki 以“AI驱动的代码知识库”定位，通过自动化、智能化的文档与可视化能力，大幅降低新成员学习成本，帮助维护者理清项目全貌，并为团队提供可持续的知识沉淀与智能洞见。针对以上受众，OpenDeepWiki 提供不同粒度的文档与图表，满足从代码级到架构级的多层次需求。以上目标不仅提升团队协作效率，还能持续沉淀项目知识，降低后期维护成本。为维护者梳理项目逻辑。
OpenDeepWiki：让您的代码仓库拥有MCP变成Agents的一部分！
xiaohucxy的博客
05-27 468
OpenDeepWiki：让代码仓库变身智能助手 OpenDeepWiki是一个革命性平台，它能将普通的代码仓库转化为能说会道的智能助手。这个基于.NET 9和Semantic Kernel开发的工具可以： 自动分析代码结构并生成可视化图表 智能生成详细文档 通过MCP协议让代码仓库"活"起来，支持与其他AI系统交互 完全支持离线部署，确保数据隐私 提供多语言支持和智能文件过滤功能 OpenDeepWiki还包含微调数据集管理功能，能根据项目特点定制AI助手。它就像一个代码翻译官，让沉默
开源DeepWiki版支持根据现有文件生成微调数据集
xiaohucxy的博客
05-22 448
OpenDeepWiki新增了微调数据功能，允许用户将生成的项目文档转化为微调数据集，用于优化小型模型在特定场景下的处理能力。通过这一功能，用户可以在不依赖大参数模型的情况下，获得更快的响应速度和针对性的处理效果。操作流程包括创建数据集、选择目录、启动任务和导出数据集，最终生成符合LLaMA-Factory格式的数据集。这一功能为项目文档的高效利用和模型优化提供了新的可能性，欢迎用户加入技术群进行交流。开源地址：https://github.com/AIDotNet/OpenDeepWiki。
离线部署大模型：ollama+deepseek+open-webui安装使用方法及常见问题解决.pdf
03-06
离线部署大模型的方法主要涉及ollama、deepseek和open-webui三个组件的安装和配置。ollama是一个开源的本地大语言模型运行框架，它可以帮助用户在本地机器上免费离线部署和运行大型语言模型，同时保证私有数据的隐私...
使用代码部署DeepSeek-R1开源模型
02-28
这些模型基于 Qwen 系列架构，包括 1.5B、7B、14B 和 32B 等不同参数规模的版本，适用于多种任务场景，如数学推理、代码生成和逻辑推理等。为了方便嵌入自己的项目，这里演示如何基于python部署DeepSeek-R1模型，...
部署deepseek【人工文档智能部署】Deepseek推理模型安装与配置：涵盖系统要求、模型选择及服务设置
07-03
内容概要：本文详细介绍了Deepseek推理模型的部署步骤及其应用。首先，用户需从官网 ollama.com 下载并安装 Ollama，根据操作系统选择合适的安装方式。安装过程中，系统会自动创建 Ollama 用户和服务，并启动相关...
软件工程基于离线大模型的OpenDeepWiki代码文档自动生成：提升企业级代码资产管理效率的技术实践
05-15
内容概要：本文针对开源项目代码文档自动化生成的需求，提出了一种基于离线部署320亿参数大语言模型（LLM）的代码分析与文档生成解决方案。通过构建轻量化模型推理框架，实现了对OpenDeepWiki项目代码的语义解析、架构梳理及文档结构化生成。该方案在离线环境下可有效提升代码文档生成效率，准确率达89.7%，为企业级代码资产文档化提供了可行路径。文中详细介绍了技术架构设计，包括模型选择与优化、离线推理框架构建及系统功能模块的设计。实验结果表明，相较于传统工具，该方案在语义准确率、结构完整性和生成效率方面均有显著提升。; 适合人群：对代码文档自动化生成感兴趣的研发人员、架构师以及从事代码资产管理的技术专家。; 使用场景及目标：①适用于需要在网络隔离环境中进行代码文档自动生成的企业；②目标是提高代码文档的准确性和完整性，减少人工成本，提升开发团队协作效率。; 其他说明：该方案不仅解决了传统工具难以处理复杂业务逻辑语义理解的问题，还为未来的研究指明了方向，如模型轻量化优化、多模态文档生成和增量更新机制等。
OpenDeepWiki：AI代码对话新纪元
xiaohucxy的博客
06-27 312
OpenDeepWiki推出智能多轮对话功能，可深入理解代码逻辑并提供精准解答。该系统支持GitHub等主流代码仓库转换、多种编程语言分析及Mermaid图表自动生成。通过API轻松集成，为应用提供AI驱动的代码知识库功能。支持自定义模型扩展，采用Next.js生成SEO友好文档，并可作为其他AI模型的知识来源。现已开放在线体验和GitHub开源项目。
deepwiki-open：自动生成代码文档的利器
gitblog_00992的博客
05-01 968
deepwiki-open：自动生成代码文档的利器 在现代软件开发中，代码文档的重要性不言而喻。它能帮助开发人员快速理解项目结构，提高协作效率，降低维护成本。今天，我们就来介绍一个开源项目——deepwiki-open，它能自动为代码托管平台仓库创建美丽、互动的维基。 项目介绍 deepwiki-open是一个自动生成维基的工具，它能够分析代码结构，生成全面文档，创建解释代码工作方式的视觉图表，并...
OpenDeepWiki：让您的代码仓库拥有MCP变成Agents的一部分！！
最新发布
weixin_37068619的博客
07-17 10
OpenDeepWiki就像是代码世界的魔法师，挥一挥魔法棒，沉默的代码仓库就变成了能说会道的智能助手。它不仅能离线部署保护您的隐私，还能通过MCP协议与其他AI系统无缝对接，更能通过微调数据集管理让AI变得更加"贴心"。在这个AI满天飞的时代，OpenDeepWiki告诉我们：最好的AI不是替代程序员，而是让代码自己会"说话"。毕竟，谁不想要一个既懂技术又会聊天的代码伙伴呢？现在就去GitHub上给OpenDeepWiki点个星吧，让您的代码仓库也来一场华丽的"变身秀"！
DeepWiki项目本地AI模型部署指南：基于Ollama的完整实践
gitblog_00802的博客
06-07 993
DeepWiki项目本地AI模型部署指南：基于Ollama的完整实践 前言 在当今AI技术快速发展的时代，如何在保证数据隐私的同时利用AI能力成为开发者关注的重点。DeepWiki项目通过集成Ollama本地AI模型，为开发者提供了一种全新的代码文档生成解决方案。本文将详细介绍如何利用Ollama在本地环境中部署和使用DeepWiki项目。 核心优势 DeepWiki结合Ollama的方案具有以下...
OpenDeekWiki加入MCP，为您的Cursor提供开源项目分析，轻松让AI掌握开源项目使用文档！
xiaohucxy的博客
05-09 549
OpenDeepWiki 是一个基于 .NET 9 和 Semantic Kernel 开发的开源项目，灵感来源于 DeepWiki。它旨在帮助开发者更好地理解和使用代码库，提供代码分析、文档生成、知识图谱等功能。用户可以通过其官方网站快速添加开源仓库，并接入 MCP（模型控制协议）服务，利用 AI 生成代码库的解析文档和回答相关问题。该项目支持通过 Cursor 等工具进行配置，并提供了详细的操作教程。OpenDeepWiki 的开源地址和技术交流群信息也已公开，方便开发者参与和讨论。
ollama离线部署大模型DeepSeek-R1-Distill-Qwen-32B
02-25
### 如何离线部署 DeepSeek-R1-Distill-Qwen-32B 大模型 为了成功离线部署 DeepSeek-R1-Distill-Qwen-32B 模型，环境配置和资源准备至关重要。确保硬件满足最低需求，包括足够的 GPU 显存和支持 CUDA 的 NVIDIA 图形卡[^1]。 #### 准备工作 安装必要的依赖库对于顺利运行大模型非常重要。通常情况下，这涉及 Python 环境设置以及 PyTorch 或 TensorFlow 这样的深度学习框架的安装。具体到 DeepSeek-R1-Distill-Qwen-32B，推荐使用 Anaconda 创建独立的工作环境来管理包版本冲突问题： ```bash conda create -n deepseek_env python=3.9 conda activate deepseek_env pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu117 ``` #### 下载并加载预训练权重 由于目标是在没有互联网连接的情况下部署该模型，因此需要提前下载好所有的文件，并将其存储在一个可访问的位置。官方文档建议通过有网络连接的设备预先获取这些资源，之后再转移到目标环境中。 ```python from transformers import AutoModelForCausalLM, AutoTokenizer model_name_or_path = "path_to_offline_model_directory" tokenizer = AutoTokenizer.from_pretrained(model_name_or_path) model = AutoModelForCausalLM.from_pretrained(model_name_or_path) ``` #### 配置推理服务 完成上述准备工作后，下一步就是构建一个能够接收请求并向用户提供响应的服务接口。Flask 是一种轻量级 Web 应用程序开发工具，非常适合用来快速搭建这样的 API 接口。 ```python from flask import Flask, request, jsonify app = Flask(__name__) @app.route('/predict', methods=['POST']) def predict(): input_text = request.json.get('input') inputs = tokenizer(input_text, return_tensors="pt").to("cuda") outputs = model.generate(**inputs) result = tokenizer.decode(outputs[0], skip_special_tokens=True) return jsonify({"output": result}) if __name__ == "__main__": app.run(host='0.0.0.0', port=5000) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值