csdn_aspnet的专栏，请点击博客主页右上角三个点中的私信联系

人工智能 (AI) 正在快速发展，借助DeepSeek等强大的开源模型，您现在可以在自己的机器上本地运行尖端的大型语言模型 (LLM)。本指南将引导您使用轻量级推理框架Ollama在本地部署 DeepSeek 的最快捷、最简单的方法。在本教程结束时，您将可以在设备上运行 DeepSeek，通过Python API访问，并准备好进行 AI 驱动的实验。

使用 .NET 在我的 MacBook Pro 上与当地 LLM 聊天的历程。如今，只需使用浏览器即可轻松使用 ChatGPT 或其他 genAI。作为开发人员，我们可以通过直接集成 OpenAI API 等来做更复杂的事情。如果我们想在自己的机器上运行 LLM，只是为了找人聊天或开发一些有趣的东西，该怎么办？最近发布的模型在软件和技术行业引起了轰动。得益于技术，更小、资源更便宜的模型现在可以在特定任务上发挥同样强大的作用。无论是在 genAI 还是 ML 世界中，Python 都是占主导地位的堆栈。

在本地运行它，您可能想知道如何将其与您的 Node.js 应用程序集成。本指南将向您展示如何设置和使用。确保 Ollama 正在运行并且已下载 DeepSeek R1 模型。步骤 1：使用 Ollama 在本地启动 DeepSeek R1。是一款开源 LLM，可提供强大的生成式 AI 功能。步骤 3：配置 OpenAI SDK 以使用 Ollama。第 2 步：安装依赖项（Nodejs）为了提高性能并实时获得响应，请启用流式。步骤 4：启用流式响应。

欢迎阅读 DeepSeek-Coder 系列第 2 部分！如果您还没有阅读第 1 部分，我强烈建议您先阅读一下 — 它介绍了我如何选择 DeepSeek-Coder-V2 (DSC2)、基础模型和指导模型之间的区别以及量化方面的一些关键考虑因素。在这篇文章中，我们将深入探讨在 M2 MacBook Air 上本地部署 DeepSeek-Coder 的实际步骤，向您展示如何测试其编码能力，并分享一些关于体验的临别感想。刚开始这段旅程时，我并不完全确定运行本地托管模型是否值得花费时间和精力。

本博客系列的第一部分重点介绍部署背后的策略 — 尤其是我如何提示 R1 获取模型建议和说明。如果您想直接跳到设置过程，请转到第 2 部分，我将在其中介绍实际的部署步骤。本地 AI 编码助手在原始性能方面无法与Claude 3 Opus 或 DeepSeek-R1 的 API 等商业选项相媲美，实际上，它与它们相差甚远。付费解决方案功能更强大、更精致。

在 VSCode 中本地运行 DeepSeek，本文将分步向您展示如何在本地安装和运行 DeepSeek、使用 CodeGPT 对其进行配置以及开始利用 AI 来增强您的软件开发工作流程，所有这些都无需依赖基于云的服务。

它是免费的——社区驱动的人工智能💪。当 OpenAI 第一次推出定制 GPT 时，我就明白会有越来越多的人为人工智能做出贡献，并且迟早它会完全由社区驱动。但从来没有想过它会如此接近😂让我们看看如何在 Windows 机器上完全免费使用第一个开源推理模型！