当前位置：首页 > 文章列表 > 科技周边 > 人工智能 > WorkBuddy 接入 DeepSeek-V3 模型的详细配置步骤

WorkBuddy 接入 DeepSeek-V3 模型的详细配置步骤

2026-05-03 14:24:50 0浏览收藏

学习知识要善于思考，思考，再思考！今天golang学习网小编就给大家带来《WorkBuddy 接入 DeepSeek-V3 模型的详细配置步骤》，以下内容主要包含等知识点，如果你正在学习或准备学习科技周边，就都不要错过本文啦~让我们一起来看看吧，能帮助到你就更好了！

需完成模型服务部署、API参数配置与提示词适配三重环节：一、用vLLM本地部署DeepSeek-V3并监听8000端口；二、在WorkBuddy添加自定义模型，Base URL为http://127.0.0.1:8000/v1，模型ID为deepseek-v3；三、将系统提示词替换为DeepSeek-V3专用轻量模板。

如果您希望在WorkBuddy中使用DeepSeek-V3模型进行高质量代码生成或复杂推理任务，则需完成模型服务部署、API参数配置与提示词适配三重环节。以下是实现该目标的详细配置步骤：

一、部署DeepSeek-V3本地推理服务

DeepSeek-V3不以内置方式集成于WorkBuddy，必须先在本地启动兼容OpenAI格式的HTTP推理接口，使WorkBuddy可通过标准v1/chat/completions路径调用。该服务是后续所有配置生效的前提。

1、创建Python虚拟环境并安装依赖：
conda create -n deepseek-v3 python=3.10 && conda activate deepseek-v3
pip install torch==2.1.0 transformers==4.36.0 accelerate==0.26.0 vLLM==0.4.2

2、从Hugging Face下载模型权重（需提前注册账号并申请deepseek-ai/deepseek-v3访问权限）：
git lfs install
git clone https://huggingface.co/deepseek-ai/deepseek-v3

3、使用vLLM启动服务，监听本地8000端口：
vllm serve --model deepseek-ai/deepseek-v3 --dtype bfloat16 --tensor-parallel-size 1 --port 8000 --host 127.0.0.1

4、验证服务连通性：
curl -X POST http://127.0.0.1:8000/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"deepseek-v3","messages":[{"role":"user","content":"Hello"}]}'

二、在WorkBuddy中添加自定义DeepSeek-V3模型

WorkBuddy通过“AI模型→添加自定义模型”入口注入外部LLM，要求严格遵循OpenAI兼容协议；若Base URL或模型ID不匹配，将返回404 Not Found或500 Internal Server Error。

1、打开WorkBuddy客户端，点击右上角头像进入【设置】，选择【AI模型】选项卡。

2、点击右下角【+ 添加模型】按钮，在弹出表单中填写以下内容：
模型名称：DeepSeek-V3
API基础地址：http://127.0.0.1:8000/v1
API密钥：留空（vLLM默认未启用鉴权）

3、在“模型ID”字段中输入与vLLM启动时--model参数完全一致的标识：deepseek-v3

4、点击【保存】后，观察状态栏是否显示“模型校验中”，数秒后若出现绿色对勾即表示接入成功。

三、替换系统提示词模板以适配DeepSeek-V3对话结构

DeepSeek-V3对system角色指令高度敏感，若沿用WorkBuddy默认模板（含多轮历史摘要与格式约束），会导致响应截断、拒绝生成或输出非预期JSON结构。必须手动覆盖为DeepSeek训练时所采用的轻量级system schema。

1、在刚添加的DeepSeek-V3模型配置项右侧，点击【高级设置】展开区域。

2、将“系统提示词模板”字段中原有内容全部清空，替换为以下纯文本：
You are a highly capable AI assistant based on DeepSeek-V3. You excel at code generation, logical reasoning, and multi-step problem solving. Respond concisely and accurately in English unless explicitly instructed otherwise.

3、关闭高级设置面板，再次点击【保存】以使新模板生效。