在 Linux 系统上部署本地 AI 模型用于编程辅助

发表于 2026-08-21 更新于 2026-08- 21

作者 mdo

17~22 分钟 阅读

在 Linux 系统上部署本地 AI 模型用于编程辅助（如代码生成、Debug、重构、自动补全）是非常高效的选择。由于您是用于编程，最推荐的方案是使用 Ollama 作为模型后端，结合 VS Code 或 Cursor 插件，实现类似 GitHub Copilot 的本地化体验。

1. 编程专属本地模型推荐

根据您的显卡显存（VRAM）或系统内存（RAM）大小，选择以下最适合编程的模型：

Qwen2.5-Coder (当前最强开源编程模型系列)
- 0.5B / 1.5B / 3B：极度轻量，适合配置较低的普通笔记本，用于低延迟的代码补全。
- 7B / 14B：黄金规格。代码能力超越许多闭源大模型，需要 8GB - 16GB 以上显存。
- 32B：顶尖性能，适合拥有 24GB 显存（如 RTX 3090/4090）的高端开发工作站。
DeepSeek-Coder-V2
- 16B (Lite)：对多语言编程和数学逻辑有极佳的支持。

2. Linux 极速部署三步走

第一步：安装 Ollama 后端

Linux 拥有原生的性能优势。打开终端，运行以下命令一键安装： [1]

bash

curl -fsSL https://ollama.com | sh

请谨慎使用此类代码。

安装完成后，Ollama 会自动在后台运行服务。

第二步：下载编程模型

以最推荐的 Qwen2.5-Coder 7B 为例，在终端运行：

bash

ollama run qwen2.5-coder:7b

请谨慎使用此类代码。

初次运行会自动下载模型，下载完成后，您可以直接在终端里与它对话测试代码。

第三步：连接到您的编辑器 (以 VS Code 为例)

要在写代码时真正用上它，您需要一个编辑器插件：

在 VS Code 插件市场搜索并安装 Continue 或 Llama Coder。
以 Continue 插件为例，安装后打开其配置文件 config.json。
将模型配置指向本地的 Ollama（它会自动识别）。示例配置：
json
```
{
  "models": [
    {
      "title": "Qwen2.5-Coder 7B",
      "provider": "ollama",
      "model": "qwen2.5-coder:7b"
    }
  ],
  "tabAutocompleteModel": {
    "title": "Qwen2.5-Coder 1.5B",
    "provider": "ollama",
    "model": "qwen2.5-coder:1.5b"
  }
}
```
请谨慎使用此类代码。
(注：强烈建议使用较小的模型如 1.5B 负责单行代码补全 Tab-Autocomplete，使用较大的 7B 负责侧边栏的复杂对话和 Debug)

为了帮您把这套本地编程环境调校到最佳状态，请问：

您的显卡型号是什么？（例如：NVIDIA RTX 4060、AMD 显卡 或 纯 CPU 运行）
您主要使用哪种编程语言？（例如：Python、C++、Go 还是 前端 Web）

前端vue 后端php

针对 Vue (前端) + PHP (后端) 的开发组合，Qwen2.5-Coder 是目前支持最完美的本地模型，因为它在 HTML/CSS/JavaScript 以及 PHP 语法和常见框架（如 Vue 3 Composition API、Laravel、Symphony）上都经过了深度微调。

以下是为您定制的 Linux 开发环境配置指南，将本地 AI 完美嵌入您的 Vue + PHP 工作流中：

1. 模型精细化分工选择

为了获得最流畅的编码体验，建议在 Ollama 中下载两个模型，分别处理“代码补全”和“架构/Debug 对话”：

bash

# 1. 下载专门用于 Tab 键单行/多行自动补全的小模型（响应速度极快，毫秒级）
ollama pull qwen2.5-coder:1.5b

# 2. 下载用于侧边栏聊天、重构、写复杂 PHP 业务逻辑或 Vue 组件的大模型
ollama pull qwen2.5-coder:7b

请谨慎使用此类代码。

2. VS Code 插件 Continue 完美配置

在 VS Code 中安装 Continue 插件。打开 Continue 的配置文件 ~/.continue/config.json，将其修改为适合 Vue + PHP 开发的专属配置：

json

{
  "models": [
    {
      "title": "Qwen 2.5 Coder 7B (问答/重构)",
      "provider": "ollama",
      "model": "qwen2.5-coder:7b"
    }
  ],
  "tabAutocompleteModel": {
    "title": "Qwen 2.5 Coder 1.5B (代码补全)",
    "provider": "ollama",
    "model": "qwen2.5-coder:1.5b"
  },
  "customCommands": [
    {
      "name": "vue3",
      "prompt": "请将以下代码重构为 Vue 3 <script setup> 组合式 API 风格，并确保 TypeScript/JavaScript 类型正确。"
    },
    {
      "name": "php-secure",
      "prompt": "请检查这段 PHP 代码是否存在 SQL 注入、XSS 或其它安全漏洞，并给出修复后的代码。"
    }
  ],
  "contextProviders": [
    { "name": "codebase", "params": {} },
    { "name": "openFiles", "params": {} }
  ]
}

请谨慎使用此类代码。

3. 高频开发场景使用技巧

场景 A：前后端联调与 API 对接 (利用 @codebase)

在 Continue 的聊天侧边栏中，你可以使用 @codebase 功能让本地 AI 读取你整个 Linux 项目目录：

输入示例：@codebase 这是一个 PHP 的用户注册接口控制器，请帮我生成对应的 Vue 3 Axios 请求函数和 Pinia 状态管理代码。
优势：它会自动读取你的 PHP 文件结构，吐出精准对齐字段的 Vue 前端代码。

场景 B：Vue 2 转换为 Vue 3

选中老旧的 Vue 2 组件代码，按下快捷键 Ctrl + I（在代码行内呼出 AI）：

输入示例：/vue3 加上响应式变量和 computed 计算属性
优势：本地模型处理这种结构化转换速度极快且完全免费。

场景 C：PHP 遗留代码重构与安全检查

选中一段复杂的 PHP 原生 SQL 语句或老旧的逻辑代码，使用快捷键：

输入示例：/php-secure
优势：本地模型特别擅长在不泄露公司业务源码的前提下，帮你找出 PHP 代码中的隐藏 Bug。

技术

许可协议: CC BY 4.0