WSL2 Ubuntu 安装部署 Ollama 本地大模型

📌 前言

Ollama 是一款优秀的本地大语言模型（LLM）运行工具，支持在本地轻松下载、管理和运行各种开源大模型（如 Llama、Mistral、Qwen、DeepSeek 等）。与云端 API 方案相比，Ollama 具有数据完全本地化、无需网络、无限次调用等优势。

本教程将详细介绍在 WSL2 Ubuntu 20.04 环境下从零开始安装部署 Ollama 的完整流程。

🖥️ 环境说明

💡 提示：如果你的机器没有 Nvidia GPU，Ollama 也可以仅靠 CPU 运行，只是推理速度会慢一些。

📥 安装 Ollama

方式一：官方一键安装（推荐）

Ollama 官方提供了 Linux 一键安装脚本，非常方便：

1

curl -fsSL https://ollama.com/install.sh | sh

💡 建议：执行前可以先为终端配置代理，加快下载速度。

执行后输入 sudo 密码，安装过程会自动完成：

1
2
3
4
5
6
7
8
9
10
11
12

>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle
######################################################################## 100.0%
>>> Creating ollama user...
>>> Adding ollama user to render group...
>>> Adding ollama user to video group...
>>> Adding current user to ollama group...
>>> Creating ollama systemd service...
>>> Enabling and starting ollama service...
Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service.
>>> Nvidia GPU detected.
>>> Install complete. Run "ollama" from the command line.

安装过程详解

安装脚本自动完成了以下配置：

用户与权限：

• 创建专用 ollama 用户以保证程序以独立身份运行
• 将 ollama 用户加入 render 和 video 组，使其拥有图形处理和硬件加速权限
• 将当前执行用户加入 ollama 组，方便后续管理

服务管理：

• 创建 systemd 服务，使 Ollama 可随系统自启
• 立即启动服务，安装即用

硬件检测：

• 自动检测 Nvidia GPU 并启用 GPU 加速
• 若无 GPU，自动回退到纯 CPU 模式

安装完成后，Ollama API 默认监听在本机 127.0.0.1:11434。

方式二：手动下载安装

如果一键安装脚本不适用，也可以从 Ollama 官方下载页面 手动下载对应版本进行安装。

⚙️ 配置模型存储路径

Ollama 默认的模型存储路径因系统而异：

为了方便管理，建议将模型存储路径修改到自定义位置：

第一步：创建模型目录

1

mkdir -p /home/snail/model/ollama

第二步：配置环境变量

以 zsh 为例，编辑 .zshrc 文件：

1

vim ~/.zshrc

在文件末尾添加以下内容：

1

export OLLAMA_MODELS="/home/snail/model/ollama"

第三步：重新加载配置

1

source ~/.zshrc

注意：如果你的 Shell 是 bash，则修改 ~/.bashrc 文件，步骤相同。

🎯 下载并运行模型

常用命令一览

1
2
3
4
5
6
7
8
9
10
11

ollama serve         # 启动 Ollama 服务
ollama create        # 从 Modelfile 创建自定义模型
ollama show          # 显示模型详细信息
ollama run           # 运行/交互模型
ollama pull          # 从模型仓库拉取模型
ollama push          # 将自定义模型推送到仓库
ollama list          # 列出已下载的模型
ollama ps            # 列出当前正在运行的模型
ollama cp            # 复制模型
ollama rm            # 删除模型
ollama help          # 查看帮助信息

下载模型示例

Ollama 支持众多开源模型，以下是一些推荐：

例如，下载并运行 Qwen 2.5 模型：

1
2
3
4
5

# 下载模型
ollama pull qwen2.5

# 或者直接运行（会自动下载）
ollama run qwen2.5

测试模型

进入交互模式后，输入对话内容即可测试：

1
2

>>> 你好，请用中文介绍一下你自己
你好！我是通义千问2.5，由阿里云开发的大型语言模型...

输入 /bye 退出交互模式。

🔧 常见问题

Q1: WSL2 中 systemd 未启用

如果 ollama.service 启动失败，可能是因为 WSL2 默认未启用 systemd。解决方案：

在 /etc/wsl.conf 中添加：

1
2

[boot]
systemd=true

然后重启 WSL2：

1
2
3

# 在 Windows PowerShell 中执行
wsl --shutdown
wsl

Q2: GPU 加速未生效

确保 WSL2 中已安装 Nvidia 驱动和 CUDA 工具包：

1
2
3
4

# 检查 GPU 是否被识别
nvidia-smi

# 如果没有输出，需要在 Windows 主机安装 Nvidia WSL2 驱动

Windows 主机安装 Nvidia WSL2 驱动 后，WSL2 内部会自动识别 GPU。

Q3: 端口冲突

如果 11434 端口被占用，可以通过环境变量修改：

1

export OLLAMA_HOST="127.0.0.1:11435"

Q4: 模型下载中断

网络不稳定时模型下载可能中断，重新执行 ollama pull 命令会继续断点续传。

📝 总结

通过本教程，你应该已经成功在 WSL2 Ubuntu 上完成了以下工作：

✅ 安装 Ollama 并配置系统服务
✅ 自定义模型存储路径
✅ 下载并运行大语言模型
✅ 掌握常用管理命令

Ollama 让本地运行大模型变得前所未有的简单。无论是用于日常问答、编程辅助，还是本地知识库搭建，它都是一个非常优秀的起点。

🔗 相关链接

• Ollama 官方网站
• Ollama GitHub 仓库
• Ollama 模型仓库
• Nvidia WSL2 驱动下载

📢 如果本文对你有帮助，欢迎点赞收藏！如有问题欢迎在评论区留言讨论。