DeepSeek本地部署保姆级教程,0基础有手就会!

发布于 2025-02-11 · DeepSeek R1全球爆火,不需要专业的prompt撰写能力,只要能说清楚问题,就算你是只会打字的小学生,也能获得高质量的回答。开发成本、输出质量全面领先OpenAI...

DeepSeek R1一经发布便在全球范围迅速走红。它不需要用户具备专业的 prompt 撰写能力,只要能把问题表述清楚,哪怕是只会打字的初学者,也能获得高质量的回答。无论是开发成本还是输出质量,都全面领先于 OpenAI o1。

站长推荐:DeepSeek服务器繁忙怎么解决?16个免费R1满血版平替

DeepSeek-R1

美中不足的是,由于访问量过于庞大,它经常出现服务中断的情况。

于是很多人开始转而使用其他接入了 R1 的平台。有人可能会问:这些平台确实很强,但还是太消耗 Token 了,有没有既免费又简单的方式用上 DeepSeek R1 呢?

当然有。

直接在自己的电脑上本地部署 R1 就可以了。无需联网、不用担心数据泄露、完全免费,还能搭建个人知识库,训练属于你自己的专属 AI 助理。

01

部署流程

 

本地部署只需三步:

  • 安装 Ollama
  • 下载 DeepSeek-R1 大模型
  • 使用 Cherry Studio 调用模型

Ollama 模型库中收录了 40 多种开源模型,例如阿里云通义千问推出的 Qwen2.5、Meta 最新发布的 Llama 3.3 等等,都可以通过这套流程在本地完成部署。

操作简单,零基础也能轻松上手,而且完全免费!

下面我们就一步一步还原本地部署 DeepSeek-R1 大模型的完整过程。

02

安装Ollama

Ollama是一款在本地计算机上运行大模型的命令行工具,有了它,你就可以在本地直接跑大模型。

进入 Ollama 官网,点击 Download。

 

竹江AI导航

 

我使用的是 Windows 系统,因此直接选择对应版本下载。

下载完成后点击安装,默认会装在 C 盘,Windows 版本不支持修改安装路径,所以直接一路点"下一步"即可。

需要注意的是,安装完成后右下角会弹出提示框,点击"确认"即可弹出窗口。

Ollama 就安装成功了。

03

部署DeepSeek R1模型

回到 Ollama 官网,点击左上角的"Models"进入模型库,找到 DeepSeek-R1 大模型。

Ollama 提供了 7 种不同参数规模的模型供用户下载。

R1 的满血版参数为 671B,大约需要 1300GB 的显存才能跑起来。

1.5B 到 70B 属于 R1 的蒸馏版,能力虽不及满血版(参数越大能力越强),但对硬件要求更低,在同规模开源模型中表现依然十分突出,适合个人或企业本地部署。

我整理了一份DeepSeek-R1 各版本配置要求的对照表,大家可以根据自身情况选择:

这里我选择 1.5B 的模型,复制后面的命令:ollama run deepseek-r1:1.5b

把命令粘贴到 Ollama 弹出的窗口中,按回车,就会开始下载模型。

耐心等待进度条走到 100%,最后提示"success",就说明下载完成了。

在命令行输入ollama run deepseek-r1:1.5b + 你的问题,就能直接与 AI 对话了。

不过这个界面看起来比较简陋,而且每次提问都要复制一行命令,使用起来不太方便。

下面我们通过客户端来解决这个问题。

04

通过Cherry Studio调用模型

Cherry Studio是一款开源的多模型桌面客户端,可以直接调用主流大模型,例如 OpenAI、Gemini 以及本地模型。

类似的开源好用客户端还有Chatbox AI、AnythingLLM 等等。

官方也整理过一份实用集成文件,可以帮助我们更好地使用 DeepSeek。

这里我们以 Cherry Studio 为例,一起操作一遍。

进入 Cherry Studio 官网的下载页面,可以点击立即下载,也可以从网盘链接下载。

安装步骤同样是一路点下一步即可。

安装完成后点击左下角的设置。

在模型服务中选择 Ollama,点亮右上角的启用开关,API 密钥会自动填入,然后点击管理。

可以看到本地已经安装好的 DeepSeek-R1 模型,点击右侧的 + 号。

回到首页,点击页面上方显示的模型名称。

选择我们本地部署的 DeepSeek-R1:1.5B。

就可以正常与 AI 对话了。

1.5B 模型的泛用性相对有限,适合处理简单的问答;如果想把本地部署的 R1 用于工作场景,推荐选择 7B 或更高参数的版本。

本地部署 DeepSeek 具有响应及时、免费、个性化程度高等优势,但对硬件配置有一定要求,有合适设备的朋友可以尝试一下。

掌握这套方法,你就能在本地部署任意一款开源大模型,快去试试吧!

本文涉及的所有工具:

Ollama:Ollama

Cherry Studio:/posts/cherry-studio

原文链接:DeepSeek本地部署保姆级教程,0基础有手就会!

0

相关文章

0 条评论

后参与评论

暂无评论,来抢沙发。