小白也能看懂的DeepSeek-R1本地部署指南

应用开发2025-11-05 05:59:51915

春节期间,小白Deepseek以其卓越性能赢得众多技术爱好者的看懂关注。用户评价褒贬不一,本地部署但国际巨头的指南震惊足以证明其非凡之处。若你想在本地部署该模型,小白探索其强大功能,看懂以下指南将为你提供详细指导。本地部署本文将介绍Windows和Mac双平台的指南部署流程。

一、小白基础环境搭建安装Ollama下载Ollama: 访问Ollama官网,看懂根据你的本地部署操作系统(Windows、Mac或Linux)下载相应安装包。指南以Mac和Windows为例,小白 安装验证: 安装完成后,看懂在终端输入<font style="color:rgb(26,本地部署 32, 41);">ollama -v</font>验证安装是否成功。正确安装将显示版本号。如何打开终端: Mac:找到终端工具。Windows:使用Win+R输入cmd。

然后检查

代码语言:javascript 代码运行次数:0 运行 AI代码解释 复制 ollama -v

下载完成后,按照安装向导的提示逐步完成安装。在安装过程中,Ollama 服务会自动在电脑后台运行。

二、模型部署选择模型版本: 打开Ollama模型库,选择适合自己电脑硬件的DeepSeek-R1模型版本(1.5B、7B、32B等)。云服务器

以下是本地部署 DeepSeek系列模型(1.5B、7B、8B、14B、32B)在 Windows、macOS、Linux三个平台的最低和推荐硬件配置指南。配置需求主要基于模型的显存(GPU)、内存(RAM)和计算资源需求,同时考虑不同平台的优化差异。

通用配置原则模型显存占用(估算): 每 1B 参数约需 1.5-2GB 显存(FP16 精度)或 0.75-1GB 显存(INT8/4-bit 量化)。例如:32B 模型在 FP16 下需约 48-64GB 显存,量化后可能降至 24-32GB内存需求:至少为模型大小的 2 倍(用于加载和计算缓冲)。存储:建议 NVMe SSD,模型文件大小从 1.5B(约 3GB)到 32B(约 64GB)不等。分平台配置建议

以下按模型规模和平台分类,提供 最低配置推荐配置

1.5B 模型

平台

最低配置

推荐配置

Windows

- CPU: Intel i5 / Ryzen 5

- CPU: Intel i7 / Ryzen 7

- RAM: 8GB

- RAM: 16GB

- GPU: NVIDIA GTX 1650 (4GB)

- GPU: RTX 3060 (12GB)

macOS

- M1/M2 芯片(8GB 统一内存)

- M1 Pro/Max 或 M3 芯片(16GB+)

Linux

- CPU: 4 核

- CPU: 8 核

- RAM: 8GB

- RAM: 16GB

- GPU: NVIDIA T4 (16GB)

- GPU: RTX 3090 (24GB)

7B/8B 模型

平台

最低配置

推荐配置

Windows

- CPU: Intel i7 / Ryzen 7

- CPU: Intel i9 / Ryzen 9

- RAM: 16GB

- RAM: 32GB

- GPU: RTX 3060 (12GB)

- GPU: RTX 4090 (24GB)

macOS

- M2 Pro/Max(32GB 统一内存)

- M3 Max(64GB+ 统一内存)

Linux

- CPU: 8 核

- CPU: 12 核

- RAM: 32GB

- RAM: 64GB

- GPU: RTX 3090 (24GB)

- 多卡(如 2x RTX 4090)

14B 模型

平台

最低配置

推荐配置

Windows

- GPU: RTX 3090 (24GB)

- GPU: RTX 4090 + 量化优化

- RAM: 32GB

- RAM: 64GB

macOS

- M3 Max(64GB+ 统一内存)

- 仅限量化版本,性能受限

Linux

- GPU: 2x RTX 3090(通过 NVLink)

- 多卡(如 2x RTX 4090 48GB)

- RAM: 64GB

- RAM: 128GB

32B 模型

平台

最低配置

推荐配置

Windows

- 不推荐(显存不足)

- 需企业级 GPU(如 RTX 6000 Ada)

macOS

- 无法本地部署(硬件限制)

- 云 API 调用

Linux

- GPU: 4x RTX 4090(48GB 显存)

- 专业卡(如 NVIDIA A100 80GB)

- RAM: 128GB

- RAM: 256GB + PCIe 4.0 SSD

平台差异说明Windows: 依赖 CUDA 和 NVIDIA 驱动,推荐使用 RTX 30/40 系列。大模型(14B+)需借助量化或模型分片技术。macOS: 仅限 Apple Silicon 芯片(M1/M2/M3),依赖 Metal 加速。模型规模超过 14B 时性能显著下降,建议量化或云端部署。Linux: 支持多 GPU 扩展和高效资源管理(如 NVIDIA Docker)。适合部署大型模型(14B+),高防服务器需专业级硬件。注意事项量化优化:使用 4-bit/8-bit 量化可大幅降低显存需求(如bitsandbytes[6])。框架支持:优先选择优化好的库(如 vLLM、DeepSpeed、HuggingFace)。散热:长时间推理需确保散热(建议风冷/水冷)。

建议根据实际需求选择硬件,并优先在 Linux 环境下部署大模型。

(二)顺利下载与稳定运行

确定适合自己电脑配置的模型版本后,就可以开始下载和运行模型了。打开终端或 CMD 命令窗口,输入对应的运行指令:

若选择 1.5B 版本,输入 ollama run deepseek-r1:1.5b 。若选择 7B 版本,输入 ollama run deepseek-r1:7b 。我 Mac 选择的是这个。若选择 8B 版本,输入 ollama run deepseek-r1:8b 。 若选择 32B 版本,输入 ollama run deepseek-r1:32b 。 三、打造专属AI聊天室(一)安装配置 “Cherry Studio”

前往Cherry Studio 官方网站****,根据你的操作系统(支持 Windows、Mac 和 Linux)下载对应的安装包

安装

下载完成后,对于 Windows 系统,双击安装包,b2b供应网按照安装向导提示完成安装,期间可能需要同意用户协议、选择安装路径等常规步骤;对于 Mac 系统,将下载的应用程序文件拖移到 “应用程序” 文件夹;

配置

打开 Cherry Studio,在设置中找到 “模型设置” 选项。

模型选择:从模型列表中选择与你本地部署的 DeepSeek-R1 模型版本对应的选项,如果没有直接匹配项,选择支持自定义模型配置的入口。自定义配置:在自定义配置中,将 API 地址设置为http://localhost:11434 ,这是 Ollama 服务的默认接口地址,确保 Cherry Studio 能连接到本地运行的 DeepSeek-R1 模型。模型参数设置:根据你的硬件配置和使用需求,设置模型的相关参数,如最大生成长度、温度等,一般默认参数即可满足常见需求,但对于特定任务,你可以适当调整,比如生成创意文本时,可将温度调高至 0.8 - 1.0,以增加文本的多样性;进行严谨的知识问答时,可将温度调低至 0.5 - 0.7 ,使回答更稳定。API 密钥大家随意设置就好,然后点击检查就好。

配置完成后大家记得默认模型也可以配制成 deepseek。

(二)安装配置 Chatbox 客户端

Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用

为了更便捷地与部署好的 DeepSeek-R1 模型进行交互,你可以下载开源客户端 Chatbox。访问官网[8]即可进行下载。Chatbox 支持中文界面与 Markdown 渲染,使用起来非常方便。

下载安装好 Chatbox 后,打开软件进行关键配置:

API 类型:选择 “OLLAMA”,这一步能确保 Chatbox 与我们部署的 DeepSeek-R1 模型进行正确通信。接口地址:填写http://localhost:11434 ,这个地址是 Ollama 服务的默认接口地址,通过它 Chatbox 可以连接到本地运行的 DeepSeek-R1 模型。模型名称:务必填写与之前下载的模型版本完全一致的名称,例如,如果之前下载的是 7B 版本,模型名称就必须填写 deepseek-r1:7b ,否则可能会导致连接失败。

通过以上步骤,你不仅可以使用 Cherry Studio 还能通过 Chatbox 与本地部署的 DeepSeek-R1 模型进行交互。希望大家都能顺利部署,开启属于自己的 AI 探索之旅。大家遇到问题也可以在后台私信我。

四、如何使用DeepSeek使用公式: 按照身份、任务、细节、格式的顺序重组问题,以获得所需结果。
本文地址:http://www.bhae.cn/html/44e9099865.html
版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

全站热门

联想电脑CPU风扇错误的解决方法(探索联想电脑CPU风扇错误原因及应对措施)

SpringCloud微服务中如何实现多端认证?

高性能无锁队列 Disruptor 核心原理分析及其在i主题业务中的应用

企业建站如何选域名?有什么方法?

宏基E5-532G-C98P的性能与优势(一款高性能、全能的笔记本电脑)

域名提交预定后,预定抢注的结果有哪些?

游戏行业GAMES域名后缀如何?GAMES域名有多大价值?

Python 命令补全工具 argcomplete

友情链接

滇ICP备2023000592号-9