江苏网站建设价格b站推广入口在哪

DeepSeek本地部署详细指南

DeepSeek作为一款开源且性能强大的大语言模型，提供了灵活的本地部署方案，让用户能够在本地环境中高效运行模型，同时保护数据隐私，这里记录自己DeepSeek本地部署流程。

主机环境

• cpu:amd 7500F
• gpu:4060 8G
• system:win11
• memory: 32G

步骤

1. 下载安装Ollama
   去官网https://ollama.com/download/windows下载ollama，根据自己需求下载对应版本，我这里下载的是windows版。
   
   安装成功标志，桌面左下角展示ollama图标
   

2. 设置大语言模型下载目录
   这里修改下存储目录，不是必须设置，不设置的话会默认将所有内容下载到C盘下面。
   高级系统设置->环境变量->新建系统变量
   
   

3. 下载大语言模型
   在刚才的官网搜索deepseek，选择合适的模型，若显存8GB选择7/8b，若显存为12GB，可选择14b。
   
   若选择了8b，可使用下面命令进行安装

ollama run deepseek-r1:8b

随后打开任务管理器（记得用管理员），然后输入命令进行部署，本地会下载对应的模型。

安装成功标志