当前位置: 首页 > news >正文

【DeepSeek】私有化本地部署图文(Win+Mac)

目录

一、DeepSeek本地部署【Windows】

1、安装Ollama

2、配置环境变量

3、下载模型

4、使用示例

a、直接访问

b、chatbox网页访问

二、DeepSeek本地部署【Mac】

1、安装Ollama

2、配置环境变量

3、下载模型

4、使用示例

5、删除已下载的模型

三、DeepSeek其他

1、各个蒸馏版本对应硬件配置参考

2、DeepSeek-V3的综合能力

3、DeepSeek-个人知识库


一、DeepSeek本地部署【Windows】

1、安装Ollama

Ollama官网Ollama

2、配置环境变量

OLLAMA_HOST 0.0.0.0
OLLAMA_ORIGINS*

3、下载模型

4、使用示例

a、直接访问

b、chatbox网页访问

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载


二、DeepSeek本地部署【Mac】

1、安装Ollama

2、配置环境变量

launchctl setenv OLLAMA_HOST "0.0.0.0"
launchctl setenv OLLAMA_ORIGINS "*"

还是不成功的请访问chatbox的帮助

直达链接:

如何将 Chatbox 连接到远程 Ollama 服务:逐步指南 - Chatbox 帮助中心:指南与常见问题

3、下载模型

4、使用示例

总的来看,一般电脑比较适合部署14b版本,也算能用,毕竟是蒸馏版本,参数量在这放着呢,虽然是蒸馏版本,但也基本都保留了核心的推理能力。

如果想跑更高版本的,硬件配置很多人吃不消的,个人的建议14b玩玩就行了。

专业可靠的还得是官方的满血版本,硬件配置要求太高了。

有台式机可以搞到128G运存的,可以尝试下32b/70b的版本的。

5、删除已下载的模型

1.进入 cmd 
2.查看已经部署的模型,输入:ollama list
3. 删除指定的模型: ollama rm deepseek -r1:70b

三、DeepSeek其他

1、各个蒸馏版本对应硬件配置参考

模型版本CPU要求内存要求硬盘要求显卡要求适用场景
DeepSeek-R1-1.5B最低4核,推荐Intel/AMD多核处理器8GB+3GB+非必需,若需GPU加速,可选4GB+显存(如GTX 1650)低资源设备部署等场景
DeepSeek-R1-7B8核以上,推荐现代多核CPU16GB+8GB+推荐8GB+显存(如RTX 3070/4060)本地开发测试等场景
DeepSeek-R1-8B与7B相近,略高10-20%与7B相近,略高10-20%与7B相近,略高10-20%与7B相近,略高10-20%需更高精度的轻量级任务
DeepSeek-R1-14B12核以上32GB+15GB+16GB+显存(如RTX 4090或A5000)企业级复杂任务
DeepSeek-R1-32B16核以上(如AMD Ryzen 9或Intel i9)64GB+30GB+24GB+显存(如A100 40GB或双卡RTX 3090)高精度专业领域任务
DeepSeek-R1-70B32核以上服务器级CPU128GB+70GB+需多卡并行(如2x A100 80GB或4x RTX 4090)科研机构等高复杂度生成任务

2、DeepSeek-V3的综合能力

3、DeepSeek-个人知识库


有用请点赞,养成良好习惯!

疑问、交流、鼓励请留言!

http://www.lryc.cn/news/544151.html

相关文章:

  • Python 入门教程(2)搭建环境 | 2.3、VSCode配置Python开发环境
  • Wireshark详解
  • 《从零开始掌握Python:一份全面的学习指南》
  • 布署elfk-准备工作
  • LlamaFactory-webui:训练大语言模型的入门级教程
  • 达梦数据库授权给某个用户查询其他指定用户下所有表的权限
  • uniapp 微信小程序打包之后vendor.js 主包体积太大,解决办法,“subPackages“:true设置不生效
  • Docker数据卷容器实战
  • 【Eureka 缓存机制】
  • docker-compose方式启动Kafka Sasl加密认证(无zk)
  • [ComfyUI]官方已支持Skyreels混元图生视频,速度更快,效果更好(附工作流)
  • 数据库导出
  • Flask 应用结构与模块化管理详细笔记
  • Excel的两个小问题解决
  • 计算机毕业设计Python+DeepSeek-R1大模型期货价格预测分析 期货价格数据分析可视化预测系 统 量化交易大数据 机器学习 深度学习
  • JVM 面试
  • 智慧后勤的消防管理:豪越科技为安全护航
  • 【Elasticsearch】(Java 版)
  • DeepSeek在昇腾上的模型部署 - 常见问题及解决方案
  • 安全面试5
  • 【Python量化金融实战】-第2章:金融市场数据获取与处理:2.1 数据源概览:Tushare、AkShare、Baostock、通联数据(DataAPI)
  • Exoplayer(MediaX)实现音频变调和变速播放
  • 服务器间迁移conda环境
  • docker高级
  • Redis Stream基本使用及应用场景
  • DAY40|动态规划Part08|LeetCode: 121. 买卖股票的最佳时机 、 122.买卖股票的最佳时机II 、 123.买卖股票的最佳时机III
  • 【安装及调试旧版Chrome + 多版本环境测试全攻略】
  • 【Linux】进程间通信——命名管道
  • Qt在Linux嵌入式开发过程中复杂界面滑动时卡顿掉帧问题分析及解决方案
  • AI学习第六天-python的基础使用-趣味图形