当前位置: 首页 > news >正文

Deepseek部署的模型参数要求

DeepSeek 模型部署硬件要求

模型名称参数量显存需求(推理)显存需求(微调)CPU 配置内存要求硬盘空间适用场景
DeepSeek-R1-1.5B1.5B4GB+8GB+最低 4 核(推荐多核)8GB+3GB+低资源设备部署,如树莓派、旧款笔记本等
DeepSeek-R1-7B7B8GB+16GB+8 核以上(推荐现代多核 CPU)16GB+8GB+中小型企业本地开发测试、中等复杂度 NLP 任务
DeepSeek-R1-8B8B8GB+16GB+8 核以上(推荐现代多核 CPU)16GB+8GB+需更高精度的轻量级任务(如代码生成、逻辑推理)
DeepSeek-R1-14B14B16GB+32GB+12 核以上32GB+15GB+企业级复杂任务、长文本理解与生成
DeepSeek-R1-32B32B24GB+48GB+16 核以上(如 AMD Ryzen 9 或 Intel i9)64GB+30GB+高精度专业领域任务、多模态任务预处理
DeepSeek-R1-70B70B48GB+96GB+32 核以上(服务器级 CPU)128GB+70GB+科研机构/大型企业、高复杂度生成任务
DeepSeek-R1-671B671B128GB+256GB+64 核以上(服务器集群)512GB+300GB+超大规模 AI 研究、通用人工智能(AGI)探索

NVIDIA显卡

显卡型号显存容量显存类型
RTX 509032GBGDDR7
RTX 5090D32GBGDDR7
RTX 508016GBGDDR7
RTX 5070Ti16GBGDDR7
RTX 507012GBGDDR7
RTX 4090D24GBGDDR6X
RTX 408016GBGDDR6X
RTX 4070TiSuper12GBGDDR6X
RTX 4070Super12GBGDDR6X
RTX 4060Ti 16G16GBGDDR6
RTX 4060Ti 8G8GBGDDR6
RTX 40608GBGDDR6

NVIDIA 10 系列显卡

显卡型号显存容量显存类型显存位宽
GT 10302GBGDDR564bit

NVIDIA 20 系列显卡

显卡型号显存容量显存类型显存位宽
RTX 2080 Ti11GBGDDR6352bit
RTX 20808GBGDDR6256bit
RTX 2070 Super8GBGDDR6256bit
RTX 20708GBGDDR6256bit
RTX 2060 Super8GBGDDR6256bit
RTX 20606GBGDDR6192bit

NVIDIA 30 系列显卡

显卡型号显存容量显存类型显存位宽
RTX 3090 Ti24GBGDDR6X384bit
RTX 309024GBGDDR6X384bit
RTX 3080 Ti12GBGDDR6X384bit
RTX 308012GBGDDR6X320bit
RTX 3070 Ti8GBGDDR6X256bit
RTX 30708GBGDDR6256bit
RTX 3060 Ti8GBGDDR6256bit
RTX 306012GBGDDR6192bit
RTX 30508GBGDDR6128bit

AMD显卡

显卡型号显存容量显存类型
Radeon RX 9070 XT16GBGDDR6
Radeon RX 907016GBGDDR6
Radeon RX 7900GRE16GBGDDR6
Radeon RX 7800XT12GBGDDR6

Intel显卡

显卡型号显存容量显存类型
Arc B58012GBGDDR6
Arc B57010GBGDDR6
http://www.lryc.cn/news/533459.html

相关文章:

  • AI-学习路线图-PyTorch-我是土堆
  • [LeetCode]day17 349.两个数组的交集
  • axios 发起 post请求 json 需要传入数据格式
  • linux交叉编译paho-mqtt-c
  • feign Api接口中注解问题:not annotated with HTTP method type (ex. GET, POST)
  • 安装指定版本的pnpm
  • 【系统设计】Spring、SpringMVC 与 Spring Boot 技术选型指南:人群、场景与实战建议
  • 常用数据结构之String字符串
  • 深入Linux系列之进程地址空间
  • HAL库外设宝典:基于CubeMX的STM32开发手册(持续更新)
  • 网络安全-HSTS
  • 全程Kali linux---CTFshow misc入门(38-50)
  • HarmonyOS:时间日期国际化
  • 使用miniforge代替miniconda
  • LIMO:少即是多的推理
  • 【玩转 Postman 接口测试与开发2_018】第14章:利用 Postman 初探 API 安全测试
  • 如何编写测试用例
  • 复原IP地址(力扣93)
  • zzcms接口index.php id参数存在SQL注入漏洞
  • Redis03 - 高可用
  • 系统URL整合系列视频四(需求介绍补充)
  • 激活函数篇 03 —— ReLU、LeakyReLU、ELU
  • 山东大学软件学院人机交互期末复习笔记
  • python 语音识别方案对比
  • docker常用命令及案例
  • DeepSeek-R1 云环境搭建部署流程
  • Java_双列集合
  • .net的一些知识点6
  • 无须付费,安装即是完全版!
  • 常见数据库对象与视图VIEW