当前位置: 首页 > news >正文

deepseek本地部署

DeepSeek本地部署详细指南

DeepSeek作为一款开源且性能强大的大语言模型,提供了灵活的本地部署方案,让用户能够在本地环境中高效运行模型,同时保护数据隐私,这里记录自己DeepSeek本地部署流程。

主机环境

  • cpu:amd 7500F
  • gpu:4060 8G
  • system:win11
  • memory: 32G

步骤

  1. 下载安装Ollama
    去官网https://ollama.com/download/windows下载ollama,根据自己需求下载对应版本,我这里下载的是windows版。
    在这里插入图片描述
    安装成功标志,桌面左下角展示ollama图标
    在这里插入图片描述

  2. 设置大语言模型下载目录
    这里修改下存储目录,不是必须设置,不设置的话会默认将所有内容下载到C盘下面。
    高级系统设置->环境变量->新建系统变量
    在这里插入图片描述
    在这里插入图片描述

  3. 下载大语言模型
    在刚才的官网搜索deepseek,选择合适的模型,若显存8GB选择7/8b,若显存为12GB,可选择14b。
    在这里插入图片描述
    若选择了8b,可使用下面命令进行安装

ollama run deepseek-r1:8b

随后打开任务管理器(记得用管理员),然后输入命令进行部署,本地会下载对应的模型。
在这里插入图片描述
安装成功标志
在这里插入图片描述
在这里插入图片描述

http://www.lryc.cn/news/532437.html

相关文章:

  • 网络编程day1
  • QFileDialog::getOpenFileName(this,“文件对话框“,“.“,“c++ files(*.cpp);;“); 文件对话框显示乱码
  • 绿联NAS安装cpolar内网穿透工具实现无公网IP远程访问教程
  • C++学习——缺省参数、重载函数、引用
  • web-JSON Web Token-CTFHub
  • langchain教程-11.RAG管道/多轮对话RAG
  • Postgresql的三种备份方式_postgresql备份
  • WebAssembly:前后端开发的未来利器
  • Mac下使用brew安装go 以及遇到的问题
  • 【Leetcode 每日一题】47. 全排列 II
  • 车型检测7种YOLOV8
  • C语言按位取反【~】详解,含原码反码补码的0基础讲解【原码反码补码严格意义上来说属于计算机组成原理的范畴,不过这也是学好编程初级阶段的必修课】
  • 面对全球化的泼天流量,出海企业如何观测多地域网络质量?
  • 『python爬虫』获取免费IP代理 搭建自己的ip代理池(保姆级图文)
  • 21.命令模式(Command Pattern)
  • 深入探索 C++17 特征变量模板 (xxx_v)
  • 【Day32 LeetCode】动态规划DP Ⅴ 完全背包
  • 景区如何打造高质量游览观光车,提高人流量?
  • 【Ubuntu】ARM交叉编译开发环境解决“没有那个文件或目录”问题
  • 蓝桥杯之c++入门(六)【string(practice)】
  • go的sync包学习
  • 互联网上常见的,ip地址泛播什么意思
  • Linux/C高级(精讲)----shell结构语句、shell数组
  • 14.kafka开机自启动配置
  • 11 享元(Flyweight)模式
  • PHP JSON操作指南
  • 【学习笔记】计算机图形学的几何数学基础知识
  • Python因为网络原因安装依赖库报错
  • 什么是卸荷器?风力发电为什么要用卸荷器
  • SQL Server详细使用教程(包含启动SQL server服务、建立数据库、建表的详细操作) 非常适合初学者