当前位置: 首页 > news >正文

DeepSeek部署教程(基于Ollama)

虽说在过年,但不能忘了学习。这几天科技圈最火的莫过于deepseek,我抽空也学习一下deepseek的部署过程,主要还是因为官方服务已经彻底瘫了[手动狗头]。

1、下载Ollama并安装

https://github.com/ollama/ollama/releases/latest/download/OllamaSetup.exe

下载好后双击直接运行。

2、Ollama官网搜索deepseek

3、安装deepseek

依据自己的电脑配置,来决定安装deepseek模型的哪个版本。我家里的电脑还是集成显卡,因此我选择了硬件配置需求最低的1.5B,,让家里的老电脑也发挥一下余热。

低配置硬件适配

  • CPU:老旧的双核或四核处理器。
  • 内存:8GB 及以下。
  • 显卡:集成显卡或者独立显卡的显存不足 2GB。
  • 推荐模型版本:DeepSeek-R1-1.5B。该版本对硬件资源的需求极低,能够在这样的设备上稳定运行,可应对日常对话、简单文本生成等基础文本处理任务。

中配置硬件适配

  • CPU:英特尔酷睿 i5 系列或者 AMD 锐龙 5 系列。
  • 内存:16GB。
  • 显卡:显存为 4 - 6GB。
  • 推荐模型版本:DeepSeek-R1-7B。这类模型在中等配置的电脑上能够充分发挥潜力,运行效率较高,可处理简单代码生成、文章润色等具有一定复杂度的任务。

高配置硬件适配

  • CPU:英特尔酷睿 i7/i9 系列或 AMD 锐龙 7/9 系列。
  • 内存:32GB 及以上。
  • 显卡:NVIDIA GeForce RTX 30 系列、AMD Radeon RX 6000 系列等高性能独立显卡,显存高达 8GB 及以上。
  • 推荐模型版本:DeepSeek-R1-32B 甚至更高版本的模型。它们能够承担复杂的自然语言处理任务,如专业领域的文本深度分析、复杂代码的编写与调试等,可带来高效且优质的使用体验
  • 1.5b的安装命令:ollama run deepseek-r1:1.5b
  • 7b的安装命令:ollama run deepseek-r1:7b

4、运行deepseek

在控制台中输入“ollama run deepseek-r1:1.5b”,此运行过程是在电脑离线的情况下进行的,因此,在内网环境下,大家也可以放心部署。

5、聊天界面搭建

下载并安装chatbox ai,当然也可以使用web版的聊天界面

https://download.chatboxai.app/releases/Chatbox-1.9.5-Setup.exe

下载完成之后就是双击+下一步,即可完成安装

5、设置chatbox ai

进入设置界面

第一个下拉框中选择OLLAMA API

第二个下拉框是选择模型

第三部分是调整参数,需要的答案越严谨,就把进度条调整的靠左一些,需要ai随意发挥,就向右一些。

这个界面是显示相关配置的设置,使用默认即可。

7、这个是实际的运行效果,不仅能给出答案,还给出了他思考的过程。

http://www.lryc.cn/news/529338.html

相关文章:

  • Java基础面试题总结(题目来源JavaGuide)
  • WPS mathtype间距太大、显示不全、公式一键改格式/大小
  • 宇宙大爆炸是什么意思
  • MotionLCM 部署笔记
  • VLLM性能调优
  • ESP32-S3模组上跑通esp32-camera(39)
  • Linux《基础指令》
  • 9.进程间通信
  • Windows中本地组策略编辑器gpedit.msc打不开/微软远程桌面无法复制粘贴
  • 供应链系统设计-供应链中台系统设计(十二)- 清结算中心设计篇(一)
  • Vue.js 单页应用(SPA)开发教程:从零开始构建你的第一个项目
  • Linux C openssl aes-128-cbc demo
  • 你了解哪些Java限流算法?
  • 【漫话机器学习系列】065.梯度(Gradient)
  • BswM(基础软件管理)详解
  • 上位机知识篇---GitGitHub
  • 网站快速收录:提高页面加载速度的重要性
  • Vue.js组件开发-实现全屏背景图片滑动切换特效
  • DeepSeek r1本地安装全指南
  • LitGPT - 20多个高性能LLM,具有预训练、微调和大规模部署的recipes
  • deepseek R1 14b显存占用
  • 无用知识研究:对std::common_type以及问号表达式类型的理解
  • MapReduce概述
  • 循环神经网络(RNN)+pytorch实现情感分析
  • Mac cursor设置jdk、Maven版本
  • WPS数据分析000005
  • CTF从入门到精通
  • Flutter使用Flavor实现切换环境和多渠道打包
  • Springboot如何使用面向切面编程AOP?
  • 51单片机(STC89C52)开发:点亮一个小灯