当前位置: 首页 > news >正文

【清晰教程】本地部署DeepSeek-r1模型

【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客

目录

Ollama

安装Ollama

DeepSeek-r1模型

安装DeepSeek-r1模型


Ollama

Ollama 是一个开源工具,专注于简化大型语言模型(LLMs)的本地部署和管理。它允许用户在本地计算机上运行各种 AI 大模型(如 Llama、DeepSeek、Mistral 等),而无需依赖云服务。

Ollama 支持多种操作系统,包括 macOS、Linux 和 Windows。安装方式因系统而异,例如在 macOS 上可以通过 Homebrew 安装。基于Ollama,用户可以通过命令行工具或 Web 界面调用模型。能够实现本地部署、模型管理、API支持等功能。

  • 本地部署:支持在本地计算机上运行大型语言模型,确保数据隐私和低延迟。

  • 模型管理:轻松下载、更新和删除模型。

  • 跨平台支持:兼容 macOS、Linux 和 Windows。

  • API 支持:提供 RESTful API,方便与其他应用程序集成。

  • 社区驱动:开源项目,拥有活跃的社区支持。

安装Ollama

访问Ollama官网的下载页面

Download Ollama on Windowsicon-default.png?t=O83Ahttps://ollama.com/download

选择适配操作系统的客户端,单击下载

如下载速度偏慢可考虑科学上网

​下载完成后,双击打开OllamaSetup

点击Install安装

Ollama默认安装在C盘,需要2G以上存储空间

安装完成后,通过命令行检查Ollama的安装情况

​也可通过Win+R,在运行框中键入cmd进入命令行 

在命令行中键入ollama,显示以下信息即为安装成功

ollama

安装完成后,Ollama 会在后台自动运行,默认端口是 11434

DeepSeek-r1模型

 访问Ollama官网的模型页面

Ollamaicon-default.png?t=O83Ahttps://ollama.com/search

选择所需模型,这里选用DeepSeek-r1

在DeepSeek-r1的详细页面包含各种量级的模型以及对应的模型下载命令:

 这里作为演示,选用最小的1.5b-DeepSeek-r1

 下载命令为

ollama run deepseek-r1:1.5b

安装DeepSeek-r1模型

复制对应模型的下载命令

ollama run deepseek-r1:1.5b

进入命令行

​也可通过Win+R,在运行框中键入cmd进入命令行 

键入对应模型的下载命令

下载完成后即可直接使用模型进行交互

至此便已经完成DeepSeek-r1的本地部署。如需GUI界面,可通过Docker部署适配的WebUI。【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客

http://www.lryc.cn/news/538792.html

相关文章:

  • Spring Cloud工程搭建
  • 使用Redis实现分布式锁,基于原本单体系统进行业务改造
  • 【MediaTek】 T750 openwrt-23.05编 cannot find dependency libexpat for libmesode
  • CHARMM-GUI EnzyDocker: 一个基于网络的用于酶中多个反应状态的蛋白质 - 配体对接的计算平台
  • c# 2025/2/17 周一
  • vite【详解】常用配置 vite.config.js / vite.config.ts
  • 最新智能优化算法: 阿尔法进化(Alpha Evolution,AE)算法求解23个经典函数测试集,MATLAB代码
  • 用于可靠工业通信的5G-TSN集成原型:基于帧复制与消除可靠性的研究
  • HaProxy源码安装(Rocky8)
  • shell脚本备份MySQL数据库和库下表
  • 23. AI-大语言模型
  • Linux /dev/null
  • Unity CommandBuffer绘制粒子系统网格显示
  • Java延时定时刷新Redis缓存
  • 智能硬件定位技术发展趋势
  • 全单模矩阵及其在分支定价算法中的应用
  • DeepSeek 的创新融合:多行业应用实践探索
  • 利用SkinMagic美化MFC应用界面
  • IMX6ULL的公板的以太网控制器(MAC)与物理层(PHY)芯片(KSZ8081RNB)连接的原理图分析(包含各引脚说明以及工作原理)
  • 采用分布式部署deepseek
  • Cloud: aws:network: limit 含有pps这种限制
  • PaddlePaddle的OCR模型转onnx-转rknn模型_笔记4
  • OpenHarmony 系统性能优化——默认关闭全局动画
  • 【Linux】Ubuntu Linux 系统——Node.js 开发环境
  • LC-搜索二维矩阵II、相交链表、反转链表、回文链表、环形链表、环形链表ll
  • 小米平板怎么和电脑共享屏幕
  • Python elasticsearch客户端连接常见问题整理
  • 目标检测IoU阈值全解析:YOLO/DETR模型中的精度-召回率博弈与工程实践指南
  • 算法——数学建模的十大常用算法
  • Electron:使用electron-react-boilerplate创建一个react + electron的项目