当前位置: 首页 > news >正文

DeepSeek介绍及使用ollama本地化部署DeepSeek-R1大模型

DeepSeek

中文名深度求索人工智能基础技术研究有限公司(简称“深度求索”或“DeepSeek”),成立于2023年,是一家专注于实现AGI的中国公司。
在本月初推出 DeepSeek-R1后,该公司宣称其在执行数学、编码和自然语言推理等任务时“性能可与OpenAI的最新模型之一媲美”。

Ollama介绍

Ollama 是一个开源项目,它提供了一个框架和工具,用于在本地环境中运行、部署和管理大型语言模型(LLMs)。Ollama 旨在简化 LLMs 的使用,使得开发者和研究人员能够更容易地在自己的硬件上运行这些模型,而不需要依赖云服务或高性能计算资源。

Ollama安装

官网https://ollama.com/
https://www.chengpei.top/upload/ollama_web.png
点击download,选择对应操作系统下载安装即可。
安装完成后即可执行ollama相关命令进行大模型下载,已下载模型查看等操作
如:ollama list可以查看当前已下载模型,如果是刚安装完成这里是没有内容的
https://www.chengpei.top/upload/ollama_list.png

模型搜索安装

搜索模型地址:https://ollama.com/search
https://www.chengpei.top/upload/ollama_search.png
这里可以看到我们需要的deppseek-r1就在第一个,点进去可以看到有很多版本可以下载,这里的1.5b 7b 8b 671b等等中的“b”代表“billion”,也就是十亿。这些数字表示模型参数的数量。
比如:671b:代表模型含有约671亿个参数。如此大规模的参数数量使得模型具有极其强大的学习能力和表达能力,可以对海量数据中的复杂模式和规律进行深度学习和理解。不过,这类超大规模参数的模型对计算资源(如高性能的 GPU、大规模的内存等)和数据量的要求也非常高,训练和部署的难度与成本都显著增加。
这里我是本地电脑部署所以选用了8b这个版本,运行命令:ollama run deepseek-r1:8b安装模型
https://www.chengpei.top/upload/deepseek.png
模型大小4.9GB,下载需要一段时间,下载完成后会使用该模型新建一个会话,这里我们就可以和deepseek进行对话了。当然这里因为数据量以及电脑性能的关系,这个ai助手的智能程度当然是远远不及官网上的效果。

chatbox

以上我们和deepseek r1对话只能在控制台里,如果需要一个类似官网的可视化界面,这里可以下载一个软件chatbox,官网:https://chatboxai.app/zh
下载安装完成后,初次进去软件会进入一个向导界面
https://www.chengpei.top/upload/chatbox.png
这里点击使用自己的API key或本地模型,模型提供方选择OLLAMA API,模型选择deepseek r1:8b,保存后即可在对话框中进行对话

http://www.lryc.cn/news/528704.html

相关文章:

  • 网络安全攻防实战:从基础防护到高级对抗
  • 9【如何面对他人学习和生活中的刁难】
  • kafka消费者详细介绍(超级详细)
  • 数据结构选讲 (更新中)
  • OpenBMC:简介
  • java 正则表达式匹配Matcher 类
  • 【HarmonyOS之旅】基于ArkTS开发(三) -> 兼容JS的类Web开发(三)
  • CSS(快速入门)
  • 使用 concurrently 实现前后端一键启动
  • 常见端口的攻击思路
  • 大数据治理实战:架构、方法与最佳实践
  • 忘记宝塔的访问地址怎么找
  • SQL教程-基础语法
  • shell脚本批量修改文件名之方法(The Method of Batch Modifying File Names in Shell Scripts)
  • 组合模式 - 组合模式的实现
  • 视频外绘技术总结:Be-Your-Outpainter、Follow-Your-Canvas、M3DDM
  • 【硬件测试】基于FPGA的QPSK+帧同步系统开发与硬件片内测试,包含高斯信道,误码统计,可设置SNR
  • c++面试:类定义为什么可以放到头文件中
  • PythonFlask框架
  • Kotlin开发(六):Kotlin 数据类,密封类与枚举类
  • 冬天适合养什么鱼?
  • 【C++动态规划 状态压缩】2597. 美丽子集的数目|2033
  • 前端-Rollup
  • 20【变量的深度理解】
  • 大数据学习之Kafka消息队列、Spark分布式计算框架一
  • 基于Flask的旅游系统的设计与实现
  • “AI视频智能分析系统:让每一帧视频都充满智慧
  • 算法随笔_31:移动零
  • 改进候鸟优化算法之二:基于混沌映射的候鸟优化算法(MBO-CM)
  • 在Docker 容器中安装 Oracle 19c