当前位置: 首页 > news >正文

白嫖DeepSeek:一分钟完成本地部署AI

在这里插入图片描述

1. 必备软件

  1. LM-Studio 大模型客户端
  2. DeepSeek-R1 模型文件

LM-Studio 是一个支持众多流行模型的AI客户端,DeepSeek是最新流行的堪比GPT-o1的开源AI大模型。

2. 下载软件和模型文件

2.1 下载LM-Studio

在这里插入图片描述

官方网址:https://lmstudio.ai

打开官网,直接下载自己系统对应的版本,然后安装。

2.2 下载模型文件

在这里插入图片描述

官方网址:https://modelscope.cn/models

打开网址,探索deepseek-r1然后选择文件名带有gguf的大模型,进入模型文件后,根据自己的显卡配置,选择合适的量化版本下载。

如果不知道怎么选择,推荐Q4量化版本,测试效果,如果系统压力过大,再选择小一点的量化版本。

3. 配置模型文件

在这里插入图片描述
创建模型文件存放目录,并把模型文件复制到其中如:

D:\models\models\deepseek-r1-7b-q4\xxx.gguf 这里的xxx.gguf表示下载的模型文件,接下来打开lm-studio,选择【我的模型】也就是左边像文件夹一样的按钮,然后修改模型目录,以上面的模型目录为例,设置的目录应该是:D:\models 这样才能被lm-studio正确识别模型路径。

4. 开始白嫖

切换回聊天界面,就可以开始自由自在地使用离线AI,体验国产之光 DeepSeek 的魅力了。
在这里插入图片描述

5. 结语

由于LM-Studio自带下载模型功能,但是需要使用魔法才能用自带的功能去下载模型,所以这个对大多数用户行不通,所以选择了手动去指定的网站下载模型文件。

modelscope.cn 是阿里旗下的一个模型社区,国内可以正常访问并下载模型文件,速度也是非常快,值得收藏。

最后选择离线版AI是因为在线版本虽然价格公道,但是还是有不少限制,尤其是话题上的限制,选择离线搭建,就不会有话题上的限制了,而且是完全免费的。

http://www.lryc.cn/news/529357.html

相关文章:

  • C# dataGridView1获取选中行的名字
  • Day28(补)-【AI思考】-AI会不会考虑自己的需求?
  • 幸运数字——蓝桥杯
  • 快速提升网站收录:避免常见SEO误区
  • [Java]泛型(二)泛型方法
  • 如何监控ubuntu系统某个程序的运行状态,如果程序出现异常,对其自动重启。
  • UE学习日志#15 C++笔记#1 基础复习
  • CSS:跑马灯
  • rust 自定义错误(十二)
  • EWM 变更库存类型
  • AI大模型开发原理篇-9:GPT模型的概念和基本结构
  • MySQL数据库(二)
  • 从0到1:C++ 开启游戏开发奇幻之旅(二)
  • 【Numpy核心编程攻略:Python数据处理、分析详解与科学计算】1.18 逻辑运算引擎:数组条件判断的智能法则
  • EasyExcel写入和读取多个sheet
  • LLM架构与优化:从理论到实践的关键技术
  • 【Numpy核心编程攻略:Python数据处理、分析详解与科学计算】1.22 形状操控者:转置与轴交换的奥秘
  • NLP模型大对比:Transformer >Seq2Seq > LSTM > RNN > n-gram
  • DeepSeek部署教程(基于Ollama)
  • Java基础面试题总结(题目来源JavaGuide)
  • WPS mathtype间距太大、显示不全、公式一键改格式/大小
  • 宇宙大爆炸是什么意思
  • MotionLCM 部署笔记
  • VLLM性能调优
  • ESP32-S3模组上跑通esp32-camera(39)
  • Linux《基础指令》
  • 9.进程间通信
  • Windows中本地组策略编辑器gpedit.msc打不开/微软远程桌面无法复制粘贴
  • 供应链系统设计-供应链中台系统设计(十二)- 清结算中心设计篇(一)
  • Vue.js 单页应用(SPA)开发教程:从零开始构建你的第一个项目