当前位置: 首页 > news >正文

用LM Studio:2分钟在本地免费部署大语言模型,替代ChatGPT

你想在本地使用类似ChatGPT 的大语言模型么?LM Studio 可以帮你2分钟实现ChatGPT的功能,而且可以切换很多不同类型的大语言模型,同时支持在Windows和MAC上的PC端部署。

LM Studio是一款面向开发者的友好工具,特别适合那些想要探索和使用大型语言模型的人。无论是出于专业开发的需要,还是仅仅为了体验和玩转各种API,LM Studio都提供了一个简便、高效的解决方案。

使用LM Studio不需要深厚的技术背景或复杂的安装过程。传统上,本地部署大型语言模型如Lama CPP或GPT-4ALL往往伴随着繁琐的安装步骤和环境配置,这对技术要求极高。然而,LM Studio的出现彻底改变了这一局面。它提供了一个简单的安装程序,用户只需几个简单的步骤就可以轻松安装和运行。

LM Studio的一个重要特点是它对各种模型的广泛支持。它不仅支持所有公开发布的大型语言模型,而且不需要用户进行额外的编译或微调。这意味着,无论用户的需求如何,LM Studio都能提供所需的模型支持。

LM Studio对GPU和Core ML的兼容性也非常出色,这使得它能够在多种平台上高效运行,包括Mac和Windows。用户只需将应用程序拖到自己的应用文件夹中,即可完成安装,操作简便。

LM Studio的界面设计直观易用。用户只需打开应用,就可以直接开始使用,无需复杂的设置。这对于那些希望节省时间,快速投入大型语言模型开发和探索的用户来说,是一个巨大的优势。

下面是安装和使用LM Studio的介绍:

一、下载LM Studio 应用

1、Windows 版本

【免费】LMStudiowindows版本安装资源-CSDN文库

2、MAC版本

【免费】LM+StudioMACOS版本安装资源-CSDN文库

二、LM Studio 应用的模型下载

1、在主页中浏览,直接下载模型

如下图:在主界面中直接下拉,可浏览各种大语言模型,选择download 按钮可直接下载,部分模型可能需要VPN到外网才能下载。

我给大家提供了我自己的下载的模型的网盘下载链接:

链接:https://pan.quark.cn/s/c74d915d3fa2
提取码:TrAa

模型下载好之后,将目录一起复制到你的LM Studio所在的模型目录,如下图:

2、搜索模型

点击放大镜图标,可输入你想要的模型,进行搜索,如下图,我这里搜索GPT4ALL: 

三、模型对话,类似ChatGPT

1、选择模型

在左边菜单栏选择chat图标,然后选择模型(下载之后的模型会在下拉列表中),如下图:

 2、和模型进行问答对话

直接输入你想要提问的问题,和模型进行对话

四、启用LocalServer模式

LM Studio 还支持在本地以Server的形式提供和OpenAI 一样的API接口服务,这意味着大家可以把大预言模型做为一个后端服务来进行调用,前端可以包装任意面向业务的功能。

 大家可以copy code 来测试一下访问local server的端口,用curl或python code 都可以。

总的来说,LM Studio是一个强大而用户友好的工具,它简化了大型语言模型的部署和使用过程。无论是专业开发者还是技术爱好者,都可以从这个工具中受益,更高效地探索和利用大型语言模型的强大功能。

http://www.lryc.cn/news/280408.html

相关文章:

  • C语言经典算法之直接排序算法
  • 前端开发vscode 常用插件记录
  • 基于JavaWeb+BS架构+SpringBoot+Vue基于web的多媒体素材管理系统的设计和实现
  • 常用的dom操作
  • Hotspot源码解析-第十七章-虚拟机万物创建(三)
  • Spring MVC 的RequestMapping注解
  • navicat for oracle
  • 行业分享----dbaplus174期:美团基于Orchestrator的MySQL高可用实践
  • springboot集成钉钉通知
  • 直播预告丨看零售场,如何玩转 MaaS
  • 高创新!EI论文复现+改进:聚合温度调控策略的综合能源系统/微电网/虚拟电厂多目标优化调度程序代码!
  • 详解Matlab深度学习进行波形分割
  • 如何在Windows 10/11的防火墙中禁止和允许某个应用程序,这里提供详细步骤
  • vivado 添加现有IP文件、生成IP
  • C++右值引用,右值引用与const引用的区别
  • 启英泰伦推出「离线自然说」,离线语音交互随意说,不需记忆词条
  • Vulnhub-DC1
  • 【c++笔记】总结!c++与c语言的不同之处
  • 大模型PEFT技术原理(一):BitFit、Prefix Tuning、Prompt Tuning
  • VMware vSphere运维管理手册
  • 学习笔记-mysql-各种函数的基本使用
  • DD小桔高级数分 2面挂
  • 居中面试问题
  • 网页设计-用户体验
  • docker应用:vocechat
  • linux 02 vmware的快照,文件管理
  • 项目架构之Zabbix部署
  • RocketMQ源码阅读-Message消息存储
  • 《C语言学习》---郝斌版---笔记
  • Python(32):字符串转换成列表或元组,列表转换成字典小例子