当前位置: 首页 > news >正文

从零开始,在Windows环境部署vllm

文章目录

  • 前言
  • 环境的部署
    • 安装wsl和ubuntu
    • 更改ubuntu安装位置

前言

由于vllm需要在linux环境上才行,而博主不想再去下载vmware了,故采用wsl+docker的方式部署。

环境的部署

安装wsl和ubuntu

命令:

wsl --install --no-distribution

因为开启代理后,该终端不受影响,所以需要单独给该终端设置代理。

$env:http_proxy="http://127.0.0.1:7897"
$env:https_proxy="http://127.0.0.1:7897"
wsl --list --online

在这里插入图片描述

然后安装Ununtu

 wsl --install -d Ubuntu-24.04

在这里插入图片描述

搜索WSL Setting,更改网络配置,改为Mirrored,这样WSL就会镜像继承windows的代理。
在这里插入图片描述

更改ubuntu安装位置

考虑到后续会无限膨胀,我打算把ubuntu迁移到别的盘。

1. 关闭系统
STATE为Stopped即说明已关闭。

wsl --shutdown
wsl -l -v

2. 创建目录
在合适的磁盘上创建一个目录

3. 导出镜像
在PowerShell中输入下列命令,将Ubuntu导出到指定目录,并等待操作完成。

wsl --export Ubuntu-24.04 D:\ubuntu24\Ubuntu2404.tar

4. 注销原系统
在wsl中注销原有的Ubuntu系统,powershell中输入wsl --unregister Ubuntu-24.04。完成后输入wsl -l -v查看,提示适用于 Linux 的 Windows 子系统没有已安装的分发。即为卸载成功。

5. 导入镜像
在powershell中输入wsl --import Ubuntu-24.04 D:\ubuntu24 D:\ubuntu24\Ubuntu2404.tar,将之前导出的镜像导入到新的Ubuntu系统。在powershell中输入wsl -l -v查看,出现Ubuntu-24.04的NAME即为导入成功。

6. 删除文件
删除导出的镜像文件Ubuntu2404.tar

7. 启动Ubuntu子系统
在开始菜单中搜索Ubuntu并运行,出现终端界面即为成功。
在这里插入图片描述

http://www.lryc.cn/news/604512.html

相关文章:

  • 如何使用 Conda 安装 Qiskit(详细教程)
  • 第七章:进入Redis的SET核心
  • Java stream 并发问题
  • Redis:缓存雪崩、穿透、击穿的技术解析和实战方案
  • 矩阵指数函数 e^A
  • 如何利用 Redis 的原子操作(INCR, DECR)实现分布式计数器?
  • 微算法科技MLGO突破性的监督量子分类器:纠缠辅助训练算法为量子机器学习开辟新天地
  • 代码随想录算法训练营第五十五天|图论part5
  • Python设计模式详解:策略模式(Strategy Pattern)实战指南
  • OpenBayes 教程上新丨仅激活 3B 参数可媲美 GPT-4o,Qwen3 深夜更新,一手实测来了!
  • 代码随想录day50图论1
  • Apache Ignite 与 Spring Boot 集成
  • 学习游戏制作记录(冻结敌人时间与黑洞技能)7.30
  • nginx安装配置Lua模块的支持
  • 我的世界模组开发教程——资源(1)
  • 【AI】入门级提示词模板:适用于ChatGPT、文心一言等主流模型
  • 【ee类保研面试】数学类---线性代数
  • 从0开始学习R语言--Day62--RE插补
  • JVM对象创建与内存分配机制深度剖析
  • 基于Catboost的铁路交通数据分析及列车延误预测系统的设计与实现【全国城市可选、欠采样技术】
  • 【JVM篇11】:分代回收与GC回收范围的分类详解
  • 数据分析师进阶——95页零售相关数据分析【附全文阅读】
  • JVM 性能调优实战:让系统性能 “飞” 起来的核心策略
  • 观远 ChatBI 完成 DeepSeek-R1 大模型适配:开启智能数据分析跃升新篇
  • 【Spring】一文了解SpringMVC的核心功能及工作流程,以及核心组件及注解
  • Linux 日志管理与时钟同步详解
  • GIS工程师面试题
  • GitHub 热门项目 PandaWiki:零门槛搭建智能漏洞库,支持 10 + 大模型接入
  • UG NX二次开发(Python)-根据封闭曲线创建拉伸特征
  • Class27GoogLeNet