当前位置: 首页 > news >正文

easy-llm-cli的安装和使用

什么是easy-llm-cli

先说下Gemini Cli,它是谷歌开发的一款开源 AI Agent 命令行工具,项目地址如下:

https://github.com/google-gemini/gemini-cli

是目前同类开源 Agent 产品中,最热门的工具。

easy-llm-cli是对开源 Gemini Cli做了一个二次改造,可以支持运行任意大模型,包括本地模型, 还支持直接将它引入我们自己项目或者业务流程。

easy-llm-cli官方教程视频:

https://www.bilibili.com/video/BV1mQghz5EJe/

easy-llm-cli源码(不需要下载,命令行安装即可):

https://github.com/ConardLi/easy-llm-cli/tree/main

easy-llm-cli中文文档:

https://github.com/ConardLi/easy-llm-cli/blob/main/README.zh-CN.md

安装easy-llm-cli

需要先安装node.js,node.js版本20以上,node.js下载地址

Node.js — Download Node.js®

在CMD命令行窗口执行下面命令,安装easy-llm-cli

npm install -g easy-llm-cli

安装完成后,会自动显示认证页面。

因为网络问题,很麻烦,所以选择了国内的模型提供商,当然,也可以用自己的本地模型。

下面以kimi的k2模型为例,演示配置过程。

在命令行窗口中,执行以下命令,修改环境变量,自定义我们的模型配置:

set USE_CUSTOM_LLM=true

set  CUSTOM_LLM_PROVIDER=moonshot

set  CUSTOM_LLM_API_KEY=sk-xxxxxxxx

set  CUSTOM_LLM_ENDPOINT=https://api.moonshot.cn/v1

set  CUSTOM_LLM_MODEL_NAME=kimi-k2-0711-preview

CUSTOM_LLM_API_KEY需要去官方获取,访问链接:

Moonshot AI 开放平台 - Kimi 大模型 API 服务

配置参数说明:

# 启用自定义 LLM 支持
USE_CUSTOM_LLM=true
CUSTOM_LLM_API_KEY="your-api-key"     # 你的 LLM 提供商 API 密钥
CUSTOM_LLM_ENDPOINT="https://api.your-llm-provider.com/v1"  # API 端点
CUSTOM_LLM_MODEL_NAME="your-model-name"  # 模型名称

# 可选参数
CUSTOM_LLM_TEMPERATURE=0.7  # 温度参数(默认值:0)
CUSTOM_LLM_MAX_TOKENS=8192  # 最大令牌数(默认值:8192)
CUSTOM_LLM_TOP_P=1          # Top P 参数(默认值:1)

 注意,windows中用set方式配置的环境变量 ,只是在当前cmd窗口有效,如果要持久化,需要配置系统环境变量 。

配置完成,输入命令启动

elc

启动后,显示如下信息 

测试效果

http://www.lryc.cn/news/600708.html

相关文章:

  • Ubuntu安装node-red
  • 广东省省考备考(第五十七天7.26)——数量、言语(强化训练)
  • 【CTF-PWN】【攻防世界题目pwnstack】python攻击脚本ret(checksec、pwngdb、IDA)(含“/bin/sh“)
  • Traffic Lights set的使用
  • AI Agent开发学习系列 - langchain之LCEL(5):如何创建一个Agent?
  • Ansible列出常见操作系统的发行版,Ansible中使用facts变量的两种方式
  • 定义域第一题
  • InfluxDB Flux 查询协议实战应用(二)
  • 修改site-packages位置与pip配置
  • 网络:应用层
  • docker安装问题汇总
  • 一文速通《多元函数微分学》
  • AI Agent开发学习系列 - langchain之LCEL(4):Memory
  • x86汇编语言入门基础(三)汇编指令篇5 串操作
  • 【架构】Docker简单认知构建
  • JAVA学习-练习试用Java实现“深度优先搜索(DFS):实现八数码问题的解法(最短路径搜索)”
  • LangChain4j低阶+高阶Api+日志配置+监听器+重试机制+超时机制
  • 【LeetCode 热题 100】131. 分割回文串——回溯
  • 算法竞赛阶段二-数据结构(35)数据结构单链表模拟实现
  • Android-广播详解
  • golang实现一个定时引擎,功能包括按照corntab的时间任务实时增加、修改、删除定时任务
  • 常见sql深入优化( 二)
  • 一文学会c++list
  • 激光雷达-相机标定工具:支持普通相机和鱼眼相机的交互式标定
  • 二叉搜索树(Binary Search Tree)详解与java实现
  • Linux 如何统计系统上各个用户登录(或者登出)记录出现的次数?
  • Android-三种持久化方式详解
  • 摘录-打造第二大脑
  • J2EE模式---表现层集成模式
  • C++ TAP(基于任务的异步编程模式)