K8S-LLM：用自然语言轻松操作 Kubernetes
在 Kubernetes (K8s) 的日常管理中，复杂的命令行操作常常让开发者感到头疼。无论是部署应用、管理资源还是调试问题，都需要记住大量的命令和参数。Kubernetes 作为容器编排的行业标准，其强大的功能伴随着陡峭的学习曲线和复杂的命令行操作。这种复杂性不仅增加了新手的学习难度，也让资深开发者在频繁的操作中容易出错。
我以前是一名 DevOps 工程师，经常也做 SRE 的工作，所以经常操作 k8s，所以倒也还好，但是现在转岗 Gen AI Developer 之后，那些命令很多都不记得了，而且，解决k8s 问题的能力也下降了，干脆就开发了这个小工具，帮助我操作 k8s。
我把这个工具称作 K8S-LLM, 它允许用户通过自然语言与 Kubernetes 进行交互，极大地简化了操作流程。K8S-LLM 基于大型语言模型（LLM）提供支持，能够将用户的自然语言指令转换为对应的 Kubernetes 操作命令。它不仅简化了命令的输入，还提供了上下文感知的对话功能，使得与 Kubernetes 的交互更加直观和高效。
K8S-LLM 的核心功能
自然语言到 Kubernetes 命令的转换
K8S-LLM 的核心功能之一是将自然语言指令转换为 Kubernetes 命令。例如，用户可以通过简单的自然语言指令来列出所有 Pod：
k8sllm -q "列出默认命名空间中的所有 pod"
工具会自动将这条指令转换为 kubectl get pods 命令并执行。
支持的命令类型
K8S-LLM 支持多种类型的 Kubernetes 命令，包括但不限于：
- 查询命令：如“列出所有 Pod”、“查看某个服务的状态”。
- 部署命令：如“部署一个新的应用”、“更新现有应用的镜像”。
- 删除命令：如“删除某个 Pod”、“删除某个命名空间”。
- 调试命令：如“查看 Pod 日志”、“获取 Pod 描述”。
本质上，这取决于使用的大模型的能力。
上下文感知的对话
K8S-LLM 还支持多轮对话，能够理解上下文，使用户可以在之前的操作基础上继续提问。例如，用户可以先列出所有 Pod，然后继续提问“删除第一个 Pod”。
k8sllm -q "列出默认命名空间中的所有 pod"
k8sllm -q "删除第一个 Pod"
换句话话，他能自动捕捉命令的输出作为上下文，这在 debug 的时候很有用。
危险操作的提示与确认
为了避免误操作，K8S-LLM 在识别到潜在的危险操作时，会提示用户进行确认。例如，当用户尝试删除资源时，工具会要求用户明确确认：
k8sllm -q "删除所有 Pod"
工具会显示以下的提示：
This is a potentially dangerous operation!
Command to be executed: {command}
Please confirm you want to proceed (y/n):
输入 y后，会自动执行命令。
安装与快速上手
安装步骤
安装 K8S-LLM 非常简单，只需克隆项目并安装依赖即可：
git clone git@github.com:yexia553/k8sllm.git
cd k8sllm
pip install -r requirements.txt && pip install .
配置大模型
K8S-LLM 支持多种 LLM 服务，用户可以根据需求灵活配置。我个人推荐使用 DeepSeek，因为它提供良好的性能、价格便宜，并且配置简单。用户也可以选择其他兼容 OpenAI SDK 的模型。
用户只需在根目录下创建 .k8sllm/config.yaml 文件，配置 LLM 服务的 URL、API 密钥和模型名称即可。例如：
llm:base_url: "https://api.deepseek.com/v1"api_key: "your-api-key"model: "deepseek-chat"
除了 DeepSeek，K8S-LLM 还支持其他兼容 OpenAI SDK 的 LLM 服务。用户可以根据自己的需求选择合适的模型，并在配置文件中进行相应的设置。
具体怎么获取 api key，请参考这里
基本使用
使用 K8S-LLM 也非常直观。例如，用户可以通过以下命令列出默认命名空间中的所有 Pod：
k8sllm -q "列出默认命名空间中的所有 pod"
别名设置
为了更方便地使用，用户还可以设置别名：
alias qk8sllm='k8sllm -q'
alias ck8sllm='k8sllm -c'
设置别名后，用户可以直接使用 qk8sllm 和 ck8sllm 来提问或清除上下文。
# 提问
qk8sllm "列出默认命名空间中的所有 pod"# 清除对话上下文
ck8sllm
这样使用起来更加方便，不用再输入参数
技术实现与架构
技术栈
K8S-LLM 使用 Python 3.8+ 开发，主要依赖以下库：
- click：用于构建命令行接口。
- pyyaml：用于配置文件的管理。
- openai：用于与 LLM 服务的集成。
核心模块
K8S-LLM 的核心模块包括：
- 自然语言解析模块：将用户输入的自然语言指令转换为 Kubernetes 命令。
- 上下文管理模块：维护对话历史，支持多轮交互。
- 安全检测模块：识别并提示高风险操作。
上下文管理
K8S-LLM 会在用用户的根目录下，生成一个.k8sllm/context.json
里面记录的是用户的历史提问、大模型的回答、执行的命令和输出，可以用于审计，可以执行
k8sllm -c
来清理上下文。
结语
K8S-LLM 为 Kubernetes 的管理提供了一种全新的交互方式，极大地降低了学习和使用的门槛。无论是 Kubernetes 新手还是资深开发者，都可以通过自然语言轻松完成复杂的操作。
这个工具我是为了解决自己的问题开发的，顺便开源了，如果正好有人也需要，希望这篇博客能帮助你更简单地使用K8S-LLM.
相关链接
- GitHub 项目地址
- DeepSeek 官网
- Kubernetes 官方文档
希望这篇博客能帮助你更好地了解和使用 K8S-LLM。如果你有任何问题或建议，欢迎在评论区留言或直接参与项目的开发！