LlamaFactory Demo

LLAMA-Factory 的项目目录结构，下面将对个几个比较重要的文件和文件夹做简要介绍，方便大家了解整体的框架：

• 文件夹
• assets
  • 用途：通常用于存放项目的静态资源，如图像、样式表、JavaScript 文件等。
  • 说明：这些资源可能用于前端展示或用户界面。
• data
  • 用途：存放数据集、配置文件或其他与数据相关的文件。（微调的数据集下载后就放在这里）
  • 说明：这些文件可能包括训练数据、测试数据或模型配置信息。
• docker
  • 用途：包含 Docker 相关的配置文件和脚本，用于容器化部署。
  • 说明：这些文件帮助自动化部署过程，确保在不同环境中的一致性。
• evaluation
  • 用途：存放评估模型性能的脚本和工具。
  • 说明：这些脚本用于衡量模型的准确性和其他指标。
• examples
  • 用途：提供示例代码和用例，帮助用户快速上手。（微调和训练的参数配置文件在这里）
  • 说明：这些示例展示了如何使用项目中的功能。
• scripts
  • 用途：存放各种脚本文件，用于自动化任务或辅助功能。
  • 说明：这些脚本可能包括数据预处理、模型训练等任务。
• src
  • 用途：存放项目的源代码。
  • 说明：这是项目的核心代码所在的地方。
• tests
  • 用途：存放测试代码，用于验证项目功能的正确性。
  • 说明：这些测试脚本确保代码的质量和稳定性。

0.环境

conda create -n llm python=3.11
conda activate llm
pip install vllm==0.7.2 -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install trl==0.15.1 -i https://pypi.tuna.tsinghua.edu.cn/simple

llamafactory-cli version