LlamaFactory Blog

现在，你可以直接使用 LlamaFactory 微调 MOSS-VL 了。 MOSS-VL 的适配代码已经合入 LlamaFactory 主分支。无论是希望低成本验证想法的 LoRA，还是面向特定领域进行充分训练的全参数微调，都可以复用 LlamaFactory 熟悉的数据、训练、断点续训与推理工作流。 本文先介绍如何通过 WebUI 完成一次通用的 MOSS-VL 多模态微调，并以公开篮球视频数据贯穿数据准备与训练配置。完成训练后，我们先查看模型在真实篮球片段上的变化，再用中国象棋记谱展示它学习全新专业任务的能力。 MOSS-VL × LlamaFactory MOSS-VL 是面向图像与视频理解的多模态模型。通过本次适配，LlamaFactory 已能够正确处理 MOSS-VL 的视觉输入、跨模态注意力掩码与训练标签，并打通完整的训练和生成链路。 目前已经完成端到端验证： **LoRA 微调：**训练、保存、断点续训、Adapter 推理与权重合并均可用。 **全参数微调：**全部参数解冻，训练、保存、断点续训与推理均可用。 **多模态生成：**训练后可通过 Chat 和 Predict with Generate 路径正常生成。 相关适配已经通过社区评审并合入主线：LlamaFactory PR #10708。 两种微调方式，一套工作流 LoRA 适合快速实验和较低显存成本的能力注入；全参数微调适合希望更充分改变模型领域行为、输出格式或专业知识的场景。二者只需要切换 finetuning_type： 1 2 3 4 5 6 7 8 9 10 model_name_or_path: OpenMOSS-Team/MOSS-VL-Instruct-0708 template: moss_vl stage: sft do_train: true # 选择 lora 或 full finetuning_type: lora dataset: your_multimodal_dataset output_dir: saves/moss_vl/sft 模型和任务仍然由用户自由选择；LlamaFactory 负责统一训练入口、数据管线、分布式训练、Checkpoint 管理和后续推理。 ...

用 llamafactory-sft Skill 进行 llamafactory 微调 本文用一个教程式 Notebook 展示如何通过 llamafactory-sft skill，让智能体辅助完成一次 LlamaFactory SFT 微调流程。我们不会深入讲解所有训练参数，而是展示 skill 如何把一次微调任务拆成可确认、可追踪、可复现的步骤。 本教程使用一个轻量示例：基于 Qwen3.5-2B 模型，使用 LlamaFactory 内置数据集完成一次 LoRA SFT，并在训练后进行效果验证与模型导出。 1. 环境准备 本教程实验硬件与软件环境 ，本教程在AMD Radeon W7900上进行操作，同样的操作也适用于Nvidia GPU 项目 配置 GPU AMD Radeon PRO W7900 ROCm 7.2.1 Agent Cursor 首先安装 LlamaFactory： 1 2 3 4 git clone --depth 1 https://github.com/hiyouga/LlamaFactory.git cd LlamaFactory pip install -e . pip install -r requirements/metrics.txt 检查安装是否成功： 1 llamafactory-cli version 如果输出 LlamaFactory 版本信息，说明环境准备完成。 ...

昇思社区 · HyperParallel 超节点并行库 文档版本：v1.0 | 更新日期：2026-03-30 项目愿景 HyperParallel 是 昇思社区 新提出的超节点并行训练架构，致力于简化昇腾超节点编程，释放算力潜能。我们希望协同 LlamaFactory 生态提供易用、高性能的分布式训练解决方案。我们的目标是让每一位开发者都能在 Ascend NPU 和 NVIDIA GPU 上高效训练大模型，降低大模型训练的门槛和成本。 本路线图概述了 LlamaFactory 与 MindSpore HyperParallel 社区协作的发展方向，涵盖并行能力扩展、硬件优化、后端支持等多个维度。 路线图总览 1 2 3 4 5 6 7 8 9 10 11 2026 Q2 2026 Q3 2026 Q4 │ │ │ ▼ ▼ ▼ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ Phase 1 │ │ Phase 2 │ │ Phase 3 │ │ 能力扩展 │ ───► │ 硬件深化 │ ───► │ 后端多元 │ └─────────────┘ └─────────────┘ └─────────────┘ │ │ │ ├─ TP/EP/CP混合并行 ├─ 高维TP等优化 ├─ MindSpore后端扩展 ├─ 更多模型泛化 ├─ HyperMPMD三层并行 ├─ 图算融合组件优化 └─ 更大模型规模 └─ HyperOffload UD链卸载 └─ 更多训练阶段支持 Phase 1: 并行能力扩展 (2026 Q2) 目标：扩展 TP（张量并行）/EP（专家并行）/CP（上下文并行）等多维混合并行能力，支持更大规模模型训练。 特性 描述 优先级 状态 TP-EP 混合并行 支持 MoE 模型的 TP+EP 组合并行策略 P0 验证中 CP 长序列支持 支持上下文并行，突破显存限制训练超长序列 P0 验证中 3D 并行 (DP-TP-PP) 完整的三维混合并行支持，适配千亿级参数模型 P1 验证中 昇腾亲和Offload策略 提供NPU亲和的多级智能显存卸载策略 P2 开发中 技术要点： ...

LlamaFactory + MindSpore HyperParallel 我们将 MindSpore 社区的并行训练 HyperParallel 作为 FSDP2 后端集成到 LlamaFactory，支持昇腾 NPU 和 NVIDIA GPU，用户只需在 FSDP2 工作流上添加一行配置即可启用。 快速开始 1. 环境安装 pip 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 # 安装 HyperParallel git clone https://gitcode.com/mindspore/hyper-parallel cd hyper-parallel pip install -e . # 安装 LlamaFactory git clone https://github.com/hiyouga/LlamaFactory.git cd LlamaFactory pip install -e ".[torch,metrics]" --no-build-isolation # 安装 PyTorch pip install torch==2.7.1 torchvision==0.22.1 torchaudio==2.7.1 # 可选：安装 torch-npu 以支持昇腾 NPU pip install torch-npu==2.7.1 2. 配置 HyperParallel 训练需要两个配置文件：Accelerate FSDP2 配置和 LlamaFactory 训练配置。 ...

2026年伊始，从美国拉斯维加斯消费电子展（CES）到中国春晚，中国自主研发的人形机器人频频“破圈”，多家中国企业的产品和应用不仅在海外业界引发热议，更是在全球社交媒体平台和国际媒体不断“刷屏”。具身智能，被视为人工智能发展的下一阶段，其核心在于实现智能“大脑”与物理“身体”的深度耦合，从而将数据、算法与算力直接转化为改造客观世界的行动能力。而人形机器人，因其与人类相似的外形和功能，被视为具身智能的高阶形态和最佳载体，有望成为继智能手机、新能源汽车之后的新一代超级终端。 LlamaFactory 是一款开源低代码大模型微调框架，集成了业界最广泛使用的微调技术，支持通过 Web UI 界面零代码微调大模型，目前已经成为开源社区内最受欢迎的微调框架之一，GitHub 星标将近 7 万。 通义千问团队开源了新一代多模态大模型 Qwen3.5，本教程将聚焦于如何利用开源的 Qwen3.5-9B 模型，借助 LlamaFactory 这一开源低代码大模型微调框架，针对“辨别人形机器人型号”这一具体任务进行微调。我们希望通过这一实践，展示轻量化大模型如何赋能具身智能应用，让机器人不仅“看得见”，更能“看得懂”，从而为这场正在席卷全球的智能革命，贡献一份来自开源社区的实践力量。 运行环境要求 建议 GPU 显存不低于 32 GB 1. 安装 LlamaFactory 拉取 LlamaFactory 到本地 1 2 git clone --depth 1 https://github.com/hiyouga/LlamaFactory.git cd LlamaFactory 安装 LlamaFactory 环境依赖 1 pip install -e . [可选] 可以安装 flash-linear-attention 获得训练推理加速效果。推荐使用源码安装方式，不推荐使用 PyPI 安装，可能会导致性能衰退，安装命令如下： 1 2 # uninstall both packages first to ensure a successful upgrade pip uninstall fla-core flash-linear-attention -y && pip install -U git+https://github.com/fla-org/flash-linear-attention 运行如下命令，如果显示 LlamaFactory 的版本，则表示安装成功。 ...