MiniMind-V：极简视觉语言模型训练教程与代码

MiniMind-V 是一个开源视觉语言模型（VLM）项目，目标是以约 3 元 GPU 租用成本和约 2 小时（单张 3090 上 SFT 跑 1 epoch 的实测）训练出 65M 参数的超小多模态模型，同时作为入门 VLM 的简明教程。项目包含极简 VLM 结构、数据集清洗、Pretrain、SFT 等全过程代码，训练脚本为 PyTorch 原生实现，支持 DDP 多卡、DeepSpeed、bfloat16、torch.compile、断点续训与 SwanLab 训练可视化。模型在 MiniMind 语言模型权重基础上增加视觉编码器与特征投影：视觉编码器选用 SigLIP2（siglip2-base-p32-256-ve，约 95M 参数全程冻结），可训练主干约 65M（LLM ~64M + Projection ~1M），推理时整机约 160M（dense）/294M（MoE）。README 说明“从 0 训练”指 VLM 本身从零构建，LLM 主干并非从零预训练。数据集自 2025-12-27 起统一为 Parquet 格式，提供命令行问答与 WebUI 推理方式。