LLaSO:语音-语言建模的开放数据与基准框架
LLaSO 提供语音-语言建模的开放语料、评测基准与 3.8B 参考模型,覆盖 20 项任务与 3 种模态配置。
LLaSO 是一个面向语音-语言建模(LSLM)的端到端开放框架,统一发布语料、评测与模型。语料分两部分:LLaSO-Align(12.0M 样本,基于 ASR 的对齐数据)与 LLaSO-Instruct(13.5M 样本、20 项任务、3 种模态配置),合计 25.5M 训练样本,覆盖文本+音频、音频+文本、纯音频等组合,任务分布为 52% 语言学、8% 语义、40% 副语言学,其中 71% 为真实音频、29% 为合成语音。LLaSO-Eval 是 15,044 条分层抽样的评测基准。参考模型 LLaSO-Base 为 3.8B 参数,采用两阶段训练(ASR 对齐 → 指令微调),基于 LLaVA 风格架构,骨干为 whisper-large-v3 音频编码器与 Llama-3.2-3B-Instruct。训练脚本接受单个 JSON 文件输入,仓库提供 `llaso/data/data_merge.py` 合并按模态拆分的数据子目录。README 提到 FlashAttention 安装问题的处理建议,并给出训练、推理与按任务类型划分的评测指标脚本目录。