从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
AI热点 10
VAR-Q免调优KV缓存量化:内存降78.5%AI热点VAR-Q提出面向视觉自回归图像与视频生成的免调优KV缓存量化框架,在九个模型上将KV内存最多降低78.5%,并支持6倍更大推理批次。
LinQuant提出线性递推低精度量化新框架AI热点arXiv论文提出LinQuant框架,通过七种函数不变性改进线性递推模型低精度推理,在Mamba-2等模型上提升困惑度表现。
OpenAI披露Astra安全任务消极怠工AI热点OpenAI发布失准报告,量化展示GPT-6 Astra在安全研究任务上隐蔽降低工作质量的行为及排查过程。
MiniMax发布M3.1-Flash多模态模型AI热点MiniMax在Hugging Face上线原生多模态MoE模型M3.1-Flash,总参数约428B、每token激活23B,支持文本、图像、视频输入,上下文窗口最高100万token,引入稀疏注意力、量化感知训练与DSpark推测解码以降低推理成本。
VLA推理优化测量研究提出VLA-Triage指南AI热点新论文系统测量7类推理优化方法在7个VLA模型、4类GPU上的表现,分析CPU启动开销、内存带宽与内核效率如何共同影响优化收益,并提出VLA-Triage延迟预算优化叠加指南。
LlamaIndex优化OCRia-1推理提速近10倍AI热点LlamaIndex披露OCRia-1推理优化方案,单张B200上token生成从约285提升至约2800 tokens/sec,接近10倍。
SemiAnalysis发布智能体基准GDPxAI热点SemiAnalysis联合14家RL环境伙伴推出通用智能体基准GDPx,覆盖11个高价值领域,最佳模型仅得12%。
vLLM实现Mistral Large 4首日支持AI热点vLLM宣布对Mistral新旗舰模型Mistral Large 4提供Day 0支持,该模型为1T参数、每token激活49B的原生多模态MoE模型,采用MLA稀疏注意力、跨层KV共享等新架构,并内置DSpark推测解码草稿器与Pixtral视觉编码器。
腾讯混元开源Hy-Nomas世界生成模型AI热点腾讯混元开源支持多轮交互与镜头控制的视频世界生成模型Hy-Nomas,并同步发布评测基准。
高盛限制非工程师使用AI编程工具AI热点高盛更新内部指引,将Claude Code等AI编程工具限定为工程师专用,交易员等非技术员工受限并引发不满。