从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
AI热点 4
RPS-Serve发布:多模态推理调度新框架AI热点arXiv论文提出RPS-Serve模态感知调度框架,通过将视频、图像、文本分类为岩石、卵石、沙子优化GPU利用率,GPU利用率提升65%,TTFT最多降低9.3倍。
Raincheck框架提升多轮MLLM推理效率AI热点arXiv论文提出Raincheck框架,通过延迟多模态预填充优化多轮MLLM推理,首字延迟降低24.1%
arXiv论文:RLVR无免费午餐,pass@1提升有代价AI热点arXiv新论文证明RLVR中pass@1提升必以pass@k下降为代价,给出精确代价率
Cohere验证投机解码加速低批量MoE推理AI热点Cohere新论文显示投机解码在细粒度MoE模型batch size 1下仍有效,实测10个模型给出具体加速数据。