vLLM:Rubin NVL72推理吞吐较GB300高58倍
vLLM发布博客,展示在NVIDIA Vera Rubin NVL72机架上运行DeepSeek-V4.1-Flash的实测性能:单GPU吞吐达170万tokens/s,峰值2.52M,较GB300 NVL72提升58倍,单用户延迟1810 tokens/s。优化包括Rubin专用内核、TP8低延迟解码路径与机架级KV缓存池。
vLLM发布博客,展示在NVIDIA Vera Rubin NVL72机架上运行DeepSeek-V4.1-Flash的实测性能:单GPU吞吐达170万tokens/s,峰值2.52M,较GB300 NVL72提升58倍,单用户延迟1810 tokens/s。优化包括Rubin专用内核、TP8低延迟解码路径与机架级KV缓存池。
AWS宣布SGLang-Neuron公开可用,可通过深度学习容器在Trainium芯片上部署前沿模型并生成强化学习rollout。
技术研究 · 2026-11-130 阅读独立开发者Charlie Reams借助Claude Code完成三元哥德巴赫猜想的Lean形式化证明,19.4万行代码零sorry,并发现原证明多处错误。
行业动态 · 2026-11-130 阅读DeepSeek以7分钟、约2分钱复现Apache mod_http2高危竞态漏洞,Anthropic与Google此前独立发现同一漏洞。
行业动态 · 2026-11-130 阅读阿里巴巴ATH团队的AI音乐创作产品快乐虾米正式登陆iOS与安卓平台,支持端到端整曲生成,国内会员每月30元可生成150首歌。
产品应用 · 2026-11-130 阅读AWS介绍用A2A协议构建可互操作多智能体系统的参考架构,实现跨账户、跨框架协作。
产品应用 · 2026-11-130 阅读微软称AI数据中心扩张电费将自行承担,不依赖补贴、不转嫁其他电力用户成本。
行业动态 · 2026-11-130 阅读浙大团队提出SpaceCast-Bench,评测21个视觉语言模型的预测性空间推理能力,最高准确率仅58.0%,显式3D信息可带来提升。
行业动态 · 2026-11-130 阅读荷兰芯片企业Axelera AI公布第三代AIPU芯片Titania架构,瞄准数据中心推理市场,预计2027年第三季度量产,已获超3亿美元订单。
产品应用 · 2026-11-131 阅读OpenAI安全团队分析前沿模型思维链透明度下降的四个训练环节,指出这是能力与算力权衡的结果,可通过设计改变。
行业动态 · 2026-11-131 阅读中芯国际联合CEO赵海军在三季度业绩会上表示AI算力供不应求,行业共识2027年代工产能将非常紧缺,并给出四季度收入环比增长4%到6%的指引。
产品应用 · 2026-11-131 阅读Arena多图编辑榜显示,MiniMax H3-Image得分1365排名第11,为该类第一开源模型,也是前20中唯一开源模型。
模型进展 · 2026-11-132 阅读Anthropic宣布Claude Opus 5.5成为Pro、Max、Ultra和Team套餐默认模型,并公布各款模型定位与价格。
行业动态 · 2026-11-131 阅读Nebius三季度签下120亿美元合同,当季签约对应资本开支已100%由客户预付款覆盖,集团营收9.808亿美元同比增长571%。
行业动态 · 2026-11-131 阅读谷歌发布TPU 8tx与8i Max两款专用芯片,分别面向政府受监管行业加密需求与超长上下文应用,挑战英伟达通用路线。
产品应用 · 2026-11-131 阅读Edge0开源Edge0-145B与Edge0-120B模型及统一推理框架,称145B模型可在笔记本本地运行,峰值内存29GB、解码超80 tokens/s。
模型进展 · 2026-11-131 阅读百度在世界大会宣布昆仑芯M100投入使用,M300与1024卡天池超节点计划提前至2027年,新硬件使多轮AI响应延迟降低90%、系统吞吐提升7倍。
产品应用 · 2026-11-132 阅读Runway新增3D生成功能,可用Tripo H3.1从文本或图像生成模型。
产品应用 · 2026-11-131 阅读OpenAI公布用自动化红队生成对抗数据训练GPT-6 Astra和Sol,提升其在网络、生物等高风险领域的模糊鲁棒性。
行业动态 · 2026-11-131 阅读Anthropic推出Claude for Manufacturing制造业插件,含17项技能,可对接Autodesk Fusion、Infor、Microsoft 365和Oracle NetSuite,覆盖报价、质检与故障诊断等流程并保留人工复核。
产品应用 · 2026-11-131 阅读Databricks宣布Genie for Slack正式GA,用户可在Slack中基于受治理的企业数据提问和协作。
产品应用 · 2026-11-131 阅读