FlashStates发布:混合状态缓存预填充提速3.14倍
Together AI、UIUC与UT Austin团队提出FlashStates,重新设计混合架构模型的KV与状态缓存管理。在英伟达B200上回放真实Claude Code轨迹时,其预填充吞吐最高达vLLM的3.14倍,p90首token延迟最多降低88.4%;接入512GiB Mooncake CPU缓存后收益依然显著,SGLang已接入其成本感知状态淘汰策略。
Together AI、UIUC与UT Austin团队提出FlashStates,重新设计混合架构模型的KV与状态缓存管理。在英伟达B200上回放真实Claude Code轨迹时,其预填充吞吐最高达vLLM的3.14倍,p90首token延迟最多降低88.4%;接入512GiB Mooncake CPU缓存后收益依然显著,SGLang已接入其成本感知状态淘汰策略。
苹果在中国区App Store Connect后台新增AIGC服务声明与安全评估证明两项合规必填项,现有应用须在2027年1月31日前完成,新应用需立即提交。
政策监管 · 2026-11-170 阅读Hub在Hugging Face开源HubEgo-100K第一视角机器人数据集,首批10,000小时视频共44.7TB,免费供研究与商业使用。
技术研究 · 2026-11-170 阅读腾讯开源LoopForge,面向团队的Coding Agents流程化交付平台,支持角色分工、沙箱执行与评测改进流程。
产品应用 · 2026-11-171 阅读阿里、腾讯、月之暗面新一代模型普遍限制网络进攻能力,强化漏洞检测与防御功能。
行业动态 · 2026-11-170 阅读字节跳动等团队推出Axion 1.0,仅用两阶段SFT与RL训练智能体,122B版HLE达59.0%,并全面开源训练代码与数据。
产品应用 · 2026-11-170 阅读Databricks推出AI Index,公开企业AI使用与编码智能体评测数据,每周更新。
产品应用 · 2026-11-170 阅读Prefrontal AI与ETH Zurich提出LSA隐空间稀疏注意力,在10M token下将注意力层prefill最高提速72.4倍,并保持相近精度。
行业动态 · 2026-11-170 阅读OpenCode发布Browse 0.1.0,用Rust重写并砍掉Playwright依赖,直接接管用户真实浏览器复用登录态,体积与内存大幅下降。
产品应用 · 2026-11-170 阅读Preferred Networks联合Semifive开发MN-Core L2000推理芯片,由三星代工,采用3D堆叠结构,内存带宽目标较L1000翻倍,计划2027年Q1流片。
产品应用 · 2026-11-170 阅读Gemini Notebook新增网站生成功能,用户可用自然语言指令生成可互动、可分享的网页,面向全球18岁以上用户开放。
产品应用 · 2026-11-170 阅读Intel公开Xe3P架构D270 GPU初步测试,FP64性能对标NVIDIA RTX PRO 6000最高达5.9倍吞吐。
行业动态 · 2026-11-170 阅读苹果宣布macOS 27.3将新增针对AI代理隐私风险的安全控制功能,细化权限管理并新增应用控制指示器。
产品应用 · 2026-11-170 阅读谷歌宣布未来几个月在AdMob测试Gemini驱动的助手Ask AdMob,帮助开发者排查广告配置、寻找收入机会并管理品牌安全。
行业动态 · 2026-11-170 阅读宾州州立大学论文提出BadEvolve攻击框架,仅需向自进化LLM Agent学习集注入20个投毒任务,即可诱导其在自身技能中植入后门。
技术研究 · 2026-11-170 阅读光轮智能在CoRL2026期间发布面向机器人模型的强化学习仿真环境RoboFinals RL Envs,首发展示超8分钟汽车修理长程任务。
行业动态 · 2026-11-170 阅读Anthropic官网发布《Building always-on agents》长文,公开全天候自主智能体的架构设计。
产品应用 · 2026-11-170 阅读CMU发布Singularity-Bench,Opus 5.5配合Claude Code在六项AI基建任务上奇点指数达1.25,超过人类基线1.0。
技术研究 · 2026-11-170 阅读Similarweb数据显示,受谷歌AI Overviews影响,Reddit近一年全球访问量下滑13%,正准备推行访客强制登录。
行业动态 · 2026-11-170 阅读普林斯顿副教授陈丹琦官宣兼职加入新亮相的AI公司Noeri,该公司专注自进化AI系统并获得1.1亿美元融资。
行业动态 · 2026-11-170 阅读Nemotron 3.5 Transcribe以3.3%词级说话人错误率登顶Artificial Analysis新发布的Diarization Index,领先Voxtral Small Transcribe 3的7.5%。
行业动态 · 2026-11-170 阅读