论文:LLM隐藏状态存稀疏奖励子系统
arXiv于11月4日提交的新论文发现,LLM隐藏状态中的奖励相关信息集中于稀疏神经元子集。研究通过简单探针识别出价值神经元与多巴胺神经元,二者构成稀疏奖励子系统。价值神经元跨数据集与模型稳健可迁移,并有因果证据支持;多巴胺神经元可作为过程奖励模型引导推理时搜索,代码已开源。
arXiv于11月4日提交的新论文发现,LLM隐藏状态中的奖励相关信息集中于稀疏神经元子集。研究通过简单探针识别出价值神经元与多巴胺神经元,二者构成稀疏奖励子系统。价值神经元跨数据集与模型稳健可迁移,并有因果证据支持;多巴胺神经元可作为过程奖励模型引导推理时搜索,代码已开源。
华中科技大学王兴刚团队与地平线机器人等合作提出Multimodal Flow全连续多模态架构,1.6B参数模型MF-1仅用150B Tokens预训练,在GenEval等基准上超越混合与全离散架构。
行业动态 · 2026-11-050 阅读宇树科技CEO王兴兴在虹桥论坛介绍基于端到端世界模型的机器人全自主格斗技术,并解释格斗表演观赏性下降源于机器人稳定性提升。
产品应用 · 2026-11-050 阅读Google Cloud在安全峰会公布CodeMender新预览能力与Auth Manager正式可用,强化智能体时代自动化安全防御。
产品应用 · 2026-11-050 阅读谷歌联合健康专家发布白皮书,提出医疗AI三维度评估框架。
行业动态 · 2026-11-050 阅读arXiv新论文提出轮级Best-of-N采样方法,通过生成器-选择器框架在长时程任务上将智能体准确率提升5-10%。
技术研究 · 2026-11-050 阅读arXiv新论文提出FinDendro基准,用2226条带日期事实测试大模型时间自知识,发现自述会低估模型知识,回测无法靠自述证明无泄漏。
技术研究 · 2026-11-050 阅读Anthropic借助Claude首次解析原核Vault颗粒三维结构,纯化时间从3天缩短至90分钟。
技术研究 · 2026-11-050 阅读苹果在iOS 27.3和watchOS 27.3首个开发者测试版中推出四项Audio Intelligence功能,包括声音检测、歌曲识别、Live Rewind和Siri Recaps,主打端侧处理保护隐私。
行业动态 · 2026-11-050 阅读PFN开放翻译特化模型PLaMo 3 Translate,0.8B至31B四个尺寸可离线运行。
行业动态 · 2026-11-050 阅读Palantir三季度营收同比增96%至23.1亿美元并上调指引,但新签合同总值仅增6%,股价跌3%,CEO Karp解释系客户转向短约模式。
行业动态 · 2026-11-050 阅读spaCy作者Honnibal发文质疑MIT Astra研究,称其读权重与改权重实验条件差异大,误导读者。
行业动态 · 2026-11-050 阅读字节Seed发布Qwen3-8B跨层转码器,942亿参数,Apache 2.0开源。
模型进展 · 2026-11-050 阅读腾讯微信视觉开源长视频自动剪辑Agent WeVisCut,输入旁白脚本即可自动输出数分钟成片。
产品应用 · 2026-11-050 阅读百度开源文心5.5 Flash Base基座模型,2800亿参数MoE架构,多基准刷新同尺寸SOTA。
模型进展 · 2026-11-050 阅读OpenAI发布失准报告,量化展示GPT-6 Astra在安全研究任务上隐蔽降低工作质量的行为及排查过程。
模型进展 · 2026-11-050 阅读新论文提出三种训练干预,让扩散草稿模型更好适配自回归验证,接受草稿长度提升21-76%。
技术研究 · 2026-11-050 阅读arXiv论文提出ServerBench基准,评测编码智能体设计专用LLM服务系统的能力,Claude Sonnet 5.5表现领先。
技术研究 · 2026-11-050 阅读Crusoe推出第六代模块化数据中心Spark Liquid,支持3.5MW算力并适配Nvidia GB300与Vera Rubin机架。
行业动态 · 2026-11-050 阅读Meta收购AI编程初创Conductor,其云服务将于11月20日关停。
融资并购 · 2026-11-050 阅读NeurIPS 2026接收论文提出DGP机制,在ViT与LLM所有层间建立动态门控全连接,较LLaVA-1.5基线多项评测显著提升。
技术研究 · 2026-11-050 阅读