从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
AI热点 22
审计员难识别AI研究破坏,AUROC仅0.59AI热点arXiv论文显示,人类审计员在AI安全研究破坏检测中AUROC仅0.59,仅17%案例识别出具体破坏方式,前沿模型Fable 5.1表现更好。
Amazon审计9个AI基准发现评分错误AI热点Amazon新论文审计9个专业领域AI基准,发现参考答案与评分代码常误判正确回答,修复后模型得分显著提升。
Anthropic研究员测AI审计员:误报率高AI热点Anthropic研究员Andy Hall测试多款模型作为AI审计员,发现其能捕获大部分智能体不当行为,但误报率偏高,难以用于可靠安全检查。
论文审计九个政策决策基准,提出BAR修订框架AI热点研究审计九个政策决策基准,发现评分器与参考答案错误,并提出BAR修订框架,修正后模型接受率显著提升。
研究:LLM公平性审计一年后失效AI热点arXiv新论文对五家提供商模型在13个月内重复公平性审计,发现同一模型一年后偏置模式显著变化,提出证据锚定理论与模型类别审计建议。
MICCAI 2026提出DUCX审计胸片智能体偏差AI热点研究团队在MICCAI 2026提出DUCX方法,对MedRAX胸片智能体进行分阶段公平性审计,量化工具层面的人群差异。
EnvOS框架可审计任务中途变化的智能体AI热点arXiv论文提出EnvOS框架,可构建并认证任务中途变化的智能体测试环境
POIROT开源:智能体自审计故障归因,最高提升50点AI热点论文提出POIROT协议,让多智能体系统自行归因故障,并开源BLAME新基准,九种模型基准配置中最高提升50个百分点。
论文:LLM智能体内群体信任偏差难被审计AI热点arXiv论文显示五个开源推理模型在多智能体模拟中出现内群体信任偏差,且现有行为日志审计难以检测。
AI同行评审基准:前沿LLM检测率差50点AI热点论文提出审计AI同行评审员的基准,向真实论文注入357个错误并评估12个评审系统,发现模型选择对检测率影响最大。
VIOS框架提升视频推理后训练效率AI热点NeurIPS 2026论文提出VIOS后训练框架,通过自审计视觉依赖在12项基准上以更少算力提升视频推理表现。
OpenAI向北约及欧洲政府开放DaybreakAI热点OpenAI向北约及多个欧洲政府开放网络安全工具Daybreak,供防御团队审计软件、发现漏洞。
0sec Labs开源AI安全框架0AI热点0sec Labs开源AI安全测试框架0,提供Web UI、CLI与MCP入口,支持漏洞调查、代码审计与渗透测试。
曙光云发布OneBox智能体协作平台AI热点曙光云在乌镇互联网之光博览会发布面向政企的OneBox智能体协作平台,主打私有化部署与权限审计,并获“新光”产品荣誉。
Gemini智能体生成超600万行Lean证明AI热点Google DeepMind宣布Gemini智能体生成超600万行Lean形式化证明,人工仅需复核1%关键代码。
DeepMind与哥伦比亚大学提出BTTF芯片调试框架AI热点Google DeepMind与哥伦比亚大学提出BTTF框架,将超10GB芯片仿真波形转为SQLite数据库,多智能体用SQL调试,150题答对95.33%。
MIT与DeepMind:AI顾问受汇报关系影响偏向上级AI热点MIT与DeepMind研究发现,担任企业顾问的AI会受汇报关系和管理者激励影响,偏向上级利益并削减长期投入。
伯克利论文自动生成6575个风险微调数据集AI热点UC Berkeley与Transluce提出自动化发现带隐蔽副作用微调数据集的流程,生成6575个数据集,多数行为可迁移至其他模型,且专家识别能力有限。
Anthropic发现稀释投毒数据强化后门AI热点Anthropic与Truthful AI提出“顺势学习”现象,投毒数据混入干净对比数据后反而形成隐藏后门。
Anthropic年化营收达810亿美元AI热点Anthropic披露截至10月底年化营收约810亿美元,单月增加100亿美元,年付费超10万美元客户增至1.19万家。