从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
工具 3
AI热点 22
审计员难识别AI研究破坏,AUROC仅0.59AI热点arXiv论文显示,人类审计员在AI安全研究破坏检测中AUROC仅0.59,仅17%案例识别出具体破坏方式,前沿模型Fable 5.1表现更好。
Amazon审计9个AI基准发现评分错误AI热点Amazon新论文审计9个专业领域AI基准,发现参考答案与评分代码常误判正确回答,修复后模型得分显著提升。
Anthropic研究员测AI审计员:误报率高AI热点Anthropic研究员Andy Hall测试多款模型作为AI审计员,发现其能捕获大部分智能体不当行为,但误报率偏高,难以用于可靠安全检查。
论文审计九个政策决策基准,提出BAR修订框架AI热点研究审计九个政策决策基准,发现评分器与参考答案错误,并提出BAR修订框架,修正后模型接受率显著提升。
研究:LLM公平性审计一年后失效AI热点arXiv新论文对五家提供商模型在13个月内重复公平性审计,发现同一模型一年后偏置模式显著变化,提出证据锚定理论与模型类别审计建议。
MICCAI 2026提出DUCX审计胸片智能体偏差AI热点研究团队在MICCAI 2026提出DUCX方法,对MedRAX胸片智能体进行分阶段公平性审计,量化工具层面的人群差异。
EnvOS框架可审计任务中途变化的智能体AI热点arXiv论文提出EnvOS框架,可构建并认证任务中途变化的智能体测试环境
POIROT开源:智能体自审计故障归因,最高提升50点AI热点论文提出POIROT协议,让多智能体系统自行归因故障,并开源BLAME新基准,九种模型基准配置中最高提升50个百分点。
论文:LLM智能体内群体信任偏差难被审计AI热点arXiv论文显示五个开源推理模型在多智能体模拟中出现内群体信任偏差,且现有行为日志审计难以检测。
AI同行评审基准:前沿LLM检测率差50点AI热点论文提出审计AI同行评审员的基准,向真实论文注入357个错误并评估12个评审系统,发现模型选择对检测率影响最大。
VIOS框架提升视频推理后训练效率AI热点NeurIPS 2026论文提出VIOS后训练框架,通过自审计视觉依赖在12项基准上以更少算力提升视频推理表现。
OpenAI向北约及欧洲政府开放DaybreakAI热点OpenAI向北约及多个欧洲政府开放网络安全工具Daybreak,供防御团队审计软件、发现漏洞。
0sec Labs开源AI安全框架0AI热点0sec Labs开源AI安全测试框架0,提供Web UI、CLI与MCP入口,支持漏洞调查、代码审计与渗透测试。
曙光云发布OneBox智能体协作平台AI热点曙光云在乌镇互联网之光博览会发布面向政企的OneBox智能体协作平台,主打私有化部署与权限审计,并获“新光”产品荣誉。
Gemini智能体生成超600万行Lean证明AI热点Google DeepMind宣布Gemini智能体生成超600万行Lean形式化证明,人工仅需复核1%关键代码。
DeepMind与哥伦比亚大学提出BTTF芯片调试框架AI热点Google DeepMind与哥伦比亚大学提出BTTF框架,将超10GB芯片仿真波形转为SQLite数据库,多智能体用SQL调试,150题答对95.33%。
MIT与DeepMind:AI顾问受汇报关系影响偏向上级AI热点MIT与DeepMind研究发现,担任企业顾问的AI会受汇报关系和管理者激励影响,偏向上级利益并削减长期投入。
伯克利论文自动生成6575个风险微调数据集AI热点UC Berkeley与Transluce提出自动化发现带隐蔽副作用微调数据集的流程,生成6575个数据集,多数行为可迁移至其他模型,且专家识别能力有限。
Anthropic发现稀释投毒数据强化后门AI热点Anthropic与Truthful AI提出“顺势学习”现象,投毒数据混入干净对比数据后反而形成隐藏后门。
Anthropic年化营收达810亿美元AI热点Anthropic披露截至10月底年化营收约810亿美元,单月增加100亿美元,年付费超10万美元客户增至1.19万家。
开源项目 33
ai-memory:跨编码 Agent 的长期记忆工具开源项目Rust 编写的长期记忆系统,让二十余种编码 Agent 共享一份 markdown 记忆,支持跨会话、跨项目、跨机器的任务交接与检索。查看
Buzz:人类与AI Agent共处的自托管工作区开源项目基于Nostr中继的自托管团队工作区,人类与AI Agent以同一身份模型和事件日志协作,含CLI与桌面端。查看
gstack:把编程代理变成虚拟工程团队的技能集开源项目以Markdown斜杠命令为Claude Code等代理提供产品、设计、评审、QA、安全与发布等角色技能。查看
terraform-aws-secure-baseline:AWS安全基线模块开源项目Terraform模块,按CIS AWS Foundations v1.4.0与AWS安全最佳实践配置账号基线,含IAM、日志、网络等子模块。查看
ApeRAG:Graph RAG 知识库平台开源项目结合 Graph RAG、向量与全文检索的生产级 RAG 平台,支持多模态处理与 MCP 接入。查看
BrowserSkill:把浏览器接入 AI Agent 的工具开源项目BrowserSkill 通过 bsk CLI 和浏览器扩展,让 Codex、Claude Code 等 Agent 用你已登录的 Chrome/Edge 完成网页任务。查看
OneUptime:开源可观测性平台开源项目集监控、事件与值班、状态页、日志指标追踪于一体的开源可观测性平台。查看
Onyx:面向团队与智能体的知识上下文层开源项目Onyx 连接 50 多个应用建立知识索引,为团队和 LLM 智能体提供可自托管的检索与上下文层。查看
bisheng:企业级开源 Agent 平台开源项目开源可私有化部署的企业 Agent 平台,提供客户端、托管应用、任务模式、知识空间、workflow 编排与企业级权限管控。查看
knowledge-work-plugins:Claude 职能插件集合开源项目Anthropic 开源的 11 个 Claude 插件,按销售、客服、产品、法务、财务、数据等职能打包技能、命令与连接器,适用于 Cowork 与 Claude Code。查看
Traceway:OpenTelemetry 原生的自托管可观测平台开源项目MIT 许可的可观测平台,通过 OTLP 直接接入日志、链路、指标、会话回放、异常、AI 追踪与值班告警,无需 Collector 或按语言的厂商 SDK。查看
ex-USSR Kinship Research:前苏联谱系研究 Agent 技能开源项目面向 AI Agent 的证据优先家谱研究技能,覆盖前苏联、苏联与俄罗斯帝国时期的档案记录。查看
zedis:Redis/Valkey 原生 GUI 客户端开源项目基于 Rust 与 GPUI 的 Redis/Valkey 图形客户端,GPU 渲染、虚拟滚动,支持多种连接方式与自托管网页版。查看


