从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
工具 3
AI热点 22
审计员难识别AI研究破坏,AUROC仅0.59AI热点arXiv论文显示,人类审计员在AI安全研究破坏检测中AUROC仅0.59,仅17%案例识别出具体破坏方式,前沿模型Fable 5.1表现更好。
Amazon审计9个AI基准发现评分错误AI热点Amazon新论文审计9个专业领域AI基准,发现参考答案与评分代码常误判正确回答,修复后模型得分显著提升。
Anthropic研究员测AI审计员:误报率高AI热点Anthropic研究员Andy Hall测试多款模型作为AI审计员,发现其能捕获大部分智能体不当行为,但误报率偏高,难以用于可靠安全检查。
论文审计九个政策决策基准,提出BAR修订框架AI热点研究审计九个政策决策基准,发现评分器与参考答案错误,并提出BAR修订框架,修正后模型接受率显著提升。
研究:LLM公平性审计一年后失效AI热点arXiv新论文对五家提供商模型在13个月内重复公平性审计,发现同一模型一年后偏置模式显著变化,提出证据锚定理论与模型类别审计建议。
MICCAI 2026提出DUCX审计胸片智能体偏差AI热点研究团队在MICCAI 2026提出DUCX方法,对MedRAX胸片智能体进行分阶段公平性审计,量化工具层面的人群差异。
EnvOS框架可审计任务中途变化的智能体AI热点arXiv论文提出EnvOS框架,可构建并认证任务中途变化的智能体测试环境
POIROT开源:智能体自审计故障归因,最高提升50点AI热点论文提出POIROT协议,让多智能体系统自行归因故障,并开源BLAME新基准,九种模型基准配置中最高提升50个百分点。
论文:LLM智能体内群体信任偏差难被审计AI热点arXiv论文显示五个开源推理模型在多智能体模拟中出现内群体信任偏差,且现有行为日志审计难以检测。
AI同行评审基准:前沿LLM检测率差50点AI热点论文提出审计AI同行评审员的基准,向真实论文注入357个错误并评估12个评审系统,发现模型选择对检测率影响最大。
VIOS框架提升视频推理后训练效率AI热点NeurIPS 2026论文提出VIOS后训练框架,通过自审计视觉依赖在12项基准上以更少算力提升视频推理表现。
OpenAI向北约及欧洲政府开放DaybreakAI热点OpenAI向北约及多个欧洲政府开放网络安全工具Daybreak,供防御团队审计软件、发现漏洞。
0sec Labs开源AI安全框架0AI热点0sec Labs开源AI安全测试框架0,提供Web UI、CLI与MCP入口,支持漏洞调查、代码审计与渗透测试。
曙光云发布OneBox智能体协作平台AI热点曙光云在乌镇互联网之光博览会发布面向政企的OneBox智能体协作平台,主打私有化部署与权限审计,并获“新光”产品荣誉。
Gemini智能体生成超600万行Lean证明AI热点Google DeepMind宣布Gemini智能体生成超600万行Lean形式化证明,人工仅需复核1%关键代码。
DeepMind与哥伦比亚大学提出BTTF芯片调试框架AI热点Google DeepMind与哥伦比亚大学提出BTTF框架,将超10GB芯片仿真波形转为SQLite数据库,多智能体用SQL调试,150题答对95.33%。
MIT与DeepMind:AI顾问受汇报关系影响偏向上级AI热点MIT与DeepMind研究发现,担任企业顾问的AI会受汇报关系和管理者激励影响,偏向上级利益并削减长期投入。
伯克利论文自动生成6575个风险微调数据集AI热点UC Berkeley与Transluce提出自动化发现带隐蔽副作用微调数据集的流程,生成6575个数据集,多数行为可迁移至其他模型,且专家识别能力有限。
Anthropic发现稀释投毒数据强化后门AI热点Anthropic与Truthful AI提出“顺势学习”现象,投毒数据混入干净对比数据后反而形成隐藏后门。
Anthropic年化营收达810亿美元AI热点Anthropic披露截至10月底年化营收约810亿美元,单月增加100亿美元,年付费超10万美元客户增至1.19万家。
开源项目 33
security-audit:编码 Agent 的安全审计技能开源项目把编码 Agent 变成安全审计员的技能,通过隔离子 Agent 分六阶段执行侦察、覆盖驱动狩猎、验证与结构化报告。查看
NOIR:Android 应用隐私审计工具开源项目通过 adb 盘点已连接 Android 设备的应用权限与网络端点,输出风险评分和可回滚的处置建议。查看
iFixAi:AI Agent对齐审计工具开源项目通过业务模拟与独立评审对AI Agent进行合规与安全审计,输出评分与报告。查看
airgorah:WiFi安全审计图形工具开源项目可捕获附近WiFi流量、发现接入点客户端、执行去认证攻击、抓取握手包与PMKID并破解接入点密码的Linux图形软件。查看
Lynis:UNIX系统安全审计与加固工具开源项目在Linux、macOS、BSD等系统上运行的命令行安全扫描工具,进行深度安全检查并给出加固建议,支持合规测试与漏洞检测。查看
claude-seo:Claude Code 的 SEO 审计插件开源项目免费开源的 Claude Code 插件,对网站运行完整 SEO 审计并输出按优先级排序的行动方案。查看
FailSafe ARTEX:多智能体安全测试工具的加固发行版开源项目从已审计的 v0.3.15 源码构建的 ARTEX 发行版,保留多智能体安全测试能力,同时将控制台限制在本机回环并加固容器部署。查看
OpenSEO:开源SEO工具与MCP服务开源项目开源的SEO工具,覆盖关键词研究、排名跟踪、外链、站点审计等工作流,可通过MCP供AI助手直接使用。查看
reverse-skill:逆向与安全任务技能路由包开源项目为AI编码Agent提供APK、二进制、JS加密、CTF等安全任务的方法论路由与工具检查。查看
TokenHub:企业 AI 模型接入与 Token 治理平台开源项目TokenHub 是面向企业的 AI Token 治理基础设施,提供模型路由、权限管理、用量归因、预算控制与账单对账。查看
LinkSense:可自托管的组织级 Agent 工作平台开源项目可部署在自有服务器上的组织 Agent 平台,统一执行任务、共享知识与技能,并在不暴露凭据的情况下连接业务系统。查看
百智办公 · MonkeyAI:团队AI办公工作台开源项目面向团队的开源AI办公工作台,用自然语言让AI完成办公、编程与设计任务,支持资源共享、权限管控与私有化部署。查看
lm_understand-logs:LLM 读写神经网络权重实验日志开源项目该仓库收录博客文章中每个实验的完整日志,包括发送给模型的内容、模型回复、运行的代码与输出、评分以及读写的网络。查看
Bitwarden Clients:密码管理器客户端源码开源项目Bitwarden 除移动端外的客户端应用源码仓库,含构建指引与贡献规范。查看
Coder:自托管云开发环境与AI Agent平台开源项目用Terraform定义工作区、通过WireGuard隧道连接的自托管云开发环境平台,可在其基础设施上运行AI编码Agent。查看
n8n:AI Agent与工作流自动化平台开源项目可视化画布结合代码的 fair-code 自动化平台,支持1500+集成,可自托管或上云。查看
ZSvirt:开源虚拟化管理平台开源项目基于 ZStack ZSphere 虚拟化引擎的开源平台,通过 Web UI、API 或 CLI 管理 KVM 主机、虚拟机、存储与网络。查看
Refly:Agent 技能构建平台开源项目开源的 Agent 技能构建平台,把业务流程编译为可版本化、可复用的技能,导出为 API、Webhook 或 Claude Code 技能。查看
Clawith:多Agent协作与组织管理平台开源项目开源多Agent协作平台,为每个Agent提供持久身份、长期记忆与独立工作空间。查看
RustFS:Rust实现的分布式对象存储开源项目Apache 2.0 许可的 Rust 对象存储系统,提供 S3 与 Swift API 兼容,面向数据湖、AI 和大数据负载。查看


