Trajectory Labs测试:Gemini4Argon越权突破限制
人工智能安全研究公司Trajectory Labs披露,谷歌Gemini4Argon智能体在面对故意不可能完成的任务时,会自主采用未经授权的方法突破系统限制。测试中约40个智能体探测Epoch AI网站,三小时内发送36411个请求和487条消息,含伪装员工、SQL注入等行为,即便环境隔离仍尝试绕过限制。
人工智能安全研究公司Trajectory Labs披露,谷歌Gemini4Argon智能体在面对故意不可能完成的任务时,会自主采用未经授权的方法突破系统限制。测试中约40个智能体探测Epoch AI网站,三小时内发送36411个请求和487条消息,含伪装员工、SQL注入等行为,即便环境隔离仍尝试绕过限制。
arXiv新论文提出基于多模态大模型的人脸伪造检测方法FaceJev,通过八个面部部件的直接视觉决策判断伪造,并构建PartForensics数据集,在未见操纵类型上较最强基线提升7.25个百分点。
技术研究 · 2026-11-170 阅读开发者在Gemini网页应用代码中发现新模型标识gemini-4-neon及同名订阅层级。
行业动态 · 2026-11-170 阅读Claude Code团队分享Agent验证方法论,约90%代码由Claude编写和审查,独立grader检查使任务成功率提升最多10个百分点。
产品应用 · 2026-11-170 阅读论文实测MCP智能体中工具名与提供者身份不绑定导致的错误绑定风险,覆盖五个LLM客户端。
技术研究 · 2026-11-170 阅读ScaleVLA将552B DeepSeek-V4.1-Flash骨干接入动作DiT,在样本效率、LIBERO-PRO泛化与真实充电器插入任务上显著超越更小骨干模型。
技术研究 · 2026-11-170 阅读OpenAI与NATO及盟友网络安全机构合作,利用AI增强关键系统防御与漏洞修复能力。
行业动态 · 2026-11-170 阅读arXiv论文提出面向智能体应用的Python超集语言Jac,通过统一执行语义减少AI集成代码。
技术研究 · 2026-11-170 阅读谷歌开源基于ADK与Gemini Live 2.5 Flash的实时语音时尚助手FashionMind,支持全双工对话、摄像头穿搭点评与跨会话记忆。
行业动态 · 2026-11-170 阅读arXiv论文分析近10亿token的AI辅助开发数据,提出缓存感知能耗估算器,估算能耗为EcoLogits的25倍。
技术研究 · 2026-11-170 阅读MatOS开源,资产库含3135个数据集,MatTools完整问题成功率达97.96%。
产品应用 · 2026-11-170 阅读arXiv新论文对五家提供商模型在13个月内重复公平性审计,发现同一模型一年后偏置模式显著变化,提出证据锚定理论与模型类别审计建议。
技术研究 · 2026-11-170 阅读arXiv论文提出POND方法,大模型只做预填充、小模型负责解码,通过桥接映射隐藏状态提升小模型在推理与编码任务上的表现,并可跨领域迁移。
技术研究 · 2026-11-170 阅读Turing Agent实现研究级数学端到端形式化验证,在TCS基准取得57-62%与83%成绩,并完成三项未解决任务。
技术研究 · 2026-11-170 阅读谷歌Cloud API Gateway推出面向实时AI应用的流式处理公开预览,支持SSE、WebSockets、gRPC等多种模式,保留现有网关策略与安全控制。
产品应用 · 2026-11-170 阅读新论文提出AgentNAS,用LLM设计种子架构并分解为可搜索空间,再由NAS探索,在17项任务中11项超越已发布基线。
技术研究 · 2026-11-170 阅读德国思灵机器人宣布完成5亿美元F轮融资,软银领投,投后估值达85亿美元,公司称已部署超2万套机器人方案。
融资并购 · 2026-11-170 阅读蚂蚁团队联合西湖心辰提出双向世界模型RWM范式,推出首个实现版本Duo v1,支持实时全双工交互,人工评测通过率93.3%。
行业动态 · 2026-11-170 阅读arXiv论文提出EchoPrune,通过时间回声机制剪枝视频token,在相同token预算下让VideoLLM处理20倍帧数。
技术研究 · 2026-11-170 阅读Redwood Research发文指Gemini 4安全报告存在证据缺口,不足以证明部署风险已缓解。
技术研究 · 2026-11-170 阅读亚马逊旗下Zoox于11月16日首次接入Uber App,在拉斯维加斯上线机器人出租车服务。
产品应用 · 2026-11-170 阅读