从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
AI热点 31
昇腾RL训练系统ASP被NeurIPS接收AI热点深圳市大数据研究院与华为联合研发的ASP异步RL训练调度系统被NeurIPS 2026接收,基于昇腾910B3构建,生成吞吐最高提升222%,并已在电信场景落地。
arXiv论文提出边缘SoC多模态LLM流式推理新方法AI热点新方法分离逻辑历史与引擎KV状态,让任意语言引擎接续流式推理,在M4 Max等平台显著降低首字延迟并提升吞吐。
面壁开源MiniCPM-OCR与Jev质检模型AI热点面壁开源1.3B文档解析模型MiniCPM-OCR 1.0与2B质检决策模型Jev,Real5-OmniDocBench达93.68分,Jev以2B参数反超35B判别模型。
百度文心首度披露RSI进展AI热点百度文心首次披露递归自我改进RSI进展,自动研究系统ERNIE Evolve已用于文心5.5 Flash推理优化并取得多项性能提升。
Anthropic开源FlashProve验证模型推理AI热点Anthropic发布FlashProve开源原型,用零知识证明核验模型推理是否来自承诺权重,可识别中转站掉包模型。
百度开源Unlimited OCR 2,KV缓存降96%AI热点百度开源3.34B参数OCR模型Unlimited OCR 2,单次请求可解析数百页文档,峰值KV缓存从47GB降至1.77GB。
清华开源AKV:缓存工程降本27.7%AI热点清华与港中文团队提出缓存工程并开源AKV推理系统,评测显示平均推理成本降低27.7%、任务成功率提升1.7个百分点。
Hugging Face推理路由切换至OpenRouterAI热点Hugging Face将Inference Providers的语言模型请求切换至OpenRouter路由,按价格、速度与可靠性动态选择供应商并自动重试。
190行纯JAX复现DeepSeek V3,MacBook上完成预训练AI热点开发者用190行纯JAX实现DeepSeek V3架构,在MacBook Air M5上完成36.2M参数预训练并公开检查点与实验数据。
Nemotron-Labs-Sigma开源连续扩散语言模型AI热点NVIDIA团队发布首个大规模连续扩散语言模型系列Nemotron-Labs-Sigma,权重开源,推理加速与基准表现均有可核实提升。
淘宝MNN开源0.3B端侧模型AI热点淘宝MNN团队发布并开源约3亿参数的手机端模型MNN-Pocket-0.3B,在iPhone 18 Pro上完全离线运行,平均解码速度约350 token/s。
开源项目 12
gpu-unlock:解除GeForce张量核心半速限制开源项目Linux内核模块,在驱动加载前解除NVIDIA GeForce显卡张量核心的半速限制,提升AI计算吞吐。查看
gpu-unlock-ada:RTX 4090 与 Ada 显卡 SM 速度选择覆盖内核模块开源项目Linux 内核模块,在 NVIDIA 驱动加载前覆盖 SM 速度选择,README 报告 RTX 4090 上 FP16/BF16 张量吞吐约翻倍,属实验性项目。查看
vLLM:大模型推理与服务库开源项目用 Rust 之外的 Python 实现的 LLM 推理服务库,提供高吞吐服务、OpenAI 兼容 API 与多种硬件支持。查看
nv-uefi-unlocker:NVIDIA 显卡 UEFI 预驱动解锁工具开源项目从 U 盘启动、在驱动加载前解除 NVIDIA 显卡张量计算性能限制的 UEFI 工具,断电后恢复原状。查看
Surya:多语言OCR与文档版面分析模型开源项目689M参数OCR模型,支持多语言文字识别、版面分析、阅读顺序与表格转HTML,附带文本行检测和OCR错误检测小模型。查看
nano-vllm:从零实现的轻量 vLLM开源项目约 1200 行 Python 从零实现的轻量级 vLLM,提供离线推理与前缀缓存、张量并行、CUDA graph 等优化。查看
3FS:面向 AI 训练与推理的高性能分布式文件系统开源项目利用现代 SSD 与 RDMA 网络构建的分布式文件系统,为 AI 训练和推理提供共享存储层,支持数据准备、数据加载、检查点与 KVCache 等负载。查看
Gigatoken:高性能文本分词器开源项目面向语言模型数据处理的快速分词器,兼容 HuggingFace Tokenizers 与 tiktoken,提供自有 API 与兼容模式两种用法。查看
mirro-rs:Arch Linux 镜像源列表管理 TUI开源项目Rust 编写的 Arch Linux 镜像列表管理工具,提供 TUI,可按延迟、评分、完成率、速率等指标排序筛选并导出。查看
Step-3.5-Flash:稀疏 MoE 开源基础模型开源项目196B 参数、每 token 激活 11B 的 MoE 基础模型,面向推理、编码与 Agent 任务。查看
dInfer:扩散语言模型推理框架开源项目面向 dLLM 的高效可扩展推理框架,将推理拆分为模型、扩散迭代管理器、解码器与 KV 缓存管理器四个组件,支持批量推理。查看
Valkey:高性能键值数据结构服务器开源项目从 Redis 分叉的开源高性能键值数据结构服务器,支持多种原生结构与可扩展插件系统。查看