从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
AI热点 56
至知发布Tessera支持3070万原子计算AI热点至知创新研究院发布分布式计算系统Tessera,在512张GPU上完成约3070万原子的能量与受力计算,单步耗时1.684秒,扩展效率达89.7%,并完成千万原子级连续分子动力学模拟验证。
CMU新基准:Opus 5.5智能体得分1.25登顶AI热点CMU论文Singularity-Bench评测11个智能体,Opus 5.5+Claude Code以1.25分领先,其推理引擎每GPU小时收益超SGLang。
谷歌推出LiteRT Tensor API支持端侧模型构建AI热点谷歌发布LiteRT Tensor API,轻量级C++接口支持端侧模型构建与跨CPU/GPU/NPU运行,实测在MacBook Pro上比Apple MLX快约1.5倍。
VLA推理优化测量研究提出VLA-Triage指南AI热点新论文系统测量7类推理优化方法在7个VLA模型、4类GPU上的表现,分析CPU启动开销、内存带宽与内核效率如何共同影响优化收益,并提出VLA-Triage延迟预算优化叠加指南。
RPS-Serve发布:多模态推理调度新框架AI热点arXiv论文提出RPS-Serve模态感知调度框架,通过将视频、图像、文本分类为岩石、卵石、沙子优化GPU利用率,GPU利用率提升65%,TTFT最多降低9.3倍。
SGLang推统一内存:三类状态共用一个arenaAI热点SGLang推出--enable-unified-memory,让全注意力KV、滑动窗口KV与循环状态共用一个GPU内存arena,容量按需分配。
LM-SimBench发布LLM训练模拟基准AI热点LM-SimBench提供评估LLM训练模拟器的统一框架、数据集与基准,含348个可行配置并验证GPU-NPU跨平台适用性。
LlamaIndex优化OCRia-1推理提速近10倍AI热点LlamaIndex披露OCRia-1推理优化方案,单张B200上token生成从约285提升至约2800 tokens/sec,接近10倍。
FreeToken开源:RTX 5090本地跑DeepSeek 284B达25tok/sAI热点伯克利、MIT等推出开源推理引擎FreeToken,让个人电脑运行千亿参数MoE模型,RTX 5090实测DeepSeek 284B达22-25 tok/s,可接入Claude Code等Coding Agent。
Docling v2.149.0集成MiniCPM-OCRAI热点Docling发布v2.149.0,新增MiniCPM-OCR预设与PDF原生图片提取等功能。
英伟达展示OOI共封装光学新技AI热点英伟达在SEMICON West 2026展示OOI技术,将光引擎集成至硅中介层,配合8波长DWDM将单纤带宽提升至256Gb/s,突破AI集群互连瓶颈。
谷歌一次发布两款专用TPU 8tx与8i MaxAI热点谷歌发布TPU 8tx与8i Max两款专用芯片,分别面向政府受监管行业加密需求与超长上下文应用,挑战英伟达通用路线。
AMD用AI预测内存页减半DRAM用量AI热点AMD披露Mext技术用transformer类AI模型预测内存页访问,将冷页卸载至闪存,实现半数DRAM下约95%性能。
Meta FAIR开源e-means聚类算法AI热点Meta FAIR发布e-means算法,用指数移动平均更新质心,以更少epoch达到Lloyd k-means损失,并随FAISS 1.16.0开源。
MasterControl开源Runway推理验证框架AI热点MasterControl发布内部验证工具Runway,围绕NVIDIA AIPerf构建合规决策流水线,并给出三项推理引擎评测发现。
英伟达发布Dynamo部署方案适配韩国模型AI热点英伟达发布Dynamo优化部署方案,适配韩国四大开源模型,B200上开箱性能提升最高2倍。
Ai2开源机器人评测框架ToyBlocksAI热点Ai2发布FoundationWorlds框架及首个受控环境ToyBlocks,用于机器人学习与评测研究。
Brightspeed拟改造130座建筑为小型数据中心AI热点Brightspeed正与英伟达洽谈,拟将130多座老旧电信建筑改造为可提供约1吉瓦算力的小型数据中心。
港大开源YN决策模型,千万家庭仿真提速AI热点港大罗晔团队发布S²-MAS社会仿真框架与YN决策模型家族并开源,单卡吞吐达3.7万token/s。
BlockLock实现可复现LLM推理,延迟降逾53%AI热点arXiv论文提出BlockLock方法,通过固定批处理几何形状保证LLM推理输出可复现,实验显示相对vLLM Batch-Invariant延迟降低53.5%至55.0%。
开源项目 83
zedis:Redis/Valkey 原生 GUI 客户端开源项目基于 Rust 与 GPUI 的 Redis/Valkey 图形客户端,GPU 渲染、虚拟滚动,支持多种连接方式与自托管网页版。查看
kimi-k3-in-c:纯C实现的Kimi K3推理引擎开源项目用便携C99在单台CPU上推理2.78T参数模型,8GB内存即可运行,无需GPU与框架。查看
Triton-distributed:面向计算通信重叠的分布式编译器开源项目基于 OpenAI Triton 的分布式编译器,用低层原语编写计算与通信重叠的内核,面向 NVIDIA 与 AMD GPU。查看
Kornia:PyTorch 可微分计算机视觉库开源项目基于 PyTorch 的可微分计算机视觉库,提供图像处理、几何视觉算法与批量 GPU 加速算子。查看
colibri:本地运行超大开源模型的推理引擎开源项目纯C实现的推理引擎,用MoE专家按需从磁盘读取的方式在普通电脑上运行数百亿参数的开源模型,无需GPU。查看
MetaClaw:让个人 Agent 从对话中元学习进化开源项目在 LLM API 前放置代理,拦截个人 Agent 的交互、注入技能并从真实对话中持续学习,无需本地 GPU。查看
FreeToken:消费级硬件上的MoE推理引擎开源项目面向个人与消费级硬件的 MoE 服务引擎,支持在游戏 PC 上运行 290B+ 开源权重模型,提供 CLI 与桌面应用。查看
ebook2audiobook:电子书转有声书工具开源项目用多种 TTS 引擎把电子书转换为带章节和元数据的有声书,支持语音克隆与大量语言。查看
Quiet.md:本地优先的富文本笔记应用开源项目用 Rust + GPUI 原生绘制的本地笔记应用,笔记以飞书 DocxXML 格式存储在本地。查看
nanochat:单节点LLM训练实验框架开源项目覆盖分词、预训练、微调、评测与推理全流程的极简LLM训练框架,通过单一深度参数配置模型规模。查看
MiniMind-V:极简视觉语言模型训练教程与代码开源项目从零构建并训练 65M 参数级多模态视觉语言模型,包含数据清洗、Pretrain、SFT 全流程代码。查看
ROLL:大模型强化学习分布式训练库开源项目面向大语言模型的强化学习扩展库,基于 Ray 多角色分布式架构,集成 Megatron-Core、SGLang 与 vLLM。查看
Accera:Python 循环优化编译器开源项目微软的 Python 库形式编译器,通过 MLIR 对循环调度做变换优化,生成可跨平台编译的高性能二进制库。查看
PhotoCraft:Rust 编写的开源图像编辑应用开源项目用纯 Rust 从零实现的 Photoshop 类图像编辑器,支持图层、蒙版、调整图层、文字、矢量与真实 PSD 文件。查看
WordCraft:Rust 编写的开源文字处理器开源项目纯 Rust 实现的现代文字处理器,提供熟悉的 ribbon 界面,读写 .docx,可原生运行于桌面与浏览器。查看
DroidDeck:在 Android 上运行 SteamOS 体验开源项目把 Steam 游戏模式、Linux 桌面与多商店整合带到 Android 的开源应用,仅从仓库 Releases 下载。查看
mpv:命令行媒体播放器开源项目支持多种媒体格式、音视频编解码器和字幕类型的自由命令行媒体播放器。查看
Beszel:轻量级服务器监控平台开源项目包含Docker统计、历史数据与告警的轻量监控平台,由Hub和Agent两部分组成,开箱即用。查看
LLM Universe:动手学大模型应用开发教程开源项目面向初学者的大模型应用开发教程,以个人知识库助手为主线讲解 API 调用、知识库与 RAG。查看
LLMs-from-scratch:从零构建大语言模型教程代码开源项目《Build a Large Language Model (From Scratch)》官方代码仓库,用 PyTorch 逐步实现并训练 GPT 类模型。查看