从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
AI热点 30
NVIDIA论文:LLM推理缓存为CPU代码,成本降291倍AI热点NVIDIA提出CPU-ARC方法,将LLM推理轨迹转成可执行CPU代码,变体问题直接复用,成本降低16至291倍。
Architect Labs发布AI设计CPU架构FrostbiteAI热点Architect Labs推出由AI系统自主设计验证的通用CPU架构Frostbite,在25个基准任务上实现4.59倍每瓦性能提升。
Anthropic用Claude完成API迁移CPU省40%AI热点Anthropic借助Claude将Messages API从Python迁移到Rust并全面上线,CPU消耗减少约40%-50%,首Token延迟改善10%-20%。
Qwenputer发布:模型内实现RISC-V CPUAI热点开发者基于Qwen3.5-4B构建Qwenputer,在神经网络内实现32位RISC-V CPU,无需外部工具即可精确计算。
Tom's Hardware发布首个智能体AI CPU基准AI热点Tom's Hardware公布首个针对智能体AI工作负载的CPU基准测试方法,用于评估智能体循环中的CPU与内存性能。
谷歌推出LiteRT Tensor API支持端侧模型构建AI热点谷歌发布LiteRT Tensor API,轻量级C++接口支持端侧模型构建与跨CPU/GPU/NPU运行,实测在MacBook Pro上比Apple MLX快约1.5倍。
ExecuTorch新增WebGPU后端AI热点ExecuTorch发布WebGPU后端,PyTorch模型可在浏览器GPU上直接推理,性能较CPU路径提升数倍。
英伟达与甲骨文将OCI超算集群扩至多吉瓦级AI热点英伟达与甲骨文将OCI超算集群扩至多吉瓦级,Vera Rubin NVL72与Vera CPU在OCI正式可用。
VLA推理优化测量研究提出VLA-Triage指南AI热点新论文系统测量7类推理优化方法在7个VLA模型、4类GPU上的表现,分析CPU启动开销、内存带宽与内核效率如何共同影响优化收益,并提出VLA-Triage延迟预算优化叠加指南。
FreeToken开源:RTX 5090本地跑DeepSeek 284B达25tok/sAI热点伯克利、MIT等推出开源推理引擎FreeToken,让个人电脑运行千亿参数MoE模型,RTX 5090实测DeepSeek 284B达22-25 tok/s,可接入Claude Code等Coding Agent。
AMD第六代Epyc SP7出货AI热点AMD第六代Epyc SP7处理器全面上市,Helion智能体AI机架本月内交付。
SK海力士SC26展示MARS机架与HBM4EAI热点SK海力士在SC26展示MARS机架系统与HBM4E内存,聚焦AI数据高效存储与处理。
DeepMind 工程师让激光打印机跑起 Gemma 3 270MAI热点谷歌 DeepMind 工程师在未改装的办公激光打印机上运行 2.7 亿参数模型,内存峰值约 14.1MB。
马斯克:SpaceX每月新增0.5GW AI算力AI热点马斯克透露SpaceX目前每月新增约0.5GW AI算力,约合22万颗GB300芯片及配套基础设施,计划明年底提速至每月超1GW。
AMD XDNA 2 NPU获Unsloth Desktop适配AI热点AMD宣布XDNA 2 NPU成为首款支持Unsloth Desktop本地接口的处理器,超百款智能体可在NPU上本地运行。
OpenAI模型助AMD优化GPU设计,PPA提升14%AI热点OpenAI披露其AI模型参与AMD旗舰GPU设计,PPA提升最高14%,并将约一年设计工作压缩至不足5个月。
Top500十一月榜:深圳灵晟蝉联超算榜首AI热点Top500发布2026年11月榜单,深圳国家超算中心“灵晟”以2.198 Exaflop/s第二次夺冠,报告称全球AI总算力超1500万块H100等效,美五大云厂商占约71%。
Liquid AI发布74M参数流式音频编解码器AI热点Liquid AI发布流式语音编解码器LiquidCodec,约74M参数,权重已上架Hugging Face。
KORA发布AI PC操作系统KORA OSAI热点KORA Systems推出专为AI PC设计的KORA OS,底层融入本地AI推理与智能体工作流,将率先适配高通骁龙X2 Elite平台。
Meta FAIR开源e-means聚类算法AI热点Meta FAIR发布e-means算法,用指数移动平均更新质心,以更少epoch达到Lloyd k-means损失,并随FAISS 1.16.0开源。
开源项目 88
CPU Info:跨平台设备硬件信息应用开源项目用 Kotlin/Compose Multiplatform 编写的应用,展示设备的硬件与软件信息,覆盖移动端、桌面与 Wasm。查看
Indra OCR:CPU 上运行的轻量文档 OCR 模型开源项目约 1M 参数、基于 ONNX Runtime 的 OCR 模型,把 PDF 和图片转成 markdown、文本或带框 JSON,支持 80 多种语言、手写和任意角度页面。查看
llmfit:检测硬件并推荐可运行的开源LLM开源项目检测 CPU、内存、GPU 与显存,按量化格式估算模型内存占用和速度,推荐你的硬件能流畅运行的开源大模型。查看
kimi-k3-in-c:纯C实现的Kimi K3推理引擎开源项目用便携C99在单台CPU上推理2.78T参数模型,8GB内存即可运行,无需GPU与框架。查看
cc64:面向6502的Forth编写的C编译器开源项目用Forth编写的小型C编译器,目标为6502 CPU,可在C64、C16/Plus4和Commander X16上运行并支持交叉编译。查看
MOSS-TTS-Nano:0.1B 参数多语言轻量语音合成模型开源项目开源多语言 tiny TTS 模型,0.1B 参数,支持 CPU 流式推理、声音克隆、ONNX 部署与微调。查看
bitnet.cpp:1-bit 大模型的推理框架开源项目BitNet b1.58 等 1-bit/三值大模型的官方推理框架,提供 CPU 与 GPU 优化内核及配套模型。查看
Chitu 赤兔:大模型推理框架开源项目面向生产部署的高性能大模型推理框架,支持多种 GPU 与从 CPU 到集群的多档部署规模。查看
ggml:机器学习张量计算库开源项目用纯C/C++实现的机器学习张量库,无外部依赖,支持多架构CPU与GPU等后端,提供量化格式与SIMD优化内核。查看
FlashProve:AI模型回复的零知识证明研究原型开源项目让AI服务商在不公开模型权重的前提下,证明某条回复确实由已承诺的模型生成,供任何人用CPU验证。查看
Kitten-TTS:开源文本转语音模型与推理库开源项目提供1.7B参数的Kitten-TTS 2与15M-80M轻量ONNX模型,支持5-30秒音频声音克隆、20种语言和情感标签控制,可在CPU上实时运行。查看
OpenVINO:深度学习推理优化与部署工具包开源项目OpenVINO是优化和部署深度学习推理的开源工具包,支持PyTorch、TensorFlow、ONNX等框架的模型,在CPU、Intel GPU和NPU上运行,并提供GenAI相关API。查看
CubeCL:Rust高性能计算内核框架开源项目用Rust编写一次计算内核,通过JIT编译在CUDA、HIP、Metal、Vulkan、WebGPU和CPU上运行。查看
Tile Language:高性能GPU内核DSL开源项目基于TVM编译器的Python风格领域语言,用于编写GEMM、FlashAttention等高性能GPU/CPU/NPU内核。查看
tiny-voca:4.5M参数的双声线英语TTS模型开源项目一个从零训练的小型英语文本转语音模型,4.5M参数、18MB,提供F2女声与M2男声,可在CPU或浏览器中运行,代码、权重与训练数据均开源。查看
Accera:Python 循环优化编译器开源项目微软的 Python 库形式编译器,通过 MLIR 对循环调度做变换优化,生成可跨平台编译的高性能二进制库。查看
raven:在Linux上运行Windows应用的兼容层开源项目在Linux上直接运行Windows程序的兼容层,模拟Windows内核服务,图形经Wayland与Vulkan输出。查看
earshot:让编程 Agent 听懂音频的本地 CLI 工具开源项目把声音变成 Agent 可推理的证据:描述音频、匹配描述、定位最佳片段、判断真伪,并支持用代码合成音效。查看
Gigatoken:高性能文本分词器开源项目面向语言模型数据处理的快速分词器,兼容 HuggingFace Tokenizers 与 tiktoken,提供自有 API 与兼容模式两种用法。查看
ebook2audiobook:电子书转有声书工具开源项目用多种 TTS 引擎把电子书转换为带章节和元数据的有声书,支持语音克隆与大量语言。查看