从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
AI热点 17
Visa微调Llama 3.2 1B超越表格分类模型AI热点Visa Research发布VRLLM技术报告,将Llama 3.2 1B微调为表格分类器并超越多种模型。
Together AI发布Together Compiler推理优化框架AI热点Together AI推出Together Compiler,用AI代理重写融合GPU内核,B200上Llama 1B推理比手写巨核快28%。
ExecuTorch新增WebGPU后端AI热点ExecuTorch发布WebGPU后端,PyTorch模型可在浏览器GPU上直接推理,性能较CPU路径提升数倍。
亚马逊与Booking发布模型压缩方案AI热点亚马逊与Booking.com结合知识蒸馏与Medusa框架,将70B模型能力压缩至1.1B,速度提升最高20倍。
ACE提取Transformer算法核心子空间AI热点论文提出ACE方法,从合成任务到大型预训练模型提取必要且充分的算法核心子空间,并在六个语言模型上验证主谓一致由单一可操控轴控制。
DictLLM字典核压缩LLaMA-7B达5.1倍AI热点DictLLM提出字典核后训练压缩方案,将LLaMA-7B压缩5.1倍且困惑度仅升2.9点,压缩率较SOTA低秩方法高3.6倍,入选NeurIPS 2026。
指令微调提升开源LLM德语肿瘤ICD编码AI热点论文显示,用公共ICD目录构建超50万问答对微调8个开源模型,可显著提升德语肿瘤诊断ICD编码准确率。
DGP动态门控打通ViT与LLM全层连接AI热点NeurIPS 2026接收论文提出DGP机制,在ViT与LLM所有层间建立动态门控全连接,较LLaVA-1.5基线多项评测显著提升。
DGP让LLM每层动态访问全部ViT层AI热点西北工业大学与香港科技大学提出DGP架构,让每个LLM层按需访问全部ViT层并动态分配融合权重,在LLaVA-1.5-7B上11项指标全部超过基线。
字节Seed发布9B连续潜空间模型Cola2AI热点字节跳动Seed在Hugging Face发布9B参数连续潜空间语言模型Cola2,采用动态压缩VAE与扩散Transformer架构,仅用346.03B token训练即达八任务均分60.10%。
llama.cpp与ggml发布首个大版本v1.0.0AI热点llama.cpp与ggml发布首个大版本v1.0.0,承诺以主版本号标识API/ABI不兼容变更。
Cohere为North Micro Vision加入llama.cpp支持AI热点Cohere为North Micro Vision架构加入llama.cpp支持,扩大其在手机、笔记本和工作站的本地部署兼容性。
smolmaxxing让1G内存旧设备本地跑AI大模型AI热点smolmaxxing基于llama.cpp优化老旧芯片,让1G内存电视盒子和旧iPad本地运行AI大模型并给出实测速度。
Anthropic发布可验证推理系统FlashProveAI热点Anthropic发布基于zkSNARK的可验证推理系统FlashProve,开源代码与Lean证明。
Menlo报告:中国模型占开源支出89%AI热点Menlo Ventures报告显示,中国AI模型占全球企业开源模型支出约89%,Kimi、DeepSeek、GLM位列前三。
Anthropic开源FlashProve验证模型推理AI热点Anthropic发布FlashProve开源原型,用零知识证明核验模型推理是否来自承诺权重,可识别中转站掉包模型。
EchoPrune发布:视频LLM同预算处理20倍帧AI热点arXiv论文提出EchoPrune,通过时间回声机制剪枝视频token,在相同token预算下让VideoLLM处理20倍帧数。
开源项目 37
AI Engineering Hub:AI 工程教程与项目合集开源项目按难度分级的 AI 工程学习仓库,收录 93+ 个可运行项目与 LLM、RAG、Agent 等主题教程,覆盖 OCR、聊天界面、RAG、多模态、MCP 等方向。查看
mlx-lm:Apple 芯片上的 LLM 推理与微调工具开源项目基于 MLX 的 Python 包,在 Apple 芯片上生成文本、聊天、量化并微调大语言模型。查看
airllm:低显存大模型推理库开源项目通过分层加载在小显存GPU上运行大语言模型,无需量化、蒸馏或剪枝,也支持小显存训练。查看
VoxCPM:无离散token的文本转语音模型开源项目基于扩散自回归架构的开源TTS系统,支持30种语言、声音设计、可控声音克隆与48kHz输出。查看
transformers:多模态预训练模型推理与训练库开源项目Hugging Face 的模型定义框架,覆盖文本、视觉、音频、视频与多模态任务,提供统一的推理与训练 API。查看
dify:开源 LLM 应用开发平台开源项目开源 LLM 应用开发平台,集成可视化工作流、RAG 管线、Agent、模型管理与可观测性,支持 Docker 部署。查看
MiniCPM-OCR:文档解析与OCR模型系列开源项目面向中英文文档与PDF解析的OCR模型系列,含1.0解析模型与Jev质量评分模型,支持vLLM等部署与pip SDK。查看
HunyuanOCR-1.5:轻量端到端 OCR 视觉语言模型开源项目统一文档解析、文本检测识别、信息抽取与图文翻译的轻量 OCR VLM,含训练与推理栈。查看
MinerU:多格式文档解析工具开源项目解析 PDF、扫描件、Office、EPUB、HTML 等文档,输出 Markdown、LaTeX、DOCX 等结构化结果。查看
llama.cpp:C/C++实现的本地LLM推理引擎开源项目用纯C/C++实现的大语言模型与视觉语言模型推理引擎,目标是在多种硬件上以最少配置实现本地和云端推理。查看
LiteParse:本地快速 PDF 解析工具开源项目LiteParse 是专注快速轻量的本地 PDF 解析工具,基于 PDFium 输出带边界框的文本与 Markdown,可选接 Tesseract 等 OCR。查看
SemTools:文档解析与语义搜索 CLI开源项目Rust 编写的命令行工具,提供文档解析、本地语义搜索和基于 Agent 的问答。查看
yogurt:本地运行的开源AI会议笔记应用开源项目免费开源的桌面应用,录制通话并本地转写、生成会议摘要,支持跨会议问答与本地 MCP 只读访问,不向会议加入机器人。查看
AutoGPT:多专家协作的AI Agent平台开源项目以协调者Otto调度多个专家Agent完成内容、销售、研究等任务,支持托管与自托管。查看
DigUp:本地多模态语义文件搜索工具开源项目用 EmbeddingGemma 2 在本地按内容搜索电脑上的图片、PDF、文档、音视频和代码,支持跨语言与精确词匹配。查看
Gigatoken:高性能文本分词器开源项目面向语言模型数据处理的快速分词器,兼容 HuggingFace Tokenizers 与 tiktoken,提供自有 API 与兼容模式两种用法。查看
DFlash:块扩散投机解码草稿模型开源项目面向投机解码的轻量块扩散模型,支持多款开源基座的并行草稿生成与多种推理后端。查看
llm-course:大模型学习路线与实验笔记本开源项目分三部分的大模型课程,配套微调、量化、模型合并等可运行的笔记本与文章。查看
vLLM:大模型推理与服务库开源项目用 Rust 之外的 Python 实现的 LLM 推理服务库,提供高吞吐服务、OpenAI 兼容 API 与多种硬件支持。查看
AngelSlim:大模型压缩工具箱开源项目腾讯开源的大模型压缩工具箱,涵盖量化、蒸馏、稀疏注意力与投机解码等能力。查看