从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
开源项目 94
NVKE:自托管Kubernetes集群管理平台开源项目NVKE 提供管理面,用于在自有NVIDIA GPU基础设施上创建和运维Kubernetes工作负载集群。查看
Henge:在 iPhone 和 iPad 上运行 macOS 的模拟器应用开源项目iOS 应用,通过自研 JIT 与虚拟 GPU 在 iPhone/iPad 上安装并运行 macOS,支持触控板手势与外接键鼠。查看
zedis:Redis/Valkey 原生 GUI 客户端开源项目基于 Rust 与 GPUI 的 Redis/Valkey 图形客户端,GPU 渲染、虚拟滚动,支持多种连接方式与自托管网页版。查看
kimi-k3-in-c:纯C实现的Kimi K3推理引擎开源项目用便携C99在单台CPU上推理2.78T参数模型,8GB内存即可运行,无需GPU与框架。查看
bitnet.cpp:1-bit 大模型的推理框架开源项目BitNet b1.58 等 1-bit/三值大模型的官方推理框架,提供 CPU 与 GPU 优化内核及配套模型。查看
ggml:机器学习张量计算库开源项目用纯C/C++实现的机器学习张量库,无外部依赖,支持多架构CPU与GPU等后端,提供量化格式与SIMD优化内核。查看
Triton-distributed:面向计算通信重叠的分布式编译器开源项目基于 OpenAI Triton 的分布式编译器,用低层原语编写计算与通信重叠的内核,面向 NVIDIA 与 AMD GPU。查看
colibri:本地运行超大开源模型的推理引擎开源项目纯C实现的推理引擎,用MoE专家按需从磁盘读取的方式在普通电脑上运行数百亿参数的开源模型,无需GPU。查看
Kornia:PyTorch 可微分计算机视觉库开源项目基于 PyTorch 的可微分计算机视觉库,提供图像处理、几何视觉算法与批量 GPU 加速算子。查看
MetaClaw:让个人 Agent 从对话中元学习进化开源项目在 LLM API 前放置代理,拦截个人 Agent 的交互、注入技能并从真实对话中持续学习,无需本地 GPU。查看
Quiet.md:本地优先的富文本笔记应用开源项目用 Rust + GPUI 原生绘制的本地笔记应用,笔记以飞书 DocxXML 格式存储在本地。查看
nanochat:单节点LLM训练实验框架开源项目覆盖分词、预训练、微调、评测与推理全流程的极简LLM训练框架,通过单一深度参数配置模型规模。查看
ebook2audiobook:电子书转有声书工具开源项目用多种 TTS 引擎把电子书转换为带章节和元数据的有声书,支持语音克隆与大量语言。查看
FreeToken:消费级硬件上的MoE推理引擎开源项目面向个人与消费级硬件的 MoE 服务引擎,支持在游戏 PC 上运行 290B+ 开源权重模型,提供 CLI 与桌面应用。查看
MiniMind-V:极简视觉语言模型训练教程与代码开源项目从零构建并训练 65M 参数级多模态视觉语言模型,包含数据清洗、Pretrain、SFT 全流程代码。查看
ROLL:大模型强化学习分布式训练库开源项目面向大语言模型的强化学习扩展库,基于 Ray 多角色分布式架构,集成 Megatron-Core、SGLang 与 vLLM。查看
Accera:Python 循环优化编译器开源项目微软的 Python 库形式编译器,通过 MLIR 对循环调度做变换优化,生成可跨平台编译的高性能二进制库。查看
Beszel:轻量级服务器监控平台开源项目包含Docker统计、历史数据与告警的轻量监控平台,由Hub和Agent两部分组成,开箱即用。查看
MNN:端侧深度学习推理与训练框架开源项目轻量高效的深度学习框架,支持模型在移动端与嵌入式设备上的推理和训练,并提供基于它的 LLM 与 Stable Diffusion 本地运行方案。查看
Magnitude:本地模型推理引擎开源项目开源推理引擎,按硬件自动调优内核以加速本地模型运行。查看