从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
开源项目 12
gpu-unlock:解除GeForce张量核心半速限制开源项目Linux内核模块,在驱动加载前解除NVIDIA GeForce显卡张量核心的半速限制,提升AI计算吞吐。查看
gpu-unlock-ada:RTX 4090 与 Ada 显卡 SM 速度选择覆盖内核模块开源项目Linux 内核模块,在 NVIDIA 驱动加载前覆盖 SM 速度选择,README 报告 RTX 4090 上 FP16/BF16 张量吞吐约翻倍,属实验性项目。查看
vLLM:大模型推理与服务库开源项目用 Rust 之外的 Python 实现的 LLM 推理服务库,提供高吞吐服务、OpenAI 兼容 API 与多种硬件支持。查看
nv-uefi-unlocker:NVIDIA 显卡 UEFI 预驱动解锁工具开源项目从 U 盘启动、在驱动加载前解除 NVIDIA 显卡张量计算性能限制的 UEFI 工具,断电后恢复原状。查看
Surya:多语言OCR与文档版面分析模型开源项目689M参数OCR模型,支持多语言文字识别、版面分析、阅读顺序与表格转HTML,附带文本行检测和OCR错误检测小模型。查看
nano-vllm:从零实现的轻量 vLLM开源项目约 1200 行 Python 从零实现的轻量级 vLLM,提供离线推理与前缀缓存、张量并行、CUDA graph 等优化。查看
3FS:面向 AI 训练与推理的高性能分布式文件系统开源项目利用现代 SSD 与 RDMA 网络构建的分布式文件系统,为 AI 训练和推理提供共享存储层,支持数据准备、数据加载、检查点与 KVCache 等负载。查看
Gigatoken:高性能文本分词器开源项目面向语言模型数据处理的快速分词器,兼容 HuggingFace Tokenizers 与 tiktoken,提供自有 API 与兼容模式两种用法。查看
mirro-rs:Arch Linux 镜像源列表管理 TUI开源项目Rust 编写的 Arch Linux 镜像列表管理工具,提供 TUI,可按延迟、评分、完成率、速率等指标排序筛选并导出。查看
Step-3.5-Flash:稀疏 MoE 开源基础模型开源项目196B 参数、每 token 激活 11B 的 MoE 基础模型,面向推理、编码与 Agent 任务。查看
dInfer:扩散语言模型推理框架开源项目面向 dLLM 的高效可扩展推理框架,将推理拆分为模型、扩散迭代管理器、解码器与 KV 缓存管理器四个组件,支持批量推理。查看
Valkey:高性能键值数据结构服务器开源项目从 Redis 分叉的开源高性能键值数据结构服务器,支持多种原生结构与可扩展插件系统。查看