从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
开源项目 46
gpt-oss:OpenAI 开放权重模型与参考实现开源项目OpenAI 的 gpt-oss-120b 与 gpt-oss-20b 开放权重模型仓库,含推理参考实现、工具与客户端示例。查看
ggml:机器学习张量计算库开源项目用纯C/C++实现的机器学习张量库,无外部依赖,支持多架构CPU与GPU等后端,提供量化格式与SIMD优化内核。查看
Kimi K3:开源多模态 Agent 模型开源项目MoonshotAI 开源的 2.8T 参数原生多模态 Agent 模型,支持 100 万 token 上下文与文本图像输入。查看
FreeToken:消费级硬件上的MoE推理引擎开源项目面向个人与消费级硬件的 MoE 服务引擎,支持在游戏 PC 上运行 290B+ 开源权重模型,提供 CLI 与桌面应用。查看
VeighNa:Python 量化交易开发框架开源项目基于 Python 的开源量化交易系统开发框架,提供交易接口、策略应用、数据与数据库适配,4.0 新增 vnpy.alpha 多因子机器学习模块。查看
RV:LLVM的通用向量化框架开源项目LLVM的通用向量化框架,以库形式提供函数向量化能力;16.x之后的版本已放弃区域向量化与rvTool。查看
Hummingbot:多交易所自动化交易策略框架开源项目开源量化交易框架,提供脚本、控制器、执行器等策略框架与统一交易所连接器,支持CEX与DEX。查看
inference-optimisation:本地LLM服务提速的Agent技能开源项目面向本地LLM服务的Agent技能,指导在任意硬件与量化配置下逐项爬坡优化解码、预填充、KV缓存、启动与首token延迟,并配套基准测试脚本。查看
AngelSlim:大模型压缩工具箱开源项目腾讯开源的大模型压缩工具箱,涵盖量化、蒸馏、稀疏注意力与投机解码等能力。查看
airllm:低显存大模型推理库开源项目通过分层加载在小显存GPU上运行大语言模型,无需量化、蒸馏或剪枝,也支持小显存训练。查看
rtp-llm:大模型推理加速引擎开源项目阿里巴巴基础模型推理团队开发的LLM推理加速引擎,支持量化、KVCache优化、投机解码等加速技术,已在集团内多个业务中使用。查看
llm-course:大模型学习路线与实验笔记本开源项目分三部分的大模型课程,配套微调、量化、模型合并等可运行的笔记本与文章。查看
llmfit:检测硬件并推荐可运行的开源LLM开源项目检测 CPU、内存、GPU 与显存,按量化格式估算模型内存占用和速度,推荐你的硬件能流畅运行的开源大模型。查看
DiffSynth-Studio:扩散模型推理与训练引擎开源项目集成图像、视频、音频生成与画质评测模型的开源引擎,支持显存调度、量化与多种训练方式。查看
Kronos:金融K线序列的开源基础模型开源项目面向金融K线(OHLCV)序列的decoder-only基础模型家族,用分层离散token化后自回归预训练,可做量化预测。查看
mlx-lm:Apple 芯片上的 LLM 推理与微调工具开源项目基于 MLX 的 Python 包,在 Apple 芯片上生成文本、聊天、量化并微调大语言模型。查看
Qwen3:开源大语言模型系列仓库开源项目Qwen3 系列大语言模型的官方仓库,提供权重、推理部署、量化与训练文档指引。查看
SpikingBrain-7B:脉冲脑启发大模型的实现与权重开源项目SpikingBrain-7B 是融合混合注意力、MoE 与脉冲编码的大模型仓库,提供 HuggingFace、vLLM 与量化版本的完整实现和权重。查看
llama.cpp:C/C++实现的本地LLM推理引擎开源项目用纯C/C++实现的大语言模型与视觉语言模型推理引擎,目标是在多种硬件上以最少配置实现本地和云端推理。查看
Magnitude:本地模型推理引擎开源项目开源推理引擎,按硬件自动调优内核以加速本地模型运行。查看