从一个关键词开始
搜名称,也可以搜场景,比如“AI 写作”“视频剪辑”或“编程助手”。
开源项目 4
gpu-unlock:解除GeForce张量核心半速限制开源项目Linux内核模块,在驱动加载前解除NVIDIA GeForce显卡张量核心的半速限制,提升AI计算吞吐。查看
MiniCPM-V:端侧多模态大模型系列开源项目OpenBMB的多模态大模型系列,最新为MiniCPM-V 4.7(35B-A3B与1B)和全模态模型MiniCPM-o 4.5。查看
rtp-llm:大模型推理加速引擎开源项目阿里巴巴基础模型推理团队开发的LLM推理加速引擎,支持量化、KVCache优化、投机解码等加速技术,已在集团内多个业务中使用。查看
Accera:Python 循环优化编译器开源项目微软的 Python 库形式编译器,通过 MLIR 对循环调度做变换优化,生成可跨平台编译的高性能二进制库。查看