Eino:Go 语言的 LLM 应用开发框架
提供 ChatModel、Tool、Retriever 等组件抽象、Agent 开发套件与图编排,用于构建 LLM 应用和 AI Agent。
Eino 是 Golang 的 LLM 应用开发框架,提供 ChatModel、Tool、Retriever、ChatTemplate 等组件抽象及 OpenAI、Ollama 等官方实现。其 Agent 开发套件支持工具调用、多 Agent 协调、上下文管理、中断/恢复的人机协同,以及 ChatModelAgent、DeepAgent 等现成模式;compose 可将组件连成图与工作流,独立运行或暴露为 Agent 的工具。框架自动处理流式数据在节点间的拼接、装箱与合并,并在固定切面点注入日志、追踪与指标。仓库包含类型定义、流机制、编排与 Agent 实现,组件实现、示例与评测在 EinoExt、EinoExamples 等配套仓库,要求 Go 1.18 及以上。