RubyLLM

大语言模型 4.5k 528 Ruby 上架 2026-11-08 访问官网 ↗ 在 GitHub 打开

一个简洁美观的 Ruby 框架，适用于所有主流 AI 提供商。轻松构建聊天机器人、AI agent、RAG 应用、内容生成器以及你能想到的任何 AI 工作流程。 RubyLLM 为所有这些框架提供了一...

#神经网络/人工智能

项目信息

所有者: crmne
Star: 4.5k
Fork: 528
开源协议: —
主要语言: Ruby
发布时间: 2025-01-30
最近更新: 2026-10-28

项目更新

RubyLLM 2.1.12026-10-11
RubyLLM 2.1.1 主要是一轮修复补丁：新版 faraday-nethttp 3.5.0 落在 Faraday 2.0.1～2.14.4 均不接受的版本区间，导致全新安装会退回 Faraday 2.0.0，没有默认适配器、所有请求报 :nethttp is not registered on Faraday::Adapter，现在依赖中已排除 2.0.0。同时修复了连接 2026-07-28 修订版之前的 MCP 服务器失败的问题（无论是否声明旧修订版都能完成 initialize 握手）；批量 embeddings 结果现按服务商返回的位置对齐输入，位置重复或越界则直接判为失败，不再错配文本；Bedrock 推理配置中已含地理区域的 id 不再被改写到别的区域；usage 记录关联失败时保留聊天回复仅记日志，不再整体回滚；转换后的附件被服务商删除后能重新上传重试。升级只需 bundle update ruby_llm，无需改库结构或代码。
RubyLLM 2.1.02026-10-08
RubyLLM 2.1.0 一次带来内置 MCP 客户端、类型化判断、Agent 评测和 OpenTelemetry 追踪：会话更省内存、连接可复用，切换提供商也不影响对话继续。 ``sh bundle add ruby_llm --version 2.1.0 ` 升级提醒：需 Ruby 3.2 以上，先运行 Rails 升级生成器并读升级指南；1.x 项目要先完成 2.0 升级。功能方面，RubyLLM::Judge 借助 TypeSafe Jev、OpenAI Decisions 与 Ollama 本地决策模型返回概率、选项和评分，内置提供商增至 19 家；RubyLLM::Evaluation 用参考答案跑数据集，按正确性或自定义标准打分，兼容 RSpec 与 Minitest，报告判定、进度、token 和成本；OpenTelemetry 按 GenAI 规范上报模型调用、工具与工作流的 span，默认不含提示词与回复；defer: true 借力 Anthropic 和 OpenAI Responses 的原生工具搜索，不再需要把整套工具定义发给模型；流式解析改为增量进行、模型查询走索引、Faraday 持久适配器复用连接，整体更轻更快；convertunsupportedattachments 能为协议不支持的附件生成可读替代，resolution: 控制图片细节，可设为 :original`。
RubyLLM 2.0.02026-09-18
RubyLLM 2.0 把各家 API 更完整地带进了 Ruby 和 Rails。内置服务商增至 17 家，新增 Cohere、Deepgram、Elellabs 与 Ollama Cloud；服务商与协议拆开管理，同一协议可被多家复用，也能用 protocol: 手动指定。OpenAI 默认走 Responses，Anthropic 补上文档引用、托管工具、文件与批量，Gemini 则新增托管缓存、多模态嵌入和媒体生成。对话侧更进一步：类型化引用、远程 MCP、思考控制、提示缓存、模型回退与上下文压缩都进了公开 API。Agent 支持人工审批、取消和逐步控制，并能跨请求与 Active Job 持久恢复。新增视频与语音生成、OCR、结果重排、多模态嵌入等能力；用量按服务商尝试次数记录，重试和回退都能对上账。Rails 集成保持一致，聊天与消息归你的应用所有，持久化 agent 走同一套公开 API。从 1.x 升级请先看升级指南与 What's New in 2.0。安装：bundle add ruby_llm --version 2.0.0。
RubyLLM 2.0.0.rc4预发布2026-09-16
RubyLLM 2.0.0.rc4 修复了提示词缓存的失效问题，并进一步打磨 Rails 迁移升级流程。自动提示词缓存现在可以与显式的 cacheuntilhere 边界共存，覆盖 Anthropic、OpenRouter、Bedrock Converse 和 OpenAI 兼容协议（#930）：两者控制参数都会发出，由服务商自行决定缓存策略。支持的 OpenAI 兼容模型可用 with_caching(mode: "explicit") 只启用显式缓存。迁移升级方面，新增 --discard-incomplete-tool-calls 选项，可在校验前清理不完整的旧式工具调用——它只删除无结果的调用，保留已有结果及受保护的 2.0 会话；注意回滚和恢复都无法找回被丢弃的调用，使用前务必阅读升级指南。生成的迁移也更简洁，不再依赖 rename 辅助方法；另外需在加载相关守卫前配置好 RubyLLM，以免破坏 Active Record 的 autosave 行为。其余改动：instrumentation 改用服务商实例名（#926），刷新内置模型目录与可用模型文档，2.0 成为默认文档站，1.x 文档移至 rubyllm.com/v1。安装预发布版： ``ruby gem 'ruby_llm', '2.0.0.rc4' `` 从 1.x 升级前请先阅读 2.0 升级指南。
RubyLLM 2.0.0.rc3预发布2026-09-14
RubyLLM 2.0.0.rc3 打磨 Rails 升级路径，并修掉测试 RC2 暴露的一批问题。最大变化是支持 PostgreSQL、MySQL、SQLite 的在线复制升级：1.16 进程在准备与回填期间照常服务，只在最终切换时短暂暂停，部署顺序见升级指南。计费上，模型 ID 重叠时费用严格归属实际处理请求的 provider，流式响应与热重载同样生效（#923），历史账单不变。子 Agent 继承配置时会保留自身指令（#915）；Gemini 的空工具参数、重复 embedding 位置、无效重排索引均正确处理，不再把结果错配到错误输入（#911、#917、#918）。Mistral OCR 的文本附件改用 data URI 发送（#919），Bedrock 视频前缀规范化避开了正则回溯，内置模型目录也同步刷新。DeepSeek 不支持的 :web_search 别名现在会抛出 RubyLLM::UnsupportedServerToolError，patch 工具、原始工具定义与搜索历史不受影响。Rails 附件示例新增上传校验——复制过旧示例的应用，需在传给 with: 前确认参数是 ActionDispatch::Http::UploadedFile，单升 gem 修不好应用侧的未校验参数。 ``ruby gem 'ruby_llm', '2.0.0.rc3' `` 从 1.x 升级前请先读 2.0 升级指南。
RubyLLM 2.0.0.rc2预发布2026-09-09
RubyLLM 2.0.0.rc2 收录了测试 RC1 时发现的几处修复：回放对话历史时，Anthropic 与 Bedrock 的 thinking 块能正确保留，流式与持久化消息均在内；构建持久化聊天请求时会预加载附件 blob，省掉反复查库；新安装和升级清理不再写入独立的 message-role 索引，复合索引照常保留；另外修正了 provider 生成器产出的 gem，使其初始 bundle 能与 2.0 预发布版配合，模型目录也依据服务商列表与 models.dev 刷新了一遍。集成建议用 provider 生成器拆成独立 gem 分发，升级现有应用前先看 provider 指南与 2.0 升级指南。 ```ruby gem 'ruby_llm', '2.0.0.rc2'
RubyLLM 2.0.0.rc1预发布2026-09-08
RubyLLM 2.0 RC1 是 2.0 大版本的首个候选版，距 6 月 9 日的 1.16.0 已累计 487 次提交、合并 36 个 PR。新版把人工审批、可恢复 Agent、引用溯源、模型降级、提示缓存、视频、语音、OCR、重排、文件、批量与托管研究，收进同一套 Ruby / Rails API。最大的结构变化是 provider 与 protocol 解耦：内置 17 家服务商、1619 个模型，协议层统一负责请求、解析、流式与错误归一，应用不必再迁就各家的传输格式。40 项功能的覆盖对比中，内置支持的"服务商—功能"组合从 170 组增至 395 组。OpenAI 默认改走 Responses 接口，Chat Completions 仍可选；Anthropic 补上文档引用、托管工具、批量与上下文压缩；Gemini 新增托管缓存、多模态嵌入与批量任务。安装： ``sh bundle add ruby_llm --version 2.0.0.rc1 `` 升级前请先看官方的 What's New 与升级指南。
1.16.02026-06-09
RubyLLM 1.16 带来三项能力升级和一批修复。模型一次返回多个工具调用时，过去只能串行等待，现在支持并发执行：全局开 config.tool_concurrency，:threads 不需额外依赖，:fibers 基于 async gem，单个 chat 上也能单独覆盖。每个工具完成即刻写回对话，回调和流式界面能边跑边看到结果，不必等最慢的那个；Rails 下并发调用仍包在 executor 中，连接池与 CurrentAttributes 行为如常。其次是类 Rails 的 Instrumentation：新增 request、chat、tool_call、embedding、models.refresh 五类结构化事件，Rails 里自动走 ActiveSupport::Notifications，非 Rails 环境把 config.instrumenter 指向实现 instrument 的对象即可接入 OpenTelemetry 或 StatsD。载荷含消息内容与工具参数，导出前注意脱敏。另外，所有原生 provider 现在都能配置 api_base，方便走代理、网关或内网端点。
1.15.02026-05-07
RubyLLM 1.15 主打一件事：把散落各处的胶水代码收掉。图片方面，paint 既能从零作图，也能改图。用 with: 传入源图（本地文件、URL、IO、Active Storage 附件都行，多图也可），mask: 限定可编辑区域，params: 透传各家特有选项。GPT Image 的定价已进模型注册表，image.cost、image.tokens 与对话用同一套口径。费用首次成为一等公民：response、chat、agent 都能直接给出 cost.total，图片同理。底层 RubyLLM::Cost 按标准化 token 桶加注册表价格核算。由于 prompt caching 让 token 统计变乱，新版拆成标准输入、可计费输出、缓存读、缓存写四桶，顶层旧字段仍兼容；跑过 v1.9 迁移的 Rails 项目无需新增迁移。工具定义也省事了：只要 execute 的关键字签名能说清参数，就自动推导扁平 schema，必填可选一目了然。需要描述、嵌套、枚举、完整 JSON Schema 时，原来的 param 与 params DSL 照旧生效。desc 现为 description 的别名。回调改为叠加注册，同一事件挂几个就跑几个，不再互相顶替；Rails 已有的 Active Storage blob 会被直接复用，省掉重复的下载与上传。
1.14.12026-04-02
RubyLLM 1.14.1 是一个维护版本，主要做了三件事。各 Provider 的 Capabilities 模块不再内置几百行硬编码的定价、上下文窗口和功能开关，这些数据统一改从模型注册表（models.json）读取，Ruby 侧只保留 Provider 层真正需要的字段（如 supportstoolchoice?），Anthropic、OpenAI、Gemini、DeepSeek、Perplexity 一共净删约 400 行代码。注册表由此成为模型元数据的唯一来源，今后能力与价格信息会更准确。同时修复了一个存储问题：通过 with: 传入 ActiveStorage::Blob 时，此前会被下载后重新上传成新 blob，现在会直接识别并复用已有 blob，避免无谓的存储开销。模型注册表也已同步到各厂商最新可用模型。升级执行 bundle update ruby_llm 即可。