rig

Rig 是一个用 Rust 构建 LLM 应用的框架，它的出现让 Rust 开发者终于有了自己的“LangChain”。如果说 Python 在 AI 生态里是“快节奏的原型利器”，那 Rust 就是“高性能的生产级选择”。Rig 的价值在于：它把 Rust 的安全、速度和低资源占用，与 LLM 应用开发的高效性结合在了一起，解决了 Rust 生态里缺少成熟 LLM 开发框架的痛点。 技术亮点上，Rig 走的是“模块化”和“可扩展”路线。它提供了一套统一的接口抽象，开发者可以通过简单的配置切换 OpenAI、Cohere 等不同的模型提供商，不需要改业务代码。这对那些不想被单一云厂商绑定的团队非常友好。此外，Rig 内置了对向量存储的支持（比如 MongoDB），可以直接用来做 RAG（检索增强生成）应用，省去了额外集成向量数据库的麻烦。更酷的是，它支持通过派生宏（derive macro）快速将 Rust 函数变成 AI 可调用的工具，这意味着你可以用纯 Rust 写出让 LLM 调用的函数，类型安全，编译期就能发现错误。 适用场景方面，Rig 特别适合对性能和并发要求高的生产环境。比如构建高并发的 Agent 服务、低延迟的 RAG 问答系统，或者需要深度定制和嵌入到现有 Rust 后端里的 AI 功能。团队如果是 Rust 技术栈，不需要为了一个 AI 功能去额外引入 Python 微服务，直接用 Rig 就能搞定。它也适合那些对资源敏感的边缘计算场景，毕竟 Rust 的二进制体积和内存占用都比 Python 小得多。 上手难度上，Rig 的 API 设计得还算符合直觉，异步支持也很完善。但如果你完全没接触过 Rust，那学习曲线会稍微陡峭一些，需要先熟悉 Rust 的所有权和异步编程（async/await）概念。如果已经有 Rust 基础，读一遍官方文档里的快速入门，基本就能跑通第一个支持流式输出的 Chat 应用。目前这个项目还在积极迭代中，社区也比较活跃，已经有 8 千多 Star，算是一个值得关注的新兴项目。对于想在 Rust 世界里搞 AI 的开发者来说，Rig 是目前最值得下注的选择之一。