sqlite-vector

SQLite-Vector这个项目，简单说就是给SQLite数据库装上了“向量搜索”的引擎。以往要在小应用里做语义搜索或者RAG（检索增强生成）这类AI功能，往往需要单独部署一套向量数据库，成本高、运维复杂。而SQLite-Vector直接把向量检索能力轻量化地嵌入到SQLite里，你甚至不需要换数据库，就能在手机、浏览器、边缘设备甚至服务器上直接跑向量搜索。它最低只占用30MB内存，却能支持Float32、Float16、Int8、1比特量化以及TurboQuant 2/3/4比特等多种数据格式，配合SIMD指令集做距离计算，速度非常快，算得上生产级水准。 技术亮点很硬核。首先是量化压缩，它能用2比特、3比特甚至4比特的TurboQuant算法把向量体积压到极小，同时保持足够精度，这在算力有限的嵌入式设备上尤其重要。其次是跨平台能力，它基于纯C编写，Windows、Linux、macOS、iOS、Android通吃，并且采用可加载扩展机制，不用改SQLite内核，拿来就用。另外它提供了丰富的距离函数（欧氏距离、余弦相似度等），都是SIMD高度优化的，性能远非普通遍历可比。项目还配套了SQLite AI生态的其他扩展，比如同步工具、列式存储、内存模块等等，可以组合出完整的AI应用。 适用场景非常广。如果你是做本地AI助手的开发者，或者想在手机App里实现“以图搜图”、“类似推荐”这类功能，又不想依赖云端服务，那么SQLite-Vector几乎是绝佳选择。也能用在浏览器扩展里做离线语义搜索，或者边缘网关上的实时向量匹配。对于中小团队搭建RAG系统，直接用SQLite替代专用的向量数据库，可以省下一套基础设施的维护成本。 上手难度对熟悉SQLite的开发者来说很低。它就是一个动态链接库（.dll/.so/.dylib），用SQLite的load_extension命令加载即可，之后就能像写普通SQL一样使用向量函数。官方文档和示例很详细，如果你已经会用Python的sqlite3模块或者Node.js的better-sqlite3，那么几分钟就能跑通第一个示例。唯一的门槛是需要理解向量搜索的基本概念（比如向量、距离度量、量化），但这对现代AI开发者来说是常识。总体而言，这是一个把高端向量检索能力“平民化”的好项目，值得关注和尝试。