为 Amazon Bedrock Knowledge Bases 选择向量存储
aws ·
本文介绍了如何在 Amazon Bedrock Knowledge Bases 支持的三种由客户管理的向量存储后端中进行选择:Amazon OpenSearch Service、带有 pgvector 的 Amazon Aurora PostgreSQL,以及 Amazon S3 Vectors。文章说明了向量数据库在检索增强生成中的作用:系统通过语义相似度检索经过嵌入处理的文档片段,并将其作为上下文传递给大型语言模型。对于实时产品目录搜索,尤其是在低延迟、关键词与向量混合搜索、筛选和聚合功能都很重要的场景下,OpenSearch 被认为是很合适的选择。S3 Vectors 则适用于注重成本的深度研究和大规模工作负载,具备弹性扩展和面向批处理的处理能力;在报告的维基百科测试中,其检索延迟低于一秒。对于需要整合关系型数据并灵活比较 HNSW 和 IVFFlat 索引的面向客户聊天机器人,文章推荐使用带有 pgvector 的 Aurora;在所述工作负载中,测试的两种方案都实现了低于 50 毫秒的中位延迟。选择建议包括评估延迟、查询模式、混合搜索需求和成本敏感度,同时指出分层架构可以将 S3 Vectors 与 OpenSearch 或 Aurora 结合起来,为对性能要求较高的数据子集提供支持。由于基准测试采用的是不同工作负载,而不是直接的同类对比,文章建议各团队使用自己的数据和查询模式对这些选项进行测试。
aws