Voyage Rerank 3 和 Rerank 3 Lite 现已在 AI 网关上上线

来自 MongoDB 旗下 Voyage AI 的 Rerank 3 和 Rerank 3 Lite 现已在 AI Gateway 上线。

这两款模型会在把文档交给语言模型之前，按相关性对搜索结果重新排序。该系列在多个领域都能提升检索质量，在长文档和代码场景中收益最大。

Rerank 3 侧重准确性，Rerank 3 Lite 则针对延迟和成本做了优化。两者都支持每次处理最多 32K token 的 query-document 对，并且能根据查询中的指令引导排序。

使用 Rerank 3 时，把模型设置为 voyage/rerank-3：

1import { rerank } from 'ai';2
3const { ranking } = await rerank({4  model: 'voyage/rerank-3',5  query: 'How does a vector database find similar documents?',6  documents: [7    'A load balancer distributes traffic across servers.',8    'A vector database searches embeddings to find similar documents.',9  ],10  topN: 1,11});

使用 Rerank 3 Lite 时，只需把模型改为 voyage/rerank-3-lite。

欢迎在 AI Gateway 模型 playground 中体验 Voyage Rerank 3，或浏览模型目录。

AI Gateway 提供统一的 API，用于调用模型、跟踪用量和成本，以及配置路由、重试和故障转移。你可以使用 AI Gateway API key，也可以自带服务商的 key。