Weaviate

本节将指导您如何设置 Weaviate VectorStore 来存储文档嵌入向量并执行相似性搜索。

Weaviate 是一个开源向量数据库,允许您存储来自您喜欢的 ML 模型的数据对象和向量嵌入,并可以无缝扩展到数十亿个数据对象。 它提供了存储文档嵌入、内容和元数据的工具,以及搜索这些嵌入的功能,包括元数据过滤。

前提条件

  • 一个运行中的 Weaviate 实例。以下选项可用:

  • 如果需要,为 EmbeddingModel 提供一个 API 密钥,用于生成存储在 WeaviateVectorStore 中的嵌入向量。

依赖项

Spring AI 的自动配置和启动器模块的构件名称发生了重大变化。 请参考 升级说明 了解更多信息。

将 Weaviate 向量存储依赖项添加到您的项目中:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-weaviate-store</artifactId>
</dependency>

或添加到您的 Gradle build.gradle 构建文件中。

dependencies {
    implementation 'org.springframework.ai:spring-ai-weaviate-store'
}

提示:请参考 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件中。

配置

要连接到 Weaviate 并使用 WeaviateVectorStore,您需要提供实例的访问详细信息。 可以通过 Spring Boot 的 application.properties 提供配置:

spring.ai.vectorstore.weaviate.host=<host_of_your_weaviate_instance>
spring.ai.vectorstore.weaviate.scheme=<http_or_https>
spring.ai.vectorstore.weaviate.api-key=<your_api_key>
# 如果需要,API 密钥,例如 OpenAI
spring.ai.openai.api-key=<api-key>

如果您更喜欢使用环境变量来存储敏感信息(如 API 密钥),您有多个选项:

选项 1:使用 Spring 表达式语言(SpEL)

您可以使用自定义环境变量名称并在应用程序配置中引用它们:

# 在 application.yml 中
spring:
  ai:
    vectorstore:
      weaviate:
        host: ${WEAVIATE_HOST}
        scheme: ${WEAVIATE_SCHEME}
        api-key: ${WEAVIATE_API_KEY}
    openai:
      api-key: ${OPENAI_API_KEY}
# 在您的环境或 .env 文件中
export WEAVIATE_HOST=<host_of_your_weaviate_instance>
export WEAVIATE_SCHEME=<http_or_https>
export WEAVIATE_API_KEY=<your_api_key>
export OPENAI_API_KEY=<api-key>

选项 2:以编程方式访问环境变量

或者,您可以在 Java 代码中访问环境变量:

String weaviateApiKey = System.getenv("WEAVIATE_API_KEY");
String openAiApiKey = System.getenv("OPENAI_API_KEY");

注意:如果您选择创建 shell 脚本来管理环境变量,请确保在启动应用程序之前通过"source"命令运行它,即 source <your_script_name>.sh

自动配置

Spring AI 为 Weaviate 向量存储提供了 Spring Boot 自动配置。 要启用它,请将以下依赖项添加到项目的 Maven pom.xml 文件中:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-vector-store-weaviate</artifactId>
</dependency>

或添加到您的 Gradle build.gradle 构建文件中。

dependencies {
    implementation 'org.springframework.ai:spring-ai-starter-vector-store-weaviate'
}

提示:请参考 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件中。

请查看 配置参数 列表,了解向量存储的默认值和配置选项。

提示:请参考 构件仓库 部分,将 Maven Central 和/或 Snapshot 仓库添加到您的构建文件中。

此外,您还需要一个配置好的 EmbeddingModel bean。请参考 EmbeddingModel 部分了解更多信息。

以下是所需 bean 的示例:

@Bean
public EmbeddingModel embeddingModel() {
    // 从安全源或环境变量中获取 API 密钥
    String apiKey = System.getenv("OPENAI_API_KEY");

    // 可以是任何其他 EmbeddingModel 实现
    return new OpenAiEmbeddingModel(OpenAiApi.builder().apiKey(apiKey).build());
}

现在您可以在应用程序中自动装配 WeaviateVectorStore 作为向量存储。

手动配置

除了使用 Spring Boot 自动配置外,您还可以使用构建器模式手动配置 WeaviateVectorStore

@Bean
public WeaviateClient weaviateClient() {
    return new WeaviateClient(new Config("http", "localhost:8080"));
}

@Bean
public VectorStore vectorStore(WeaviateClient weaviateClient, EmbeddingModel embeddingModel) {
    return WeaviateVectorStore.builder(weaviateClient, embeddingModel)
        .objectClass("CustomClass")                    // 可选:默认为 "SpringAiWeaviate"
        .consistencyLevel(ConsistentLevel.QUORUM)      // 可选:默认为 ConsistentLevel.ONE
        .filterMetadataFields(List.of(                 // 可选:可用于过滤的字段
            MetadataField.text("country"),
            MetadataField.number("year")))
        .build();
}

元数据过滤

您也可以将通用的可移植 元数据过滤器 与 Weaviate 存储一起使用。

例如,您可以使用文本表达式语言:

vectorStore.similaritySearch(
    SearchRequest.builder()
        .query("The World")
        .topK(TOP_K)
        .similarityThreshold(SIMILARITY_THRESHOLD)
        .filterExpression("country in ['UK', 'NL'] && year >= 2020").build());

或使用 Filter.Expression DSL 以编程方式:

FilterExpressionBuilder b = new FilterExpressionBuilder();

vectorStore.similaritySearch(SearchRequest.builder()
    .query("The World")
    .topK(TOP_K)
    .similarityThreshold(SIMILARITY_THRESHOLD)
    .filterExpression(b.and(
        b.in("country", "UK", "NL"),
        b.gte("year", 2020)).build()).build());

注意:这些(可移植的)过滤表达式会自动转换为专有的 Weaviate where 过滤器

例如,这个可移植的过滤表达式:

country in ['UK', 'NL'] && year >= 2020

被转换为专有的 Weaviate GraphQL 过滤器格式:

operator: And
operands:
    [{
        operator: Or
        operands:
            [{
                path: ["meta_country"]
                operator: Equal
                valueText: "UK"
            },
            {
                path: ["meta_country"]
                operator: Equal
                valueText: "NL"
            }]
    },
    {
        path: ["meta_year"]
        operator: GreaterThanEqual
        valueNumber: 2020
    }]

在 Docker 中运行 Weaviate

要快速开始使用本地 Weaviate 实例,您可以在 Docker 中运行它:

docker run -it --rm --name weaviate \
    -e AUTHENTICATION_ANONYMOUS_ACCESS_ENABLED=true \
    -e PERSISTENCE_DATA_PATH=/var/lib/weaviate \
    -e QUERY_DEFAULTS_LIMIT=25 \
    -e DEFAULT_VECTORIZER_MODULE=none \
    -e CLUSTER_HOSTNAME=node1 \
    -p 8080:8080 \
    semitechnologies/weaviate:1.22.4

这将在 localhost:8080 启动一个可访问的 Weaviate 实例。

WeaviateVectorStore 属性

您可以在 Spring Boot 配置中使用以下属性来自定义 Weaviate 向量存储。

属性 描述 默认值

spring.ai.vectorstore.weaviate.host

Weaviate 服务器的主机

localhost:8080

spring.ai.vectorstore.weaviate.scheme

连接方案

http

spring.ai.vectorstore.weaviate.api-key

用于身份验证的 API 密钥

spring.ai.vectorstore.weaviate.object-class

用于存储文档的类名

SpringAiWeaviate

spring.ai.vectorstore.weaviate.consistency-level

一致性和速度之间的期望权衡

ConsistentLevel.ONE

spring.ai.vectorstore.weaviate.filter-field

配置可用于过滤的元数据字段。格式:spring.ai.vectorstore.weaviate.filter-field.<field-name>=<field-type>

访问原生客户端

Weaviate 向量存储实现通过 getNativeClient() 方法提供对底层原生 Weaviate 客户端(WeaviateClient)的访问:

WeaviateVectorStore vectorStore = context.getBean(WeaviateVectorStore.class);
Optional<WeaviateClient> nativeClient = vectorStore.getNativeClient();

if (nativeClient.isPresent()) {
    WeaviateClient client = nativeClient.get();
    // 使用原生客户端进行 Weaviate 特定的操作
}

原生客户端使您能够访问可能未通过 VectorStore 接口公开的 Weaviate 特定功能和操作。