Milvus
Milvus 是一个开源向量数据库,在数据科学和机器学习领域引起了广泛关注。它的突出特点之一在于它对向量索引和查询的强大支持。Milvus 采用最先进的尖端算法来加速搜索过程,使其在检索相似向量时非常高效,即使在处理大量数据集时也是如此。
先决条件
-
一个正在运行的 Milvus 实例。以下选项可用:
-
Milvus 独立版:Docker、Operator、helm、DEB/RPM、Docker Compose。
-
Milvus Cluster:Operator、Helm。
-
-
如果需要,EmbeddingModel 的 API 密钥,用于生成由 .
MilvusVectorStore
依赖
然后将 Milvus VectorStore 启动启动依赖项添加到你的项目中:
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-milvus-store-spring-boot-starter</artifactId>
</dependency>
或您的 Gradle 构建文件。build.gradle
dependencies {
implementation 'org.springframework.ai:spring-ai-milvus-store-spring-boot-starter'
}
请参阅 Dependency Management 部分,将 Spring AI BOM 添加到您的构建文件中。 请参阅 Repositories 部分,将 Milestone 和/或 Snapshot Repositories 添加到您的构建文件中。 |
矢量存储实现可以为您初始化必要的架构,但您必须通过在相应的构造函数中指定布尔值或在文件中进行设置来选择加入。initializeSchema
…initialize-schema=true
application.properties
这是一个突破性的变化!在早期版本的 Spring AI 中,默认情况下会进行此架构初始化。 |
Vector Store 还需要一个实例来计算文档的嵌入。
您可以选择一个可用的 EmbeddingModel Implementations。EmbeddingModel
要连接并配置 ,您需要提供实例的访问详细信息。
可以通过 Spring Boot 的MilvusVectorStore
application.yml
spring: ai: vectorstore: milvus: client: host: "localhost" port: 19530 username: "root" password: "milvus" databaseName: "default" collectionName: "vector_store" embeddingDimension: 1536 indexType: IVF_FLAT metricType: COSINE
检查配置参数列表以了解默认值和配置选项。 |
现在,你可以在应用程序中自动连接 Milvus Vector Store 并使用它
@Autowired VectorStore vectorStore;
// ...
List <Document> documents = List.of(
new Document("Spring AI rocks!! Spring AI rocks!! Spring AI rocks!! Spring AI rocks!! Spring AI rocks!!", Map.of("meta1", "meta1")),
new Document("The World is Big and Salvation Lurks Around the Corner"),
new Document("You walk forward facing the past and you turn back toward the future.", Map.of("meta2", "meta2")));
// Add the documents to Milvus Vector Store
vectorStore.add(documents);
// Retrieve documents similar to a query
List<Document> results = this.vectorStore.similaritySearch(SearchRequest.query("Spring").withTopK(5));
手动配置
您可以手动配置 .
要将以下依赖项添加到您的项目中:MilvusVectorStore
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-milvus-store</artifactId>
</dependency>
请参阅 Dependency Management 部分,将 Spring AI BOM 添加到您的构建文件中。 |
要在应用程序中配置 MilvusVectorStore,可以使用以下设置:
@Bean
public VectorStore vectorStore(MilvusServiceClient milvusClient, EmbeddingModel embeddingModel) {
MilvusVectorStoreConfig config = MilvusVectorStoreConfig.builder()
.withCollectionName("test_vector_store")
.withDatabaseName("default")
.withIndexType(IndexType.IVF_FLAT)
.withMetricType(MetricType.COSINE)
.build();
return new MilvusVectorStore(milvusClient, embeddingModel, config);
}
@Bean
public MilvusServiceClient milvusClient() {
return new MilvusServiceClient(ConnectParam.newBuilder()
.withAuthorization("minioadmin", "minioadmin")
.withUri(milvusContainer.getEndpoint())
.build());
}
元数据筛选
您可以在 Milvus 商店中使用通用的可移植元数据过滤器。
例如,您可以使用文本表达式语言:
vectorStore.similaritySearch(
SearchRequest.defaults()
.withQuery("The World")
.withTopK(TOP_K)
.withSimilarityThreshold(SIMILARITY_THRESHOLD)
.withFilterExpression("author in ['john', 'jill'] && article_type == 'blog'"));
或使用 DSL 以编程方式:Filter.Expression
FilterExpressionBuilder b = new FilterExpressionBuilder();
vectorStore.similaritySearch(SearchRequest.defaults()
.withQuery("The World")
.withTopK(TOP_K)
.withSimilarityThreshold(SIMILARITY_THRESHOLD)
.withFilterExpression(b.and(
b.in("author","john", "jill"),
b.eq("article_type", "blog")).build()));
这些筛选条件表达式将转换为等效的 Milvus 筛选条件。 |
Milvus VectorStore 属性
你可以在 Spring Boot 配置中使用以下属性来自定义 Milvus 向量存储。
财产 | 描述 | 默认值 |
---|---|---|
spring.ai.vectorstore.milvus.database-name |
要使用的 Milvus 数据库的名称。 |
违约 |
spring.ai.vectorstore.milvus.collection-name |
用于存储 vector 的 Milvus 集合名称 |
vector_store |
spring.ai.vectorstore.milvus.initialize-schema |
是否初始化 Milvus 的后端 |
假 |
spring.ai.vectorstore.milvus.embedding-dimension |
Milvus 集合中要存储的 vector 的维度。 |
1536 |
spring.ai.vectorstore.milvus.index-type |
Milvus 集合需要创建的索引类型。 |
IVF_FLAT |
spring.ai.vectorstore.milvus.metric-type |
用于 Milvus 集合的 metric 类型。 |
余弦 |
spring.ai.vectorstore.milvus.index-parameters |
用于 Milvus 集合的 index 参数。 |
{“nlist”:1024} |
spring.ai.vectorstore.milvus.id-字段名称 |
集合的 ID 字段名称 |
doc_id |
spring.ai.vectorstore.milvus.is-auto-id |
布尔标志,用于指示是否将自动 ID 用于 ID 字段 |
假 |
spring.ai.vectorstore.milvus.content-field-name |
集合的内容字段名称 |
内容 |
spring.ai.vectorstore.milvus.metadata-field-name |
集合的元数据字段名称 |
元数据 |
spring.ai.vectorstore.milvus.embedding-field-name |
集合的嵌入字段名称 |
嵌入 |
spring.ai.vectorstore.milvus.client.host |
主机的名称或地址。 |
本地主机 |
spring.ai.vectorstore.milvus.client.port |
连接端口。 |
19530 |
spring.ai.vectorstore.milvus.client.uri |
Milvus 实例的 uri |
- |
spring.ai.vectorstore.milvus.client.token |
Token 用作用于识别和身份验证目的的密钥。 |
- |
spring.ai.vectorstore.milvus.client.connect-timeout-ms |
客户端通道的连接超时值。超时值必须大于 zero 。 |
10000 |
spring.ai.vectorstore.milvus.client.keep-alive-time-ms |
客户端通道的 keep-alive time 值。keep-alive 值必须大于零。 |
55000 |
spring.ai.vectorstore.milvus.client.keep-alive-timeout-ms |
客户端通道的 keep-alive 超时值。超时值必须大于零。 |
20000 |
spring.ai.vectorstore.milvus.client.rpc-deadline-ms |
您愿意等待服务器回复的截止时间。设置截止时间后,当遇到网络波动导致的快速 RPC 失败时,客户端将等待。截止时间值必须大于或等于零。 |
0 |
spring.ai.vectorstore.milvus.client.client-key-path |
TLS 双向身份验证的 client.key 路径仅在 “secure” 为 true 时生效 |
- |
spring.ai.vectorstore.milvus.client.client-pem-path |
用于 tls 双向身份验证的 client.pem 路径仅在 “secure” 为 true 时生效 |
- |
spring.ai.vectorstore.milvus.client.ca-pem-path |
用于 tls 双向身份验证的 ca.pem 路径仅在 “secure” 为 true 时生效 |
- |
spring.ai.vectorstore.milvus.client.server-pem-path |
server.pem 路径,仅在 “secure” 为 true 时生效。 |
- |
spring.ai.vectorstore.milvus.client.server-name |
设置 SSL 主机名检查的目标名称覆盖,仅在 “secure” 为 True 时生效。注意:此值将传递给 grpc.ssl_target_name_override |
- |
spring.ai.vectorstore.milvus.client.secure |
保护此连接的授权,设置为 True 以启用 TLS。 |
假 |
spring.ai.vectorstore.milvus.client.idle-timeout-ms |
客户端通道的空闲超时值。超时值必须大于零。 |
24 小时 |
spring.ai.vectorstore.milvus.client.username |
此连接的用户名和密码。 |
根 |
spring.ai.vectorstore.milvus.client.password |
此连接的密码。 |
Milvus |
启动 Milvus Store
从文件夹内运行:src/test/resources/
docker-compose up
要清洁环境:
docker-compose down; rm -Rf ./volumes
然后连接到 http://localhost:19530 上的向量存储或用于管理 http://localhost:9001 (user: , pass:minioadmin
minioadmin
)