Amazon Bedrock

Amazon Bedrock 是一项托管服务,提供来自各种 AI 提供商的基础模型,可通过统一的 API 使用。spring-doc.cn

Spring AI 通过实现 Spring 接口、 和 ,支持通过 Amazon Bedrock 提供的所有聊天和嵌入 AI 模型ChatModelStreamingChatModelEmbeddingModelspring-doc.cn

此外,Spring AI 为所有客户端提供 Spring 自动配置和引导Starters,从而可以轻松引导和配置 Bedrock 模型。spring-doc.cn

开始

有几个步骤可以开始spring-doc.cn

项目依赖关系

然后将 Spring Boot Starter 依赖项添加到项目的 Maven 构建文件中:pom.xmlspring-doc.cn

<dependency>
 <artifactId>spring-ai-bedrock-ai-spring-boot-starter</artifactId>
 <groupId>org.springframework.ai</groupId>
</dependency>

或您的 Gradle 构建文件。build.gradlespring-doc.cn

dependencies {
    implementation 'org.springframework.ai:spring-ai-bedrock-ai-spring-boot-starter'
}
请参阅 Dependency Management 部分,将 Spring AI BOM 添加到您的构建文件中。

连接到 AWS Bedrock

使用 配置 AWS 凭证和区域:BedrockAwsConnectionPropertiesspring-doc.cn

spring.ai.bedrock.aws.region=us-east-1

spring.ai.bedrock.aws.access-key=YOUR_ACCESS_KEY
spring.ai.bedrock.aws.secret-key=YOUR_SECRET_KEY

spring.ai.bedrock.aws.timeout=10m

该物业是强制性的。regionspring-doc.cn

AWS 凭证按以下顺序解析:spring-doc.cn

  1. Spring-AI 基岩和属性。spring.ai.bedrock.aws.access-keyspring.ai.bedrock.aws.secret-keyspring-doc.cn

  2. Java 系统属性 - 和 .aws.accessKeyIdaws.secretAccessKeyspring-doc.cn

  3. 环境变量 - 和 .AWS_ACCESS_KEY_IDAWS_SECRET_ACCESS_KEYspring-doc.cn

  4. 来自系统属性或环境变量的 Web Identity Token 凭证。spring-doc.cn

  5. 凭证配置文件文件(由所有 AWS 开发工具包和 AWS CLI 共享)。~/.aws/credentialsspring-doc.cn

  6. 通过 Amazon EC2 容器服务提供的凭证(如果设置了环境变量并且安全管理器有权访问该变量)。AWS_CONTAINER_CREDENTIALS_RELATIVE_URIspring-doc.cn

  7. 通过 Amazon EC2 元数据服务交付的实例配置文件凭证,或设置 and 环境变量。AWS_ACCESS_KEY_IDAWS_SECRET_ACCESS_KEYspring-doc.cn

AWS 区域按以下顺序解析:spring-doc.cn

  1. Spring-AI Bedrock 属性。spring.ai.bedrock.aws.regionspring-doc.cn

  2. Java 系统属性 - .aws.regionspring-doc.cn

  3. 环境变量 - .AWS_REGIONspring-doc.cn

  4. 凭证配置文件文件(由所有 AWS 开发工具包和 AWS CLI 共享)。~/.aws/credentialsspring-doc.cn

  5. 通过 Amazon EC2 元数据服务交付的实例配置文件区域。spring-doc.cn

除了标准的 Spring-AI Bedrock 凭证和区域属性配置外,Spring-AI 还提供对自定义和 bean 的支持。AwsCredentialsProviderAwsRegionProviderspring-doc.cn

例如,同时使用 Spring-AI 和 Spring Cloud for Amazon Web Services。Spring-AI 与 Spring Cloud for Amazon Web Services 凭证配置兼容。

启用选定的 Bedrock 模型

默认情况下,所有模型都处于禁用状态。您必须使用该属性显式启用所选的 Bedrock 模型。spring.ai.bedrock.<model>.<chat|embedding>.enabled=true

以下是支持的和组合:<model><chat|embedding>spring-doc.cn

聊天 聊天流 嵌入

骆马spring-doc.cn

是的spring-doc.cn

是的spring-doc.cn

spring-doc.cn

侏罗纪 2spring-doc.cn

是的spring-doc.cn

spring-doc.cn

spring-doc.cn

凝聚spring-doc.cn

是的spring-doc.cn

是的spring-doc.cn

是的spring-doc.cn

人类学 2spring-doc.cn

是的spring-doc.cn

是的spring-doc.cn

spring-doc.cn

人类学 3spring-doc.cn

是的spring-doc.cn

是的spring-doc.cn

spring-doc.cn

侏罗纪 2 (WIP)spring-doc.cn

是的spring-doc.cn

spring-doc.cn

spring-doc.cn

巨人spring-doc.cn

是的spring-doc.cn

是的spring-doc.cn

是(但是,不支持批处理)spring-doc.cn

例如,要启用 Bedrock Llama 聊天模型,您需要将 .spring.ai.bedrock.llama.chat.enabled=truespring-doc.cn

接下来,您可以使用属性按提供的方式配置每个模型。spring.ai.bedrock.<model>.<chat|embedding>.*spring-doc.cn

有关更多信息,请参阅以下文档,了解每个受支持的型号。spring-doc.cn