此版本仍在开发中,尚未被视为稳定版本。最新的快照版本请使用 Spring AI 1.0.0-SNAPSHOT!

请参阅 Dependency Management 部分,将 Spring AI BOM 添加到您的构建文件中。
财产 描述 违约

spring.ai.retry.max 次尝试

最大重试尝试次数。

10

spring.ai.retry.backoff.initial-interval

指数回退策略的初始休眠持续时间。

2 秒

spring.ai.retry.backoff.multiplier

Backoff interval 乘数。

5

spring.ai.retry.backoff.max 间隔

最大回退持续时间。

3 分钟

spring.ai.retry.on-client-errors

如果为 false,则引发 NonTransientAiException,并且不要尝试重试客户端错误代码4xx

spring.ai.retry.exclude-on-http-codes

不应触发重试的 HTTP 状态代码列表(例如,引发 NonTransientAiException)。

spring.ai.retry.on-http-codes

应触发重试的 HTTP 状态代码列表(例如,引发 TransientAiException)。

财产 描述 违约

spring.ai.大胆创新计划.base-url

要连接到的 URL

api.moonshot.cn

spring.ai.大胆创新计划.api-key

API 密钥

-

财产 描述 违约

spring.ai.大胆创新计划.chat.enabled

启用 Moonshot 聊天模型。

spring.ai.大胆创新计划.chat.base-url

可选覆盖spring.ai.大胆创新计划.base-url以提供特定于聊天的 url

-

spring.ai.大胆创新计划.chat.api-key

Optional 覆盖 spring.ai.大胆创新计划.api-key 以提供特定于聊天的 api-key

-

spring.ai.大胆创新计划.chat.options.model

这是要使用的 Moonshot Chat 模型

moonshot-v1-8k(、 、 和 指向最新的模型版本)moonshot-v1-8kmoonshot-v1-32kmoonshot-v1-128k

spring.ai.大胆创新计划.chat.options.maxTokens

在聊天完成中生成的最大令牌数。输入标记和生成的标记的总长度受模型的上下文长度限制。

-

spring.ai.大胆创新计划.chat.options.temperature

要使用的采样温度,用于控制生成的完成项的明显创造性。较高的值将使输出更具随机性,而较低的值将使结果更加集中和确定。不建议为相同的 completions 请求修改 temperature 和 top_p,因为这两个设置的交互很难预测。

0.7

spring.ai.大胆创新计划.chat.options.topP

使用温度进行采样的替代方法,称为核抽样,其中模型考虑具有top_p概率质量的标记的结果。所以 0.1 意味着只考虑包含前 10% 概率质量的 token。我们通常建议更改此温度或温度,但不能同时更改两者。

1.0

spring.ai.大胆创新计划.chat.options.n

为每个输入消息生成多少个聊天完成选项。请注意,您将根据所有选项中生成的令牌数量付费。默认值为 1,不能大于 5。具体来说,当温度非常小且接近 0 时,我们只能返回 1 个结果。如果此时已设置 n 且 >1,则 service 将返回非法的输入参数 (invalid_request_error)

1

spring.ai.大胆创新计划.chat.options.presence惩罚

介于 -2.0 和 2.0 之间的数字。正值根据新标记到目前为止是否出现在文本中来惩罚新标记,从而增加模型讨论新主题的可能性。

0.0 英尺

spring.ai.大胆创新计划.chat.options.frequencyPenalty

介于 -2.0 和 2.0 之间的数字。正值会根据新标记到目前为止在文本中的现有频率来惩罚新标记,从而降低模型逐字重复同一行的可能性。

0.0 英尺

spring.ai.大胆创新计划.chat.options.stop

最多 5 个序列,API 将在其中停止生成更多令牌。每个字符串不得超过 32 字节

-

您可以覆盖 common 和 for implementations。 如果设置了 and 属性,则优先于公共属性。 如果您想为不同的模型和不同的模型终端节点使用不同的 Moonshot 账户,这将非常有用。spring.ai.moonshot.base-urlspring.ai.moonshot.api-keyChatModelspring.ai.moonshot.chat.base-urlspring.ai.moonshot.chat.api-key
通过向调用添加特定于请求的运行时选项,可以在运行时覆盖所有前缀为 的属性。spring.ai.moonshot.chat.optionsPrompt
除了特定于模型的 MoonshotChatOptions 之外,您还可以使用通过 ChatOptionsBuilder#builder() 创建的可移植 ChatOptions 实例。
将 替换为您的 Moonshot 凭证。api-key
请参阅 Dependency Management 部分,将 Spring AI BOM 添加到您的构建文件中。

APP信息