boundary_id 时,会先把该 Boundary 中的相关记忆加入对话再调用模型。不带时,请求原样发给模型。
使用 Anthropic SDK 时,base URL 填以 /anthropic 结尾的地址,SDK 会自行拼上 /v1/messages。设置 stream 为 true 即可按 Anthropic 格式接收 server-sent events。下面未列出的参数会原样传给模型。
查询参数
string
本次请求使用哪个 Boundary 的记忆。省略则不使用记忆,直接调用模型。
请求头
string
使用自带的模型厂商密钥(BYOK)时,在这里放 MemoryLake API Key,模型厂商密钥则放在该厂商原生的鉴权头中。您的模型厂商密钥只会转发给模型厂商,不会被保存。
string
Anthropic API 版本。Anthropic SDK 会自动发送。
string
W3C 链路上下文。带上后,请求会纳入您的链路,并在
X-Trace-ID 中返回同一个 trace id。请求体
integer
required
最多生成的 token 数
array
required
到目前为止的对话
string
required
模型名称,与控制台「可用模型」中列出的一致
boolean
default:"false"
以 server-sent events 流式返回回复
string | array
系统提示词
number
采样温度
array
模型可调用的工具,Anthropic 格式
响应
array
回复的内容块,例如文本和工具调用
string
消息 ID
string
作答的模型
string
固定为
assistantstring
模型停止的原因,例如
end_turn 或 max_tokensstring
固定为
messageobject
本次用量