进阶 docs.arcee.ai 2026-10-23 07:38:35 · 39 阅读
第7章 实现多轮对话:API 无状态上下文管理指南
完整的文档索引见 llms.txt。此页面也可作为 Markdown 提供。
多轮对话
多轮对话使模型能够保留对话中先前消息的上下文,从而提供更深入的体验。本指南将展示如何使用 Arcee Platform 通过 Arcee AI 模型进行多轮对话。
Arcee AI 的 /chat/completions API 是一个“无状态”API,这意味着服务器不会记录用户请求的上下文。因此,用户必须将所有先前的对话历史拼接起来,并在每次请求中传递给聊天 API。
以下 Python 代码演示了如何轻松拼接上下文以实现多轮对话。
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://api.arcee.ai/api/v1"
)
# 第 1 轮
messages = [{"role": "user", "content": "What is a small language model?"}]
response = client.chat.completions.create(
model="MODEL_NAME",
messages=messages
)
answer = {"role": "assistant", "content": response.choices[0].message.content}
messages.append(answer)
print(f"Messages Round 1: {messages}")
# 第 2 轮
messages.append({"role": "user", "content": "How do they differ from LLMs?"})
response = client.chat.completions.create(
model="arcee-ai/trinity-mini-thinking",
messages=messages
)
answer = {"role": "assistant", "content": response.choices[0].message.content}
messages.append(answer)
print(f"Messages Round 2: {messages}")
在第一次请求中,传递给 API 的 messages 是:
在第二次请求中:
- 将第一轮的模型输出添加到 messages 的末尾。
- 将新的问题添加到 messages 的末尾。
最终传递给 API 的 messages 是:
上一篇:流式消息
下一篇:函数调用
最后更新于 10 个月前