进阶 docs.arcee.ai 2026-10-23 07:38:35 · 39 阅读

第7章 实现多轮对话:API 无状态上下文管理指南

完整的文档索引见 llms.txt。此页面也可作为 Markdown 提供。

多轮对话

多轮对话使模型能够保留对话中先前消息的上下文,从而提供更深入的体验。本指南将展示如何使用 Arcee Platform 通过 Arcee AI 模型进行多轮对话。

Arcee AI 的 /chat/completions API 是一个“无状态”API,这意味着服务器不会记录用户请求的上下文。因此,用户必须将所有先前的对话历史拼接起来,并在每次请求中传递给聊天 API。

以下 Python 代码演示了如何轻松拼接上下文以实现多轮对话。

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY", 
    base_url="https://api.arcee.ai/api/v1"
)

# 第 1 轮
messages = [{"role": "user", "content": "What is a small language model?"}]
response = client.chat.completions.create(
    model="MODEL_NAME",
    messages=messages
)

answer = {"role": "assistant", "content": response.choices[0].message.content}
messages.append(answer)
print(f"Messages Round 1: {messages}")

# 第 2 轮
messages.append({"role": "user", "content": "How do they differ from LLMs?"})
response = client.chat.completions.create(
    model="arcee-ai/trinity-mini-thinking",
    messages=messages
)

answer = {"role": "assistant", "content": response.choices[0].message.content}
messages.append(answer)
print(f"Messages Round 2: {messages}")

在第一次请求中,传递给 API 的 messages 是:

在第二次请求中:

  • 将第一轮的模型输出添加到 messages 的末尾。
  • 将新的问题添加到 messages 的末尾。

最终传递给 API 的 messages 是:

上一篇:流式消息

下一篇:函数调用

最后更新于 10 个月前

评论 (0)