Model_Context调用(历史对话)

Kinger2026/7/23大约 3 分钟

要在调用模型时附带“历史消息”，核心在于维护好那个 messages 列表。

由于大模型 API 本身是无状态的（它不记得你上一秒说了什么），所以你必须在每一次发起请求时，把之前的对话记录全部打包发给它。

1. 核心原理：维护一个“记忆列表”

在代码逻辑上，你需要执行以下循环：

用户输入 -> append 到 messages。
调用模型 -> 传入整个 messages。
获取回复 -> 将 AI 的回答也 append 到 messages（角色设为 assistant）。

2. 带历史记录的流式对话完整代码

我们将你之前的 basic_chat 改造为一个支持多轮对话的循环：

from openai import OpenAI
from config.settings import settings
from openai.types.chat import ChatCompletionMessageParam

def continuous_chat():
    client = OpenAI(
        api_key=settings.API_KEY,
        base_url=settings.BASE_URL
    )

    # 1. 初始化对话历史（放入 System 提示词）
    history: list[ChatCompletionMessageParam] = [
        {"role": "system", "content": "你是一个专业的运维助手，记得之前的对话内容。"}
    ]

    print("--- 已进入多轮对话模式（输入 'quit' 退出） ---")

    while True:
        # 2. 获取用户输入
        user_input = input("\n用户 >> ")
        if user_input.lower() in ['quit', 'exit']:
            break

        # 3. 将用户话语加入历史
        history.append({"role": "user", "content": user_input})

        # 4. 发起流式调用，传入完整的 history
        response = client.chat.completions.create(
            model=settings.MODEL_NAME,
            messages=history, # 关键：这里传的是整个列表
            temperature=settings.TEMPERATURE,
            stream=True
        )

        print("AI >> ", end="", flush=True)
        full_reply = ""
        
        for chunk in response:
            content = chunk.choices[0].delta.content
            if content:
                print(content, end="", flush=True)
                full_reply += content # 拼接碎片
        
        # 5. 关键一步：将 AI 的回复也存入历史，否则下一轮它就忘了自己说过什么
        history.append({"role": "assistant", "content": full_reply})
        print() # 换行

if __name__ == "__main__":
    continuous_chat()