一篇看懂 Chat API 與 Completion API 差在哪

自 2020 年以來，OpenAI 的文字生成 API 一路從「文字補全」（Completion）進化到「多輪對話」（Chat Completion）架構。 在使用 OpenAI API 時，許多人會注意到有兩個看似相似的端點：

• /v1/completions
• /v1/chat/completions

乍看之下兩者都能生成文字，但它們其實代表了 兩代不同的模型互動設計理念。 本文將從結構、功能、適用情境與模型發展方向等面向，完整解析這兩個端點的核心差異。

歷史背景與設計理念

/v1/completions：早期的文字補全模型

這個端點是最早期的 API 形式，源自 GPT-3 時代。 它的設計目標是「給我一段文字，模型幫我續寫」， 所以稱為 Completion API —— 文字補全。

它沒有「對話」的概念，也沒有角色區分； 所有的指令、上下文、語氣控制，都要由開發者自己寫在同一個 prompt 裡。

範例：

response = client.completions.create(
    model="gpt-3.5-turbo-instruct",
    prompt="請寫一首關於秋天的詩：",
    max_tokens=100
)
print(response.choices[0].text)

/v1/chat/completions：新一代對話式模型

自 GPT-3.5（ChatGPT）與 GPT-4 起，OpenAI 改以「多輪對話架構」取代傳統文字補全。 這個設計讓模型能夠：

• 理解角色（system、user、assistant）
• 保持上下文記憶
• 執行 function calling（工具呼叫）
• 管理多模態輸入（文字、圖片、音訊）

範例：

response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "system", "content": "你是一位友善的助理"},
        {"role": "user", "content": "請寫一首關於秋天的詩"}
    ]
)
print(response.choices[0].message.content)

演進時間軸

從 2022 年底開始，/v1/chat/completions 已取代舊有 /v1/completions 成為主力 API， 後者現主要作為相容模式保留。

架構差異總覽

輸入格式差異範例

Chat API 輸入格式

{
  "model": "gpt-4o",
  "messages": [
    {"role": "system", "content": "你是一位資深Python工程師"},
    {"role": "user", "content": "請幫我寫一段程式，計算列表平均值"}
  ]
}

👉 模型會根據角色與上下文，自然理解需求、生成回應。

Completion API 輸入格式

{
  "model": "gpt-3.5-turbo-instruct",
  "prompt": "你是一位資深Python工程師，請幫我寫一段程式，計算列表平均值。",
  "max_tokens": 100
}

👉 沒有上下文或角色結構，模型只根據這一段 prompt 進行續寫。

功能與應用場景比較

回傳結構差異

Chat API 回傳

{
  "id": "chatcmpl-xxxx",
  "object": "chat.completion",
  "choices": [
    {
      "message": {
        "role": "assistant",
        "content": "秋天的詩如下..."
      }
    }
  ]
}

Completion API 回傳

{
  "id": "cmpl-xxxx",
  "object": "text_completion",
  "choices": [
    {
      "text": "秋天的詩如下..."
    }
  ]
}

兩者差異：Chat API 有「角色」結構；Completion 只有單純文字。

為何 OpenAI 推動 Chat 架構？

Chat API 並非只是為了「聊天」， 而是代表 LLM 應用的統一介面標準，原因如下：

1. 可延展性高：支援多模態（文字、圖像、音訊）輸入。
2. 工具整合能力強：支援 Function Calling，能呼叫外部 API。
3. 更符合人機互動設計：有明確角色與上下文。
4. 通用於 Agent 應用：成為智慧助理、RAG、流程機器人的基礎。

因此目前 GPT-4、GPT-4o、GPT-5、o1、o3 等最新模型 皆使用 Chat API， 舊的 Completion API 則僅保留給 instruct 系列模型作為過渡使用。

未來發展趨勢

總結

隨著 GPT-4o 與 GPT-5 的推出，所有新模型、工具呼叫（Function Calling）、以及多模態應用都將以 Chat Completion 作為統一介面。

版主10在2020年首次開設YouTube頻道，嘗試拍攝程式教學。想要了解更多的朋友歡迎關注我的頻道，您的訂閱就是最大的支持～如果想學其他什麼內容也歡迎許願XD
https://www.youtube.com/channel/UCSNPCGvMYEV-yIXAVt3FA5A