GPT-4o 上下文視窗、Max Tokens 與 128k 佔用

gpt-4o max tokens、gpt-4o context window、128k tokens 這類詞，問的不是「有多少字元」，而是：這段貼上在宣稱的視窗裡還剩多少空間。本篇說明如何解讀這些數字，以及傳送前如何檢查。

Max tokens 與上下文視窗

「Max tokens」在不同文件裡可能指輸出上限、上下文總長，或兩者混用。模型卡上的 128k 類數字通常描述可放入的上下文量級——往往還要涵蓋模型回覆。把它當成 100% 可塞輸入，是常見失誤。

先看佔用百分比

打開 上下文視窗計算機，貼上文字，選擇 128k（或 8k / 32k / 200k / 1M / 自訂）。看已用 Token、剩餘，以及佔用百分比。在截斷或忘掉早先輪次之前先裁剪。

再對數

需要編碼感知的原文長度時，用 Token 計數器 的 OpenAI 系模式。視窗工具回答「滿了多少」；計數器回答「這段有多長」。

128k 大約等於多少詞？

若只想建立閱讀直覺，用 Token 轉詞數 的 128k / 1M 預設。那是規劃比例，不是保證。終稿仍要貼上核對。

給回覆留空

輸入把視窗頂滿後，輸出沒有空間。目標留出餘量（視任務而定），不要把佔用條推到 100%。