GPT-4oコンテキストウィンドウ、Max Tokens、128k使用率

gpt-4o max tokens、gpt-4o context window、128k tokens の検索は、文字数ではなく、公開されたウィンドウ内にこの貼り付けにどれだけの余地があるかを問いています。本ガイドではこれらの数値の意味と、送信前の確認方法を説明します。

Max tokensとコンテキストウィンドウ

「Max tokens」はドキュメントによって出力上限、総コンテキスト、または両方を意味することがあります。モデルカードの128kの数字は通常コンテキスト規模を示します。多くの場合モデルの返答と共有されます。入力だけに100%使えると考えるのはよくある誤りです。

まず埋め率を確認

コンテキストウィンドウ計算機を開き、テキストを貼り付け、128k（または8k / 32k / 200k / 1M / カスタム）を選びます。使用トークン、残り、埋め率を確認します。切り詰めや以前のターンの忘却の前にトリミングしてください。

次にカウントを照合

生の文字列のエンコーディングを意識した長さには、トークンカウンターのOpenAI形式モードを使います。ウィンドウツールは「どれくらい満杯か」に、カウンターは「これがどれくらい長いか」に答えます。

128kは単語でどれくらい感じるか

読み取りの直感のみには、トークン→単語の128k / 1Mプリセットを使います。これは計画用の比率であり、保証ではありません。最終稿は貼り付けで確認が必要です。

返答用の余裕を残す

入力がウィンドウを埋めると、出力の余地がありません。100%の埋めバーではなく、余裕を目指してください。