了解 Token 定價模型
Token 定價根據您發送和接收的文字量來計算成本,而非基於請求數量或伺服器處理它們所花費的時間。一個單詞可能會根據詞彙被分割成多個 token,因此一篇 1,000 字的文章很容易超過 1,500 個 token。這種細粒度的計費確保您只為針對您特定資料所執行的實際計算工作付費。與根據使用情況收取固定月費的訂閱模式不同,這種方法直接隨您的活動水平擴展。您可以透過將預估的 token 量乘以每百萬費率來精確預測開支。這種透明度消除了猜測您的團隊是否未充分利用昂貴的月度席位或為閒置容量支付過高費用的疑慮。模型以區塊處理文字,每個區塊都會貢獻到最終帳單中。了解此機制可幫助您最佳化提示詞以減少浪費,同時不犧牲品質。
輸入與輸出成本明細
輸入 token 涵蓋您發送的提示詞,包括系統指令、對話歷史以及任何附加上下文,而輸出 token 涵蓋模型的回應。輸入處理的成本顯著低於輸出生成,因為閱讀文字所需的運算少於反覆預測下一個 token。我們的無審查 API 對每 1M 輸入 token 收取 $0.15,對每 1M 輸出 token 收取 $0.50,反映了這種運算不對稱性。如果您發送 50,000 token 的大量上下文視窗但僅收到 500 token 的輸出,您的成本將主要由輸入費率主導。這種結構獎勵高效的提示詞設計,即最小化冗餘上下文。相反地,冗長的模型會迅速增加您的輸出成本。追蹤此比例有助於您識別提示詞是否過長,或模型是否生成了不必要的填充文字。這種差異確保了重度讀者比重度寫手支付更少費用,使成本與實際交付的價值保持一致。
典型對話的成本
典型的多人對話會隨著上下文視窗在每次交談中擴大而累積成本。你需為初始提示付費,接著為回應付費,最後在發送下一輪對話時為整個歷史記錄付費。這種複利效應意味著長對話中的後續輪次成本會比第一輪呈指數級增長。例如,一場 10 輪的對話平均每輪輸入量為 5,000 個 token,導致帳單迅速增長。輸出成本每 token 保持穩定,但輸入成本會隨著歷史記錄的增加而上升。這種結構鼓勵對舊上下文進行摘要或截斷早期輪次,以保持成本的可預測性。許多開發者發現,對於簡單任務,保持對話短小且無狀態是最具成本效益的策略。對於複雜的推理鏈,累積的輸入成本是主要的費用驅動因素。了解這種動態有助於你架構應用程式,在維持必要狀態的同時最小化上下文膨脹。
上下文窗口對計費的影響
上下文窗口決定了模型在單一請求中能處理多少文字,直接影響您的輸入成本。我們的 API 支援 100,000-token 上下文窗口,允許您在一次呼叫中傳入完整文件或長程式碼庫。傳送 50,000 token 的輸入成本為 $7.50,無論模型輸出 100 token 還是 16,000 token。這意味著大的上下文窗口不會因為短回應而懲罰您,使其在檢索增強生成(RAG)中極具效率。然而,若您傳送 100,000 token 卻只收到短答案,您仍需為讀取密集的處理付費。16,000 token 的最大輸出上限確保即使上下文龐大,輸出成本仍受控。這種平衡允許深度分析而不會產生不可預測的帳單波動。您可以將大型資料集載入提示詞並提取精確答案,而無需為過度生成付費。關鍵在於將上下文大小與實際資訊需求對齊,避免不必要的填充。
串流與非串流成本
串流在您產生 Token 時即傳送 Token 給客戶端,而非串流則會等待整個回應完成後才傳送。計算成本完全相同,因為模型在兩種情況下產生的 Token 完全一致。唯一的差異在於網路開銷和傳送的時機。串流讓使用者能更快看到結果,這改善了長輸出的使用者體驗。然而,它並不會減少 Token 數量或每百萬 Token 的價格。部分 API 會對串流收取額外費用,但大多數現代端點(包括我們的)對兩者一視同仁。選擇取決於您應用程式的延遲需求,而非您的預算。如果您正在建構聊天介面,串流對於感知效能至關重要。對於延遲要求較低的批次處理,非串流可能更容易實作。無論您選擇如何接收資料,Token 帳單都保持不變。
函式呼叫額外開銷
函式呼叫涉及傳送工具的結構描述(計為輸入 token),然後執行該工具(計為輸出 token)。額外開銷來自於描述函式結構和參數所需的額外 token。這些額外上下文會略微增加輸入成本,但實際的工具執行通常比生成自由格式的文字更便宜。許多函式參數是短字串或數字,這使得輸出成本保持較低。真正的價值在於結構化資料的可靠性,而非 token 數量。如果您的工具呼叫產生大型 JSON 輸出,輸出成本將會上升。然而,所獲得的精確度通常足以證明額外 token 支出的合理性。您可以透過保持結構描述簡潔並避免冗餘描述來進行最佳化。對於需要嚴格資料格式的應用程式,成本效益分析有利於函式呼叫。與它所提供的錯誤減少效果相比,額外開銷幾乎可以忽略不計。
比較預付與訂閱模式
預付模型僅按您的實際用量收費,消除在淡季為未使用容量付費的風險。訂閱模型無論您只發出一個請求還是百萬個請求,都需支付月費。如果您的使用是間歇性或不可預測的,預付幾乎總是更便宜。我們的預付系統接受加密貨幣充值,無月費承諾,讓您精確控制支出。您可以暫停使用而不影響帳戶結構,且您的信用額永不過期。訂閱模型通常將您鎖定在可能高於您需求的等級。預付方式將成本直接與獲得的價值對齊。您避免未使用席位或 token 的「沉沒成本」。對於測試新模型或運行偶發批次作業的開發者,預付提供最高效的資本配置。預付計費的透明度使預測更容易,並減少財務意外。
贈金價值分析
我們的加密貨幣充值系統包含贈額,可有效降低每個 token 的成本。充值 $50 贈 5%,充值 $200 贈 15%。這意味著隨著充值金額增加,您的有效每百萬 token 價格會下降。例如,$200 充值可獲得 $230 的信用額度,將有效輸入價格從每百萬 token $0.15 降至約 $0.13。這種結構獎勵較大的承諾,且不會將您鎖定在長期合約中。贈額立即生效,讓您能立即使用增強後的餘額。這是基礎設施成本的直接折扣。對於高用量使用者,長期下來這種贈額能顯著影響利潤。由於贈額沒有過期日期,您可以累積贈額而無需擔心使用壓力。這項功能使預付加密貨幣成為存取我們 uncensored 模型最具成本效益的方式。
需警惕的隱藏成本
隱藏費用通常源於低效的提示詞設計、過度的上下文保留或冗餘的 API 呼叫。為相同資料發送重複請求會使您的輸入成本翻倍,卻未增加任何價值。對相同提示詞的回應進行快取,可以消除這些重複收費。未摘要的長對話歷史會迅速累積輸入 token,導致後續輪次的成本飆升。截斷舊訊息或在發送前進行摘要,可縮小上下文視窗的大小。另一個隱藏費用是工具 schema 的開銷,若定義過於冗長會增加成本。保持函式定義精簡可減少輸入 token 的使用量。此外,串流傳輸並不會降低成本,因此不要假設它能節省費用。最後,返回零 token 的錯誤仍會消耗請求配額,但是否產生 token 費用則取決於供應商。我們的 API 僅對實際消耗的 token 收費,因此錯誤是免費的,這比按請求計費的模式具有顯著優勢。監控每個請求的 token 使用量有助於及早發現這些低效環節。