Token 用量怎麼控制?一定要買顯示卡嗎?
跟課不必先買顯示卡;要控制 Token 用量,先查哪個任務用了多少。Token 是模型計算文字用量的單位;縮減無關輸入與重複重試後,還要確認答案品質。
- 到模型服務的用量頁,記下同一件任務的輸入、結果與用量。
- 只移除不相關的資料,重做同一任務,核對有沒有漏掉必要條件。
- 把用量和人工修錯時間一起比較;便宜但要花更多時間補錯,未必省錢。
假設要找某場會議的待辦,先找相關段落,再整理待辦,不必每次重讀所有筆記。
換主題可開新對話,但要帶上必要規則。反覆失敗先整理錯誤,不盲目重試。本機模型另外需要硬體、速度與維護評估,不必為跟課先買顯示卡。
回課程對照
- 3-5 · Hermes 為什麼越用越慢?減肥及加速
- 8-2 · 資安問題想要完全離線?雲端地端混合架構與 AI 分身的未來
這題有解決你的問題嗎?
請保留本題編號 qa-000017,這樣工作台才能和公開問答對上。
不要填入 Token、API Key 或個人資料。
回報到課程留言 ↗這裡不會送出回饋,也不會自動送出;貼到課程留言後,老師才能在工作台收錄、去重與追蹤。
來源與核對紀錄
提問來源:學員提問(已匿名)
內容更新 · 編輯核對 2026-09-22 · AI 編輯核對,依 Hans 原回覆整理
對應章節:第 3 章・編排工程:讓工具真的接起來、第 8 章・把 AI 帶進公司:治理、風險與導入節奏 · Hermes 為什麼越用越慢?減肥及加速、資安問題想要完全離線?雲端地端混合架構與 AI 分身的未來
依講師原回覆與課程資料編輯整理。標示「假設」的情境為新增教學示範,不是原始學員案例。未宣稱學員環境已修復或示範已實測。
第 3 章 3-5 減肥與加速、第 8 章本機與混合架構觀念。課程不承諾完整成本監控系統實作。
這個會議例子是假設練習,沒有預估省費比例。
- Q010 · 2026-08-08 · 自動化是否消耗大量 Token
- Q042 · 2026-09-10 · 如何控制 Token 與本機顯卡運算
- 講師說明Hans 已發布回覆:Q008、Q009、Q010、Q011、Q042 ↗ · 核對於 2026-09-20
依使用者提供的公開問答紀錄整理,來源編號與提問日期列於下方。
- 課程資料課內方法:3-5 測量與減少不必要負擔 · 核對於 2026-09-20
依已提供的課程逐字稿核對方法。本文標示假設的例子為編輯延伸示範,不代表課內逐一帶做該情境。
