筆記下 AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 課程相關內容。
課程相關資訊
[連結]:https://learn.duotify.com/courses/ai-cost
請注意:本系列文章為個人對應課程的消化吸收後,所整理出來的內容。換言之,並不一定會包含全部的課程內容,也有可能會添加其他資源來說明。
內容
LiteLLM 不支援 Ollama Cloud 這種用「算力計費」賣 Token 的服務
關鍵名詞
Provider – 實際提供模型 API 平台
Model – 應用呼叫使用名稱
Deployment – 一組模型、端點、區域與憑證設定
Model Group – 多個 Deployment 共用的邏輯名稱
Router – 決定選 deployment 的規則
Virtual Key – 發給應用或團隊的代理金鑰
Callback – 記錄、觀測或政策的擴充回調函式

![[筆記] AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 – 9 [筆記] AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 – 9](https://smlpoints.com/wp-content/uploads/notes-ai-cost-1.jpg)