筆記下 AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 課程相關內容。
課程相關資訊
[連結]:https://learn.duotify.com/courses/ai-cost
請注意:本系列文章為個人對應課程的消化吸收後,所整理出來的內容。換言之,並不一定會包含全部的課程內容,也有可能會添加其他資源來說明。
內容
1. 你的理解與知識對應到你的說話,進而能下更精準的問題和提供資訊,那 AI 越能回答
2. model-alias 可以把應用語意與供應商解耦,進而讓 LLM 來源的擴充、替換、分流更加容易
3. LiteLLM 用此轉發,可以把請求中多餘的參數給 Drop 掉。對於客戶端而言,可以統一送多種 LLM 綜合請求,然後交給 LiteLLM
4. 路由策略決定成本、延遲、配額平衡 – 先用 simple-shiffle,再以量測結果更換策略

![[筆記] AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 – 9 [筆記] AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 – 9](https://smlpoints.com/wp-content/uploads/notes-ai-cost-1.jpg)