筆記下 AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 課程相關內容。
課程相關資訊
[連結]:https://learn.duotify.com/courses/ai-cost
請注意:本系列文章為個人對應課程的消化吸收後,所整理出來的內容。換言之,並不一定會包含全部的課程內容,也有可能會添加其他資源來說明。
內容
Lite LLM 的團隊相關功能,都是要付費的。
1. Internal User 是免費,但你可以考慮用 ” Virtual Key” 出發,來給團隊使用
2. 你可以額外寫 hook 來自行置入提示詞
3. 可靠度和重試次數設置在 Lite LLM,可方便管理,無需一台台電腦設置
4. 記得設定模型成本、快取成本
5. 「最多可平行要求數量」建議使用
6. Meta Data 可自行加入,這樣可加強辨識度,進而讓客製的 Dashboard 有參考依據
若透過後台知道有多少功能後,就可以透過 codex 這類的 AI 來完成。

![[筆記] AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 – 9 [筆記] AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 – 9](https://smlpoints.com/wp-content/uploads/notes-ai-cost-1.jpg)