筆記下 AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 課程相關內容。
課程相關資訊
[連結]:https://learn.duotify.com/courses/ai-cost
請注意:本系列文章為個人對應課程的消化吸收後,所整理出來的內容。換言之,並不一定會包含全部的課程內容,也有可能會添加其他資源來說明。
內容

正式環境:Postgres 資料庫用於「治理狀態」;Redis 用於「快取 Cache」;Observability:如 Sentry, CloudWatch
一個 Request:會經過「驗證金鑰 -> 套用權限 -> 檢查預算 -> 選擇模型 -> 路由 Deployment -> 執行 guardrail -> 呼叫供應商 -> 成本記錄和追蹤」這 8 個關卡,不僅僅只是轉發 http 請求而已

![[筆記] AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 – 9 [筆記] AI 寫程式省錢術:從 Token 焦慮到團隊成本治理 – 9](https://smlpoints.com/wp-content/uploads/notes-ai-cost-1.jpg)