[筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 47

Posted onAuthorANDY LIEN

章節連結

筆記下 AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 課程相關內容。

[筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 9

課程相關資訊

[連結]：https://learn.duotify.com/courses/ai-cost

請注意：本系列文章為個人對應課程的消化吸收後，所整理出來的內容。換言之，並不一定會包含全部的課程內容，也有可能會添加其他資源來說明。

內容

1. 你的理解與知識對應到你的說話，進而能下更精準的問題和提供資訊，那 AI 越能回答
2. model-alias 可以把應用語意與供應商解耦，進而讓 LLM 來源的擴充、替換、分流更加容易
3. LiteLLM 用此轉發，可以把請求中多餘的參數給 Drop 掉。對於客戶端而言，可以統一送多種 LLM 綜合請求，然後交給 LiteLLM
4. 路由策略決定成本、延遲、配額平衡 – 先用 simple-shiffle，再以量測結果更換策略

系列文章

  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 9
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 8
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 7
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 6
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 5
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 46
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 45
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 44
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 43
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 42
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 41
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 40
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 4
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 39
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 38
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 37
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 36
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 35
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 34
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 33
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 32
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 31
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 30
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 3
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 29
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 28
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 27
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 26
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 25
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 24
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 23
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 22
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 21
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 20
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 2
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 19
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 18
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 17
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 16
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 15
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 14
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 13
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 12
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 11
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 10
  • [筆記] AI 寫程式省錢術：從 Token 焦慮到團隊成本治理 – 1
    • 按讚加入粉絲團