分享一下設計自身的網頁 AI 爬蟲技能的設計理念。
內容
核心原則
1. 先確定當前執行環境有無可使用的「真實瀏覽器」、「渲染 DOM」或是 Cli 工具有內建的網頁請求能力。
2. 視情況開啟多個獨立的 session,確保狀態隔離
3. 遇到限流時尊重伺服器限制,降低請求頻率,而非切換 session 規避封鎖
4. 思考何時可當作停止訊號
5. 每個 session 要有重複嘗試次數的上限
6. 輸出資料呈現時,要有檢驗標準
範例 SKILL
https://github.com/andy922200/agent-skills/blob/master/browser-web-data-discovery/SKILL.md
按讚加入粉絲團
![[指南] AI 工具進行爬蟲資料之設計理念 [指南] AI 工具進行爬蟲資料之設計理念](https://smlpoints.com/wp-content/uploads/browser-web-data-discovery-1.jpeg)