[筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 存到 MySQL 資料庫實作

章節連結

斷斷續續地在網路和書籍上學習有關 Python 的爬蟲技術,但隨著反爬蟲的技術也是越來越精進,所以想說藉由 「超新手也能用 Python 爬蟲打造貨比千家的比價網站」這門課來看看能否解決相關的疑惑。這篇筆記下如何將爬取下來的資料,存到 MySQL 資料庫。
[筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – ngrok


課程相關資訊

[連結]:https://hiskio.com/courses/527/lectures/30378

本篇範圍:Chapter 4 ( 資料很髒很亂怎麼辦?資料清理與資料整併 )

請注意:本系列文章為個人對應課程的消化吸收後,所整理出來的內容。換言之,並不一定會包含全部的課程內容,也有可能會添加其他資源來說明。


程式碼

1. 當使用虛擬環境安裝 sqlalchemy 套件,會需要額外安裝 mysql-connector, mysql, mysqlclient 三個套件
2. 不過,mysqlclient 這個套件若要安裝額外的 VIsual Studio C++ 編譯套件,又顯得太過龐大。因此,可以改由此處下載 對應的 cp 版本。 ( cp310 表示 Python 3.10 )
3. 若你是安裝 MySQL 8.0 以上版本,由於預設使用者的登入模組做了變更,需要先行調整一下。你可以在 Workbench 中執行以下指令:

4. 在 Workbench 中新增好名為 sample 的 DB 後,確認連線網址格式為:
mysql+mysqlconnector://root:你預設的密碼@127.0.0.1:3306/sample?auth_plugin=mysql_native_password


參考資料

1. ImportError: No module named ‘MySQL’
2. [1024]python sqlalchemy中create_engine用法
3. 使用pip install mysqlclient命令安装mysqlclient失败?
4. MySQL 8.0 配置mysql_native_password身份验证插件的密码


系列文章

  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 資料科學與網頁爬蟲
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 資料清理與整理
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 資料探索與視覺化的生態系
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 資料探索和視覺化
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 觀察 API 並透過 Python 取得資料 – Pchome 24H 購物為例
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 觀察 API 並透過 Python 取得資料
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 網頁爬蟲的起源和處理策略
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 網站架設與前後端運作原理
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 用 jQuery DataTable 來讓表格動起來
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 爬取動態的電商網站 ( 蝦皮購物 )
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 為什麼抓不到動態資料
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 把全部的資料爬回來 ( 2 )
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 把全部的資料爬回來 ( 1 )
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 從網頁溝通架構到爬蟲運作原理
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 將資料存成外部 csv xlsx 檔案
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 將資料存到資料庫系統中
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 將資料串接上 Google Data Studio
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 存資料庫到後端
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 在靜態網站中獲取資訊 2
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 在靜態網站中獲取資訊
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 友善與惡意爬蟲
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 利用 Requests 模擬請求和攔截回應
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 利用 Pandas 實現資料前處理
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 利用 Flask 架設自己的網站 (3)
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 利用 Flask 架設自己的網站 (2)
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 利用 Flask 架設自己的網站 (1)
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 利用 BeautifulSoup 來解析網頁原始碼
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – 儲存到 Google Spreadsheet
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – Selenium 的簡介
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – Selenium 套件和環境設置
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – Python 與爬蟲環境準備
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – Python 的基本語法
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – Pandas 操作範例
  • [筆記] 超新手也能用 Python 爬蟲打造貨比千家的比價網站 – ngrok
  • 按讚加入粉絲團

    延伸閱讀