分享至
最近用C#撈網頁原始檔來獲取4大貨運的燃油附加費的費率TNT、DHL、FEDEX都撈到了但是UPS怎麼撈就是抓不到顯示表格的費率有神人前輩可以提點提點嗎費率網址如下https://www.ups.com/tw/zh/shipping/surcharges/fuel-surcharges.page
已邀請的邦友 {{ invite_list.length }}/5
這跟 c# 沒什麼關係我就來回了
如果你用的只是普通的 get request
爬不到是正常的
因為他那的資料
是用 js 處理的
圖為停用 js 的結果
我原本是要推薦你用 puppeteer
後來看了一下
他的資料是從 這來的
直接爬這就好
感謝大大,抓到了!!!有空再來研究研究puppeteer可以另外問一下是怎樣抓到這個JSON路徑的嗎
ken040714
可以看 browser console
network 那頁
搞不好你其他的頁面
有的就有用類似這種傳 data 的 api
你就可以省去分析 html 的時間
直接用他的 api
另外
普通的爬蟲用一般的 get request 就好
puppeteer 比較適合一些複雜的爬蟲
他會跟你一般操作 browser 類似
直接下 GET丟入它的 JS網址https://www.ups.com/assets/resources/fuel-surcharge/tw.json就可以抓到 JSON 的資料表,自己依照需求抓
感謝! 我抓到了
IT邦幫忙