成人性生交大片免费看视频r_亚洲综合极品香蕉久久网_在线视频免费观看一区_亚洲精品亚洲人成人网在线播放_国产精品毛片av_久久久久国产精品www_亚洲国产一区二区三区在线播_日韩一区二区三区四区区区_亚洲精品国产无套在线观_国产免费www

主頁(yè) > 知識(shí)庫(kù) > Python 爬取淘寶商品信息欄目的實(shí)現(xiàn)

Python 爬取淘寶商品信息欄目的實(shí)現(xiàn)

熱門(mén)標(biāo)簽:千呼ai電話機(jī)器人免費(fèi) 400電話辦理費(fèi)用收費(fèi) 柳州正規(guī)電銷機(jī)器人收費(fèi) 鎮(zhèn)江人工外呼系統(tǒng)供應(yīng)商 深圳網(wǎng)絡(luò)外呼系統(tǒng)代理商 申請(qǐng)辦個(gè)400電話號(hào)碼 高德地圖標(biāo)注字母 騰訊地圖標(biāo)注有什么版本 外呼系統(tǒng)前面有錄音播放嗎

一、相關(guān)知識(shí)點(diǎn)

1.1、Selenium

Selenium是一個(gè)強(qiáng)大的開(kāi)源Web功能測(cè)試工具系列,可進(jìn)行讀入測(cè)試套件、執(zhí)行測(cè)試和記錄測(cè)試結(jié)果,模擬真實(shí)用戶操作,包括瀏覽頁(yè)面、點(diǎn)擊鏈接、輸入文字、提交表單、觸發(fā)鼠標(biāo)事件等操作,并且能夠?qū)?yè)面結(jié)果進(jìn)行種種驗(yàn)證。也就是說(shuō),只要在測(cè)試用例中把預(yù)期的用戶行為與結(jié)果都描述出來(lái),我們就得到了一個(gè)可以自動(dòng)化運(yùn)行的功能測(cè)試套件。

1.2、ActionChains
Actionchains是selenium里面專門(mén)處理鼠標(biāo)相關(guān)的操作如:鼠標(biāo)移動(dòng),鼠標(biāo)按鈕操作,按鍵和上下文菜單(鼠標(biāo)右鍵)交互。這對(duì)于做更復(fù)雜的動(dòng)作非常有用,比如懸停和拖放。

1.3、time
返回當(dāng)前時(shí)間的時(shí)間戳

1.4、lxml
lxml是一個(gè)Python庫(kù),使用它可以輕松處理XML和HTML文件,還可以用于web爬取。市面上有很多現(xiàn)成的XML解析器,但是為了獲得更好的結(jié)果,開(kāi)發(fā)人員有時(shí)更愿意編寫(xiě)自己的XML和HTML解析器。這時(shí)lxml庫(kù)就派上用場(chǎng)了。這個(gè)庫(kù)的主要優(yōu)點(diǎn)是易于使用,在解析大型文檔時(shí)速度非??欤瑲w檔的也非常好,并且提供了簡(jiǎn)單的轉(zhuǎn)換方法來(lái)將數(shù)據(jù)轉(zhuǎn)換為Python數(shù)據(jù)類型,從而使文件操作更容易。

1.5、csv
csv文件格式是一種通用的電子表格和數(shù)據(jù)庫(kù)導(dǎo)入導(dǎo)出格式。最近我調(diào)用RPC處理服務(wù)器數(shù)據(jù)時(shí),經(jīng)常需要將數(shù)據(jù)做個(gè)存檔便使用了這一方便的格式。

1.6、requests
Requests 庫(kù)是一個(gè)優(yōu)雅而簡(jiǎn)單的 Python HTTP 庫(kù),主要用于發(fā)送和處理 HTTP 請(qǐng)求

二、部分代碼解析

加載Chrome驅(qū)動(dòng),動(dòng)態(tài)解析爬取的網(wǎng)址

 #提取公共的爬取信息的api
 def commonsdk(self,url):
 browser = webdriver.Chrome('D:/chromedriver.exe')
 try:
 browser.get(url)
 except Exception as e:
 browser.execute_script('window.stop()') # 超出時(shí)間則不加載
 print(e, 'dynamic web load timeout')
 return browser;

實(shí)現(xiàn)模擬登錄

通過(guò)定位淘寶登陸界面的url的表單框,然后輸入自己的用戶名及密碼,再模擬鼠標(biāo)點(diǎn)擊事件,繼而提交表單信息實(shí)現(xiàn)用戶登錄。

#模擬登錄
 def logon(self,url,a_href_list_next):
 username = "淘寶賬戶名"
 password = "密碼"
 browser1 = self.commonsdk(url)
 #登錄賬號(hào)
 browser1.find_element_by_id('fm-login-id').send_keys(username)
 browser1.find_element_by_id('fm-login-password').send_keys(password)
 #模擬用戶點(diǎn)擊登錄
 browser1.find_element_by_xpath('//*[@id="login-form"]/div[4]/button').click()
 #解析商品信息
 self.Buy_information(a_href_list_next,browser1)

爬取側(cè)邊欄目錄
1、首先定位到目錄分類欄,鼠標(biāo)光標(biāo)移動(dòng)到需要選中的那一欄,繼而會(huì)出現(xiàn)隱藏的div,(這里需要實(shí)現(xiàn)鼠標(biāo)懸停事件)action.move_to_element(li_list).perform()實(shí)現(xiàn)了這一功能。
2、然后定位自己所需要爬取的側(cè)邊欄的那一行或多行,通過(guò)實(shí)現(xiàn)鼠標(biāo)懸停事件后獲取其中內(nèi)容。
3、獲取其超鏈接進(jìn)入下一界面

#爬取目錄
 def List(self,url):
 browser = self.commonsdk(url)
 #ActionChains類實(shí)現(xiàn)鼠標(biāo)的單擊、雙擊、拖拽等功能
 action = ActionChains(browser)
 li_list = browser.find_elements_by_css_selector('.service-bd li')[1]
 #實(shí)現(xiàn)執(zhí)行鼠標(biāo)懸停,便于爬取懸停內(nèi)容
 action.move_to_element(li_list).perform()
 time.sleep(5)

 #爬取整個(gè)目錄的div
 div_list = browser.find_element_by_css_selector('.service-fi-links')
 #爬取其中的總的名稱
 h5_list = div_list.find_elements_by_css_selector('h5')
 #爬取小標(biāo)題的名稱
 p_list = div_list.find_elements_by_css_selector('p')
 #獲取a標(biāo)簽
 a_href_list = div_list.find_elements_by_css_selector('a')
 #獲取a標(biāo)簽的超鏈接
 a_href_list_next = div_list.find_elements_by_css_selector('a')[1].get_attribute('href')

 print(li_list.text)
 for j in range(len(p_list)):
 if jlen(p_list):
 print(h5_list[j].text)
 print(p_list[j].text)
 for i in range(len(a_href_list)):
 print(a_href_list[i].get_attribute('href'))

 #獲取登錄框
 logon = browser.find_element_by_id('J_SiteNavBd')
 #獲取登錄框的超鏈接
 logon_url = logon.find_element_by_css_selector('a').get_attribute('href')
 #先關(guān)閉第一個(gè)網(wǎng)頁(yè)
 browser.close()
 self.logon(logon_url,a_href_list_next)

獲取商品信息

1、這里使用的定位方式是Xpath方式,使用了絕對(duì)定位來(lái)獲取標(biāo)簽的位置。

#爬取商品信息
 def Buy_information(self,url,browser):
 browser.get(url)
 div_list = browser.find_element_by_xpath('//*[@id="mainsrp-itemlist"]/div/div/div[1]/div[1]')
 img = div_list.find_element_by_css_selector('img')
 img_url = "https:"+img.get_attribute('data-src')
 price = div_list.find_element_by_xpath('//*[@id="mainsrp-itemlist"]/div/div/div[1]/div[1]/div[2]/div[1]/div[1]').text
 number = div_list.find_element_by_xpath('//*[@id="mainsrp-itemlist"]/div/div/div[1]/div[1]/div[2]/div[1]/div[2]').text
 shoping_information = div_list.find_element_by_xpath('//*[@id="mainsrp-itemlist"]/div/div/div[1]/div[1]/div[2]/div[2]').text
 shop = div_list.find_element_by_xpath('//*[@id="mainsrp-itemlist"]/div/div/div[1]/div[1]/div[2]/div[3]/div[1]/a').text
 adress = div_list.find_element_by_xpath('//*[@id="mainsrp-itemlist"]/div/div/div[1]/div[1]/div[2]/div[3]/div[2]').text
 path = self.img_baocun(img_url)
 data={
 '圖片路徑':path,
 '價(jià)格':price,
 '購(gòu)買(mǎi)人數(shù)':number,
 '商品信息':shoping_information,
 '商家':shop,
 '籍貫':adress
 }
 self.write_dictionary_to_csv(data,'information')

下載圖片

通過(guò)獲取到的圖片的url,然后將圖片下載到指定的文件夾內(nèi)

#下載照片
 def img_baocun(self,url):
 root = "文件夾下載的路徑"http://電腦上的絕對(duì)路徑
 path = root + url.split('?')[0].split('/')[-1].strip('')#獲取jpg的名稱
 #判斷是否存在該路徑,不存在則創(chuàng)建
 if not os.path.exists(root):
 os.mkdir(root)
 #判斷是否存在該圖片,存在則不下載
 if not os.path.exists(path):
 r = requests.get(url)
 r.raise_for_status()
 with open(path,'wb') as f:
 f.write(r.content)
 return path

將需要爬取的信息寫(xiě)入到csv文件中,便于查看
1、商品信息以字典的形式寫(xiě)入csv文件中方便查看。

#將解析得到的內(nèi)容(字典格式)逐行寫(xiě)入csv文件
 def write_dictionary_to_csv(self,dict,filename):
 #格式化文件名
 file_name='{}.csv'.format(filename)
 with open(file_name, 'a',encoding='utf-8') as f: 
 file_exists = os.path.isfile(filename)
 #delimiter(定界符) 
 w =csv.DictWriter(f, dict.keys(),delimiter=',', quotechar='"', lineterminator='\n',quoting=csv.QUOTE_ALL, skipinitialspace=True)
 if not file_exists :
 w.writeheader()
 w.writerow(dict)
 print('當(dāng)前行寫(xiě)入csv成功!')

三、程序思路

1、首先定位到側(cè)邊欄的位置,然后使用action.move_to_element(li_list).perform()的方法實(shí)現(xiàn)鼠標(biāo)的動(dòng)態(tài)懸停,讓隱藏的div顯示出來(lái),再獲取其中的信息。
2、然后再實(shí)現(xiàn)模擬登錄的功能,登錄賬號(hào),獲取其中的商品信息(由于淘寶的反扒機(jī)制,多次登錄會(huì)讓用戶掃碼登錄,此功能暫未實(shí)現(xiàn))
3、商品信息的獲取使用Xpath的絕對(duì)定位方式來(lái)獲取。

Xpath的使用方式:
 右鍵需要定位的標(biāo)簽->選中Copy選項(xiàng)->Copy Xpath

四、發(fā)展空間

1、解決淘寶反扒機(jī)制的問(wèn)題。傳送門(mén),解決問(wèn)題
2、文件的寫(xiě)入換用其他方式。

到此這篇關(guān)于Python 爬取淘寶商品信息欄目的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)Python 爬取淘寶商品信息內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

您可能感興趣的文章:
  • Unity打開(kāi)淘寶app并跳轉(zhuǎn)到商品頁(yè)面功能的實(shí)現(xiàn)方法
  • 備戰(zhàn)618!用Python腳本幫你實(shí)現(xiàn)淘寶秒殺
  • python淘寶準(zhǔn)點(diǎn)秒殺搶單的實(shí)現(xiàn)示例
  • python 利用百度API進(jìn)行淘寶評(píng)論關(guān)鍵詞提取
  • Python實(shí)現(xiàn)淘寶秒殺功能的示例代碼
  • 用python爬取分析淘寶商品信息詳解技術(shù)篇

標(biāo)簽:烏蘭察布 平頂山 合肥 大慶 海南 哈爾濱 烏蘭察布 郴州

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Python 爬取淘寶商品信息欄目的實(shí)現(xiàn)》,本文關(guān)鍵詞  Python,爬取,淘寶,商品,信息,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《Python 爬取淘寶商品信息欄目的實(shí)現(xiàn)》相關(guān)的同類信息!
  • 本頁(yè)收集關(guān)于Python 爬取淘寶商品信息欄目的實(shí)現(xiàn)的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    一区二区三区自拍视频| caopen在线视频| 亚洲国产视频网站| 98视频精品全部国产| 亚洲国产福利| 国产免费一级| 日本亚州欧洲精品不卡| 亚洲精品午夜久久久久久久| 日韩中文字幕二区| 蜜桃91麻豆精品一二三区| 成人综合婷婷国产精品久久免费| 日本高清视频一区二区| 成人免费在线观看| 国产又粗又长又黄的视频| 欧美肉大捧一进一出免费视频| 91欧美视频在线| 黄色影片网址| 亚洲精品视频一区| 18成人在线视频| 国产精品嫩草99a| 国产精品三级av| 色黄视频免费看| 国产视频亚洲视频| 欧美亚洲精品在线观看| 黄色成人在线网站| 欧美精品久久久久久久小说| 成人欧美一区二区三区在线| 99国产精品私拍| 久久精品国产2020观看福利| 国产精品视频免费一区二区三区| 国产高清无密码一区二区三区| 国产情侣av自拍| 日韩欧美国产精品| 91亚洲精品久久久蜜桃网站| 老司机aⅴ毛片免费观看| 91国自产精品中文字幕亚洲| 影音先峰男人站| 黑人巨大精品欧美一区二区桃花岛| 一级特黄色大片| 国模视频一区| 亚洲影院高清在线| 国产 高清 精品 在线 a| 亚洲缚视频在线观看| 久久久美女艺术照精彩视频福利播放| 久热中文字幕在线精品免费| 亚州精品一二三区| 国产精品网站在线播放| 免费在线观看日韩av| 青青青国产在线观看| yiren22亚洲综合伊人22| 国产精品免费在线| www.色播.com| 亚洲人成网站影音先锋播放| 久久精品国产清高在天天线| 美女喷水网站| 97超碰人人模人人爽人人看| 伊人免费在线观看高清版| 精品中文字幕一区| 高清欧美精品xxxxx| 亚洲国产精品尤物yw在线观看| 精品欧美一区二区久久久| 久久精品久久精品亚洲人| 丁香花在线电影| 日韩国产高清一区| 91麻豆国产语对白在线观看| 国产精品动漫网站| 国产精品扒开腿爽爽爽视频| 亚洲日韩中文字幕在线播放| 国产精品男女视频| 青青草成人网| 男女啪啪免费视频网站| 免费的av在线| 一级片视频免费观看| 少妇饥渴放荡91麻豆| 久久久久88色偷偷免费| 欧美黑人视频一区| 性欧美成人播放77777| 国产亚洲精品激情久久| 一区二区成人免费视频| 亚洲jizzjizz日本少妇| 91日韩免费| 欧美色老头old∨ideo| 久久久www成人免费精品| 午夜精品99久久免费| 国产视频九色蝌蚪| 国产精品一区二区在线免费观看| 欧美福利一区二区| 国产网友自拍视频| 国产66精品| 国产一区二区三区精品久久久| 亚洲超碰在线| 国产传媒在线播放| 亚洲国产网址| a级大片免费看| 色网站在线播放| 日批视频免费在线观看| 丰腴饱满的极品熟妇| 在线观看视频色| 欧美三级不卡| 国产激情视频在线观看| 天天干天天干天天干天天| 91影院成人| 国产精品一区二区午夜嘿嘿嘿小说| 日批视频网站| 免费黄色网页| 国产香蕉97碰碰久久人人| gogo大胆日本视频一区| 精品自在线视频| 成人性生交大片免费看视频直播| 日韩一区欧美小说| 蜜桃色永久入口| 午夜精品网站| 992tv成人免费视频| 大伊人狠狠躁夜夜躁av一区| 影音先锋男人看片资源| 欧美日韩视频在线一区二区观看视频| 国产一级黄色录像片| 素人啪啪色综合| 欧美性猛交xxx乱大交3蜜桃| 久久97精品久久久久久久不卡| jjzzjjzz欧美69巨大| 欧美著名女优| 91精品午夜视频| 中文字幕一区日韩电影| 亚洲一区尤物| 99久久精品免费看国产一区二区三区| 九九热在线免费视频| 国产字幕在线观看| 91成人高清| 中文字幕第一区| 欧美日韩一级片网站| 亚洲欧美日韩网站| 国产又粗又猛又黄| 天堂tv亚洲tv日本tv欧美人tv| a级黄色片免费看| 超级砰砰砰97免费观看最新一期| 国产在线视频不卡二| 波多野结衣不卡视频| 免费观看成人性生生活片| 国产精品186在线观看在线播放| 欧美成人精品一区二区综合免费| 蜜臀av午夜一区二区三区| 鲁丝片一区二区三区| 日韩精品诱惑一区?区三区| 久久久久久国产精品久久| 亚洲精品视频网址| 国产免费福利视频| 成人h动漫精品一区| 国产精品亚洲一区二区三区| 精品91自产拍在线观看一区| 成人中文字幕av| 国产精品久久久久久妇女| 久久久99精品免费观看不卡| 91久热免费在线视频| 日韩av片在线播放| 欧美激情在线一区二区三区| 成人午夜在线免费| 一区二区三区国产福利| av日韩电影| 中文字幕在线视频不卡| 偷拍盗摄高潮叫床对白清晰| 久热re这里精品视频在线6| 日韩欧美精品在线视频| 男人打飞机网站| 国产人伦精品一区二区| 国产精品熟女视频| 亚洲高清av一区二区三区| 国产超碰人人爽人人做人人爱| 日韩精品免费一区二区三区竹菊| 欧美日韩国产一级| 亚洲一区国产一区| 国产尤物在线播放| 精品免费二区三区三区高中清不卡| 91精品国产91久久久久久黑人| 日韩精品国产一区二区| 亚洲成人影音| 91天堂在线视频| 欧美综合在线观看视频| 91尤物国产福利在线观看| 一区二区三区高清国产| 日韩在线免费观看av| 成人免费在线观看视频| 四虎久久影院| av网站在线播放| 成人精品国产一区二区4080| 99re视频精品| 亚洲一区二区三区三| 97国产在线视频| 午夜亚洲影视| eeuss影院www在线观看免费| 高h调教冰块play男男双性文| 日韩精选视频| 影音先锋中文在线观看| 高潮一区二区三区| 美女国产在线| 国产精品视频| 超碰av女优在线| 黄色三级网站在线观看| 国产精品va在线观看视色| 黄色成人在线播放| 中文字幕亚洲专区| 久久香蕉国产线看观看99| 你懂的在线观看视频| 中文字幕欧美日韩精品| 91亚洲一区二区| 欧美精品videos| 午夜欧美在线一二页| 亚洲国产精品毛片av不卡在线| 亚洲精品在线观看91| 亚洲综合中文| 欧美xxxx做受欧美.88| 欧美人成免费网站| 97精品国产露脸对白| 91精品中文字幕一区二区三区| 特级毛片在线观看| 97色在线视频观看| 精品一区二区三区的国产在线播放| 色94色欧美一区| 免费一区二区视频| 四虎成人精品一区二区免费网站| 夫妇交换中文字幕| 免费看的av网站| 亚洲国产精品成人| 亚洲一区影音先锋| 亚洲欧美日韩国产中文| 天天想你在线观看完整版电影免费| 人人人妻人人澡人人爽欧美一区| 97在线观看免费高清| www.xxxx日本| 奇米影视一区二区三区小说| 4438国产精品一区二区| 精品久久久精品| 国产日韩欧美一区二区三区在线观看| 亚洲av无码乱码国产精品久久| 欧美激情国产日韩精品一区18| 国产污在线观看| 国产精品免费一区二区三区| 国产一区在线精品| 一本一本久久a久久综合精品| 国产一级理论片| 蜜芽tv福利在线视频| 九九热国产视频| 日韩av无码一区二区三区不卡| 久久毛片亚洲| 欧美大片91| 99精品视频一区二区三区| 欧美韩国理论所午夜片917电影| 亚洲国产精品美女| 97人妻精品一区二区三区软件| 无码人妻aⅴ一区二区三区| 亚洲成人av中文| 一区二区国产在线观看| 亚洲小说图片| 国产成人亚洲欧洲在线| 日韩黄色在线免费观看| 国产亚洲欧美日韩高清| 亚洲高清电影| 免费在线黄色av| 欧美性猛交xxxxx少妇| 国产精品在线看| 日本v片在线免费观看| 亚洲欧洲成人在线| 9.1在线观看免费| 久久久久99人妻一区二区三区| 91麻豆国产自产在线观看亚洲| 蜜臀久久99精品久久久久宅男| 精品奇米国产一区二区三区| 国产精品久久麻豆| 中文字幕66页| 日韩免费毛片| 97se视频在线观看| 精品久久久久久综合日本欧美| 一区二区视频免费完整版观看| 92看片淫黄大片欧美看国产片| 青青久久av北条麻妃黑人| 午夜剧场高清版免费观看| 国产精品国产| 久久精品国产www456c0m| 99久久婷婷国产| 一区二区免费在线播放| 成人av二区| 国产成人精品在线| 亚洲香蕉伊在人在线观| 国产精品一区二区亚洲| 牛夜精品久久久久久久| 国产一区二区视频网站| 无码人妻aⅴ一区二区三区玉蒲团| 91精品视频大全| 五月天视频在线观看| 免费在线看污| 手机av免费在线| 日本欧洲一区| 亚洲国产精品资源| 久久久久久久久久美女| 国产不卡在线一区| 久久免费福利| 中文字幕在线视频观看| 91精品国产91久久久久游泳池| a级片在线观看| 亚洲男女自偷自拍| 中文一区在线观看| 中文字幕一区二区三区四区视频| av一区二区三区在线观看| 男女h黄动漫啪啪无遮挡软件| 久久影视三级福利片| 成人免费网视频| 国产自产视频| 中文字幕亚洲区| 日韩一区二区在线视频| 成人片在线播放| 91香蕉视频免费在线观看| 美女999久久久精品视频| av在线天堂播放| 鲁鲁视频www一区二区| 日本精品一区二区三区在线观看视频| 久久99精品久久久久久野外| 91欧美视频网站| 日本欧美不卡| 日本激情一区二区三区| 欧美大片免费播放| 一区二区传媒有限公司| 国产精品一区二区男女羞羞无遮挡| 99久免费精品视频在线观78| 欧美日韩一区高清| 337p亚洲精品色噜噜噜| 在线欧美三级| 午夜成在线www| 亚洲 欧美 日韩系列|