1、負(fù)責(zé)網(wǎng)絡(luò)爬蟲系統(tǒng)的設(shè)計與開發(fā)(結(jié)構(gòu)化抽取,分布式,調(diào)度策略);
2、研究爬蟲策略和防屏蔽規(guī)則,解決封鎖、驗證碼、加密,等問題,優(yōu)化爬蟲效率和質(zhì)量;
3、對抓取后的數(shù)據(jù)進(jìn)行清洗、存儲,并持續(xù)優(yōu)化平臺,提升爬蟲穩(wěn)定性及可擴(kuò)展性。
4、向部長匯報。
1.至少1年爬蟲項目開發(fā)經(jīng)驗;至少熟練掌握主流爬蟲框架中的一種
2.精通Python語言,熟練運(yùn)用多進(jìn)程、多線程開發(fā);
3.熟悉爬蟲原理,熟練掌握正則表達(dá)式、XPath、CSS等網(wǎng)頁信息抽取技術(shù)以及提取多層Json結(jié)構(gòu)數(shù)據(jù);
4.熟悉常見反爬機(jī)制,IP池、cookie、js加密等;對破解驗證碼有豐富經(jīng)驗,獨(dú)立解決js反爬和模擬登陸問題5.熟練使用Scrapy、Requests、Selenium、PhantomJS等框架;熟練使用抓包工具;
上一篇:沒有了!
下一篇:土建工長
24小時免費(fèi)咨詢
請輸入您的聯(lián)系電話,座機(jī)請加區(qū)號