99久久精品免费观看国产,欧美一区二区三区久久综合,性导航唐人社区,两个人看的www高清视频中文

職位描述

任職要求：

• 熟悉Python語言，熟練運用多進程、多線程開發(fā)；

  
  

•  熟悉爬蟲原理，熟練掌握正則表達式、XPath、CSS等網頁信息抽取技術以及提取多層Json結構數據；

  
  

• 熟悉常見反爬機制，IP池、cookie、js加密等；對破解驗證碼有豐富經驗，獨立解決js反爬和模擬登陸問題

  
  

• 熟練使用Scrapy、Requests、Selenium、PhantomJS等框架；熟練使用抓包工具；

  
  

• 熟悉Linux基礎命令，熟悉Mysql、Redis等數據庫及相關操作；

  
  

  其它要求：

  
  

• 熟悉數據清洗，能夠用numpy、pandas、jieba等工具對數據進行處理者優(yōu)先；

• 有Django/Flask等web框架開發(fā)經驗者優(yōu)先
  

職位要求

崗位職責:

1、負責網絡爬蟲系統(tǒng)的設計與開發(fā)(結構化抽取，分布式，調度策略）；

2、研究爬蟲策略和防屏蔽規(guī)則，解決封鎖、驗證碼、加密，等問題，優(yōu)化爬蟲效率和質量；

3、對抓取后的數據進行清洗、存儲，并持續(xù)優(yōu)化平臺，提升爬蟲穩(wěn)定性及可擴展性。

4、向部長匯報。

投遞郵箱