国产91电影在线观看,99久久99久久精品国产片果冰,在线天堂一区,人人艹在线,精品少妇无遮挡毛片,欧美日韩国产一二,国产精品1区2区3区

崗位職責:
1、負責多平臺信息爬取和頁面內(nèi)容的提取分析，負責破解各類反爬機制;
2、負責網(wǎng)頁的數(shù)據(jù)抓取和爬取鏈路優(yōu)化(包括逆向分析、脫殼、加密參數(shù)破解、抓取攻防等)，提升抓取能力;
3、負責日常業(yè)務系統(tǒng)運營支撐工作(bsp,vsim-cor e，web 網(wǎng)站，終端系統(tǒng)，業(yè)務應用監(jiān)控系統(tǒng)等)，相關(guān)運營支撐工具的開發(fā)(python、go);
4、負責業(yè)務運營支撐系統(tǒng)的部署、發(fā)布、變更以及持續(xù)優(yōu)化;針對各系統(tǒng)編寫并維護自動化運維腳本;

任職要求:
1、3年以上python爬蟲經(jīng)驗，本科及以上學歷，計算機相關(guān)專業(yè)，有電商類數(shù)據(jù)經(jīng)驗優(yōu)先;
2、熟練掌握python語言或java語言，熟練掌握js語言、有app數(shù)據(jù)采集經(jīng)驗者優(yōu)先;
3、精通數(shù)據(jù)采集技術(shù)，熟悉httpclient/jsoup/xpath/c ss/正則表達式/驗證碼加密處理/代理池等網(wǎng)頁信息抽取技術(shù)，熟悉http底層協(xié)議;熟悉mysql、redis、elastic search、clickhouse等數(shù)據(jù)，熟悉linux，mysql，有一定的公有云經(jīng)驗，了解sparksql，spark mllib，s park streaming以及spark graphx，hadoop、hive等大數(shù)據(jù)工具，amazon sagemaker;
4、精通各種反爬技術(shù)，并能夠通過多種應對策略(如代理池、模擬登錄、驗證碼與滑塊的處理、瀏覽器渲染等)來保證數(shù)據(jù)的持續(xù)交付;
5、熟悉網(wǎng)頁數(shù)據(jù)采集原理及技術(shù)，熟悉基于cookie的網(wǎng)站登錄原理;