"工作職責(zé):
1.根據(jù)迭代需求,協(xié)同爬蟲業(yè)務(wù)分析,完成各爬蟲需求的開發(fā)和自測工作。
2.研究并分析目標(biāo)網(wǎng)站的反爬機制,設(shè)計策略規(guī)避限制,如IP代理池、模擬用戶行為等;定期更新爬蟲策略,保持對復(fù)雜反爬機制的適應(yīng)性。
3.持續(xù)完善和調(diào)優(yōu)各種爬蟲任務(wù)的監(jiān)控告警,包括技術(shù)指標(biāo)監(jiān)控和業(yè)務(wù)指標(biāo)監(jiān)控。
4.及時響應(yīng)處理各種爬蟲任務(wù)監(jiān)控告警,按要求解決恢復(fù)。
"任職要求:
1.統(tǒng)招專科以上學(xué)歷,專業(yè)不限,計算機等理工科相關(guān)專業(yè)優(yōu)先;
2.2年以上互聯(lián)網(wǎng)爬蟲開發(fā)經(jīng)驗,有海外電商/航司網(wǎng)站數(shù)據(jù)獲取經(jīng)驗優(yōu)先
3.熟悉python常用開發(fā)框架,熟悉異步編程、網(wǎng)頁抓取原理、HTTP 協(xié)議等;
4.熟練掌握主流的爬蟲框架和工具,能夠靈活運用它們進行頁面解析、數(shù)據(jù)提取和持久化存儲;
5.具備解決常見反爬蟲手段的能力,如處理js逆向、破解驗證碼、風(fēng)控繞過等優(yōu)先;
6.熟練使用mysql、redis、mongo、kafka 等中間件;
7.抗壓能力強,學(xué)習(xí)能力強優(yōu)先,具備獨立思考能力。"