職位描述
反爬蟲分布式爬蟲爬蟲開發(fā)
【崗位職責】
1、負責網絡資源的搜集、抽取、清洗、去重、分類及過濾，構建高質量的數據資源庫；
2、根據業(yè)務需求，設計并實現高效的數據采集方案，確保數據的實時性和準確性；
3、協(xié)助業(yè)務部門進行數據的更新與維護，提供數據支持及解決方案；
4、優(yōu)化采集腳本，提升數據采集效率，解決采集過程中的反爬蟲策略問題；
5、參與數據采集工具的開發(fā)以及成品數據集的制作。
【任職要求】
1、統(tǒng)招本科及以上學歷，計算機、電子信息、軟件工程等相關專業(yè)；
2、熟練掌握Python編程語言，具備扎實的編程基礎，熟悉正則表達式、XPATH、requests等技術；
3、熟悉Web前端技術，包括HTML、HTTP、JavaScript、JSON等，能夠處理動態(tài)網頁數據；
4、掌握常用數據庫操作，mongodb，mysql等
5、了解Linux開發(fā)環(huán)境，掌握基本shell命令，具備linux部署的能力；
6、有爬蟲類項目經驗優(yōu)先，熟悉常用的爬蟲框架（如Scrapy、自動化等）；
7、具備網絡資源搜集、信息抽取、文本分類等相關經驗者優(yōu)先；
8、具備良好的溝通能力和團隊協(xié)作精神，能夠獨立解決問題并承擔工作壓力。
1、負責網絡資源的搜集、抽取、清洗、去重、分類及過濾，構建高質量的數據資源庫；
2、根據業(yè)務需求，設計并實現高效的數據采集方案，確保數據的實時性和準確性；
3、協(xié)助業(yè)務部門進行數據的更新與維護，提供數據支持及解決方案；
4、優(yōu)化采集腳本，提升數據采集效率，解決采集過程中的反爬蟲策略問題；
5、參與數據采集工具的開發(fā)以及成品數據集的制作。
【任職要求】
1、統(tǒng)招本科及以上學歷，計算機、電子信息、軟件工程等相關專業(yè)；
2、熟練掌握Python編程語言，具備扎實的編程基礎，熟悉正則表達式、XPATH、requests等技術；
3、熟悉Web前端技術，包括HTML、HTTP、JavaScript、JSON等，能夠處理動態(tài)網頁數據；
4、掌握常用數據庫操作，mongodb，mysql等
5、了解Linux開發(fā)環(huán)境，掌握基本shell命令，具備linux部署的能力；
6、有爬蟲類項目經驗優(yōu)先，熟悉常用的爬蟲框架（如Scrapy、自動化等）；
7、具備網絡資源搜集、信息抽取、文本分類等相關經驗者優(yōu)先；
8、具備良好的溝通能力和團隊協(xié)作精神，能夠獨立解決問題并承擔工作壓力。
查看全部
工作地點
合肥蜀山區(qū)天源迪科科技園
相似職位
- python爬蟲工程師1.1-1.2萬
合肥 - 蜀山
安徽聚福云科技股份有限公司 - python爬蟲工程師8000-12000元
合肥 - 蜀山
合肥鼠寶信息服務有限公司 - 大數據爬蟲工程師8000-16000元
合肥 - 蜀山
安徽九聯正遠教育科技有限公司 - python爬蟲助理工程師5000-6000元
合肥 - 廬陽
安徽雅云暉智能科技有限公司
熱門公司推薦
- 霸王茶姬招聘
- 肯德基招聘
- 順豐招聘
- 美團招聘
- 京東招聘
- 餓了么招聘
- 比亞迪招聘
- 中國一汽招聘
- 北京汽車招聘
- 蔚來招聘
- 東風汽車招聘
- 長城汽車招聘
- 奇瑞汽車招聘
- 理想汽車招聘
- 長鑫存儲招聘
- 天江藥業(yè)招聘
- 藍月亮招聘
- 安踏招聘
- TCL招聘
- 海信招聘
- 聯想招聘
- ?？低曊衅?/a>
- 寧德時代招聘
- 中興招聘
- 新松招聘
- 京東方招聘
- 申通招聘
- 圓通招聘
- 中通招聘
- 百世物流招聘
- 德邦物流招聘
- 麥當勞招聘
- 星巴克招聘
- 海底撈招聘
- 蜜雪冰城招聘
- 瑞幸招聘
- 雀巢招聘
- 騰訊招聘
- 百度招聘
- 快手招聘
- 字節(jié)跳動招聘
- 新華網招聘
- 小米招聘
- 招商銀行招聘
- 中信銀行招聘
- 北京銀行招聘
- 興業(yè)銀行招聘
- 交通銀行招聘
- 建發(fā)集團招聘
- 中國移動招聘
- 中國聯通招聘
- 中國電信招聘
- 中糧集團招聘
- 國藥控股招聘
- 中廣核招聘
- 中國船舶招聘
- 強生中國招聘
- 匯豐中國招聘
- 宜家招聘
- 立邦中國招聘
- 伊利招聘
- 青島啤酒招聘
- 京港地鐵招聘
- 寶馬招聘
- 小鵬汽車招聘
- 華為招聘
- 特斯拉招聘
- 吉利招聘
- 奔馳招聘
- 海爾招聘
- 美的招聘
- 京東方招聘
- 施耐德電氣招聘
- 德邦物流招聘
職位發(fā)布者
程女士/招聘經理
剛剛活躍立即溝通
安徽九聯正遠教育科技有限公司安徽九聯正遠教育科技有限公司自2016年3月成立以來，經過精心布局，現已擁有校企合作辦學、金融培訓、無人機應用技術職業(yè)教育、人工智能等多個戰(zhàn)略布局模塊。數年來，公司深耕于金融、人工智能以及無人機應用技術職業(yè)教育十余年，與亳州學院、信陽職業(yè)技術學院、南陽農業(yè)職業(yè)學院、鶴壁職業(yè)技術學院、六安職業(yè)技術學院、滁州技師學院等院校合作開設金融科技應用、財富管理、無人機、人工智能等校企合作專業(yè)，在校學生3000余人,是“市場需求和勞動就業(yè)緊密結合，校企合作、工學結合,結構合理、形式多樣，靈活開放、自助發(fā)展,有中國特色的現代職業(yè)教育體系”的開創(chuàng)者和中堅力量。當前，主要發(fā)展人工智能板塊，業(yè)務范圍廣泛，主要包括數據采集、數據清洗、數據標注、數據質檢、數據交付等環(huán)節(jié)，目前我們擁有專業(yè)的標注團隊以及先進的標注工具，能夠高效、準確地完成各種類型的數據標注任務。目前主要有合肥、成都、西安等職場未來我們將廣泛和各種職業(yè)技術院校拓展合作空間，不斷創(chuàng)新合作模式。與此同時，我們也會不斷提高自身的技術實力與服務水平，滿足客戶日益增長的要求。
公司主頁