国产中文无码av每日更新在线观看, 亚洲天堂中文字幕一区二区三区免费, 国产口爆吞精在线观视频-黄色国产, 92福利-国内精品久久久久久99,亚洲成AV人A片不卡无码,浪潮AV无码专区,老熟女败火白浆,中文字幕日产av,色情日本免费看大片

更新于 9月10日

(赴日)數(shù)據(jù)開發(fā)工程師 (大數(shù)據(jù)方向)

1.2-2.4萬
  • 大連甘井子區(qū)
  • 5-10年
  • 本科
  • 全職
  • 招1人

職位描述

FlinkMySQLCLICKHOUSESQL優(yōu)化
職位概述:
負責設計、構(gòu)建、優(yōu)化和維護大數(shù)據(jù)處理平臺,重點聚焦于實時數(shù)據(jù)處理和分析。精通 Apache Flink、ClickHouse 和 MySQL 是本職位的基本要求。與數(shù)據(jù)分析師及其他工程師緊密合作,為公司的關(guān)鍵業(yè)務決策和產(chǎn)品功能提供可靠、高性能的數(shù)據(jù)支持。
核心職責:
實時數(shù)據(jù)流處理:
使用 Apache Flink 設計、開發(fā)和維護高吞吐、低延遲的實時數(shù)據(jù)流處理管道。
實現(xiàn)復雜事件處理 (CEP)、流式 ETL、實時聚合計算和狀態(tài)管理。
優(yōu)化 Flink 作業(yè)性能,處理背壓,確保作業(yè)的穩(wěn)定性和容錯性。
利用 Flink CDC 或其他技術(shù),實現(xiàn)從 MySQL 等業(yè)務數(shù)據(jù)庫到大數(shù)據(jù)平臺的實時數(shù)據(jù)變更捕獲與同步。
負責 ClickHouse 集群的規(guī)劃、部署、運維、監(jiān)控和性能調(diào)優(yōu)。
設計高效的 ClickHouse 表結(jié)構(gòu) (MergeTree 引擎家族),優(yōu)化索引、分區(qū)和物化視圖。
關(guān)系型數(shù)據(jù)庫 (MySQL) 集成與應用:
深入理解業(yè)務系統(tǒng) MySQL 數(shù)據(jù)庫的 Schema 設計、數(shù)據(jù)模型和核心業(yè)務邏輯。
熟練進行 MySQL 數(shù)據(jù)庫的查詢優(yōu)化、性能調(diào)優(yōu)及問題診斷。
設計并實現(xiàn)高效、可靠的數(shù)據(jù)抽取 (Extract) 策略,將 MySQL 數(shù)據(jù)集成到大數(shù)據(jù)處理流程中(支持批量和實時 CDC 方式)。
在數(shù)據(jù)倉庫/數(shù)據(jù)湖架構(gòu)中,合理使用 MySQL 存儲維度數(shù)據(jù)、元數(shù)據(jù)或支撐特定應用場景。
理解并應用 MySQL 復制 (Replication) 機制,為數(shù)據(jù)集成提供支持。
數(shù)據(jù)處理平臺建設:
構(gòu)建和維護可靠、可擴展的數(shù)據(jù)采集、清洗、轉(zhuǎn)換、加載 (ETL/ELT) 流程,特別關(guān)注涉及 MySQL 數(shù)據(jù)源的流程。
參與設計和優(yōu)化大數(shù)據(jù)基礎架構(gòu)(涉及 Kafka, Hadoop, Spark, Hive, HBase, Redis, MySQL 等)。
確保數(shù)據(jù)處理平臺的穩(wěn)定性、高可用性和數(shù)據(jù)質(zhì)量。
數(shù)據(jù)建模與開發(fā):
根據(jù)業(yè)務需求進行數(shù)據(jù)倉庫/數(shù)據(jù)湖模型設計(維度建模、星型/雪花模型等),考慮與源系統(tǒng) MySQL 模型的映射關(guān)系。
編寫高效的數(shù)據(jù)處理腳本和程序(如 SQL (MySQL & ClickHouse 方言), Java, Scala, Python)。
性能優(yōu)化與問題排查:
持續(xù)監(jiān)控和分析數(shù)據(jù)平臺性能瓶頸,進行深入優(yōu)化(Flink 作業(yè)、ClickHouse 查詢、MySQL 查詢、數(shù)據(jù)管道)。
快速定位和解決生產(chǎn)環(huán)境中的數(shù)據(jù)延遲、數(shù)據(jù)不一致、系統(tǒng)故障等問題,包括涉及 MySQL 數(shù)據(jù)源的問題。
協(xié)作與溝通:
與產(chǎn)品工程師、分析師、業(yè)務系統(tǒng)開發(fā)團隊及業(yè)務團隊緊密合作,理解需求并提供數(shù)據(jù)解決方案。
編寫清晰的技術(shù)文檔(包括數(shù)據(jù)血緣、ETL 邏輯、MySQL 數(shù)據(jù)字典說明等),分享知識和最佳實踐。
基本任職要求:
必備技能:
精通 Apache Flink: 深刻理解 Flink 的核心概念(時間語義、窗口、狀態(tài)、容錯機制 Checkpoint/Savepoint)、API(DataStream API, Table API/SQL)及運行時架構(gòu)。具備大規(guī)模 Flink 集群作業(yè)開發(fā)、調(diào)優(yōu)和運維實戰(zhàn)經(jīng)驗。
精通 ClickHouse: 深入理解 ClickHouse 的列式存儲引擎(尤其是 MergeTree 系列)、索引原理、向量化執(zhí)行引擎。具備 ClickHouse 集群部署、管理、Schema 設計、SQL優(yōu)化及高并發(fā)查詢調(diào)優(yōu)的豐富經(jīng)驗。
精通 MySQL: 深入理解 MySQL 的 InnoDB 存儲引擎、索引原理(B+樹)、事務隔離級別、鎖機制、SQL 執(zhí)行計劃優(yōu)化。具備豐富的 MySQL 數(shù)據(jù)庫設計、復雜 SQL 編寫與調(diào)優(yōu)、性能問題診斷經(jīng)驗。熟悉 MySQL 主從復制、Binlog 機制及其在數(shù)據(jù)集成中的應用。
扎實的編程基礎: 精通 Java 或 Scala (Flink 開發(fā)首選),精通 SQL (特別是 MySQL 和 ClickHouse 的 SQL 方言與優(yōu)化技巧)。熟悉 Python 或 Shell 腳本。
經(jīng)驗要求:
本科及以上學歷,計算機科學、軟件工程、數(shù)學或相關(guān)專業(yè)。
3 年及以上 數(shù)據(jù)工程或大數(shù)據(jù)開發(fā)相關(guān)工作經(jīng)驗。
至少 1-2 年 在生產(chǎn)環(huán)境中深度使用 Flink、ClickHouse 和 MySQL 的實際項目經(jīng)驗。
核心能力:
深刻理解數(shù)據(jù)倉庫、數(shù)據(jù)湖、實時計算、OLAP 以及關(guān)系型數(shù)據(jù)庫 (OLTP) 的基本原理與應用場景。
卓越的 SQL 能力: 精通 MySQL 和 ClickHouse 的 SQL 編寫與深度優(yōu)化。
強大的問題分析、定位和解決能力,尤其是在涉及 MySQL、Flink、ClickHouse 的復雜分布式數(shù)據(jù)系統(tǒng)環(huán)境下。
具備良好的數(shù)據(jù)質(zhì)量意識、性能優(yōu)化思維和系統(tǒng)穩(wěn)定性保障能力。

工作地點

大連甘井子區(qū)浦項IT中心

職位發(fā)布者

孫明秋/人事

立即溝通
公司Logo納思達科技(大連)有限公司
納思達科技(大連)有限公司(NETSTECH)成立于 2011年,位于大連高新技術(shù)產(chǎn)業(yè)園區(qū)浦項IT中心,是株式會社ネットスターズ全資子公司。2022年在北京成立分公司。公司自主研發(fā)聚合支付系統(tǒng)“StarPay”將微信支付帶入日本,成為微信支付在日本的首批收單業(yè)務合作伙伴,從此開創(chuàng)了日本聚合支付時代。StarPay服務于日本及部分東南亞市場,從與金融機構(gòu)的合作開始,已經(jīng)擁有了超200家合作伙伴。支持所有日本國內(nèi)、國外主流二維碼支付品牌40余種,合作商戶超60萬家,牢牢占據(jù)聚合支付市場領軍地位。同時納思達為日本眾多大型企業(yè)提供高端定制化軟件開發(fā),新媒體運營,云計算大數(shù)據(jù),系統(tǒng)監(jiān)控及其他BPO等服務,目前已與騰訊、美團、日本西武崇光百貨、日本大丸松坂屋百貨、羽田機場等眾多中日知名企業(yè)建立了長期穩(wěn)定的合作關(guān)系,并成為札幌藥妝等海外知名商城在中國跨境電商代運營合作伙伴。保密承諾:本公司對收集的應聘人員個人信息資料,嚴格遵守本公司個人信息保護管理體系的相關(guān)管理制度和員工保密協(xié)議,對應聘人員提供的個人資料保守秘密,嚴防丟失、泄露、損毀的事件發(fā)生。使用目的僅限于與應聘人員聯(lián)絡、考核及入職后的管理之用,如未被錄用在本公司內(nèi)部銷毀絕,不用于它途。
公司主頁