国产中文无码av每日更新在线观看, 亚洲天堂中文字幕一区二区三区免费, 国产口爆吞精在线观视频-黄色国产, 92福利-国内精品久久久久久99,亚洲成AV人A片不卡无码,浪潮AV无码专区,老熟女败火白浆,中文字幕日产av,色情日本免费看大片

崗位職責：
設(shè)計、開發(fā)并優(yōu)化核心的大模型推理系統(tǒng)，支撐百億乃至千億參數(shù)模型的分布式推理任務。
研究與集成業(yè)界前沿的推理框架（如 vLLM, TensorRT, llama.cpp），并根據(jù)業(yè)務需求進行定制化開發(fā)與深度優(yōu)化。
深入進行CUDA編程與性能調(diào)優(yōu)，為關(guān)鍵計算路徑（如Attention、FFN）編寫高性能定制算子。
利用 Triton 編程開發(fā)和維護高效、可移植的GPU計算內(nèi)核，提升開發(fā)效率與性能，突破現(xiàn)有框架的性能限制。
構(gòu)建和優(yōu)化分布式推理框架，解決大模型跨卡、跨節(jié)點的并行推理、負載均衡和通信瓶頸問題。
負責推理系統(tǒng)的性能剖析與瓶頸定位，熟練使用 Nsight System 等工具，對推理全鏈路進行性能剖析和瓶頸定位，并實施優(yōu)化。
負責推理系統(tǒng)的穩(wěn)定性保障、資源調(diào)度和成本控制。
任職要求：
計算機科學、電子工程或相關(guān)專業(yè)碩士及以上學歷，3年以上高性能計算、GPU計算或深度學習系統(tǒng)開發(fā)經(jīng)驗，至少1年專注于大模型推理優(yōu)化。
扎實的基礎(chǔ)技能：精通C++/Python，深入理解操作系統(tǒng)、計算機體系結(jié)構(gòu)、數(shù)據(jù)結(jié)構(gòu)和算法。
大模型推理系統(tǒng)：深刻理解Transformer系列模型的架構(gòu)和推理過程。
具備豐富的CUDA開發(fā)和調(diào)試經(jīng)驗，熟悉GPU架構(gòu)和并行編程模型。
擁有強烈的性能優(yōu)化意識，具備系統(tǒng)級的性能分析、定位和調(diào)優(yōu)能力。
具備以下至少一個領(lǐng)域的深入實踐經(jīng)驗：
推理框架： 精通 vLLM、TensorRT、llama.cpp、FasterTransformer 等至少一個推理框架的內(nèi)部機制和定制化開發(fā)。
AI編譯器： 熟悉TVM、MLIR、IREE等AI編譯棧，有算子編譯經(jīng)驗。
性能優(yōu)化： 精通使用 Nsight System、Nsight Compute、py-spy等工具進行端到端的性能剖析與調(diào)優(yōu)。
對計算機體系結(jié)構(gòu)有深刻理解，尤其熟悉GPU架構(gòu)（如NVIDIA Ampere, Hopper）
出色的分析問題和解決問題的能力，對挑戰(zhàn)性技術(shù)難題充滿激情。
有經(jīng)驗優(yōu)先（加分項）：
具備以下一種或多種推理框架的定制化開發(fā)或深度優(yōu)化經(jīng)驗：
vLLM、TensorRT、llama.cpp、其他類似框架等
擁有為大模型構(gòu)建分布式推理系統(tǒng)的實際項目經(jīng)驗。
有使用 Nsight Compute, Nsight Systems 等NVIDIA性能分析工具進行深度內(nèi)核優(yōu)化和系統(tǒng)跟蹤的經(jīng)驗
熟悉AI編譯器的工作原理，并有相關(guān)開發(fā)經(jīng)驗。
熟悉常見的模型量化、稀疏化、LoRA微調(diào)等模型壓縮與加速技術(shù)。有為特定硬件移植和優(yōu)化大模型的經(jīng)驗。
在相關(guān)領(lǐng)域發(fā)表過會議論文或持有重要專利。