国产中文无码av每日更新在线观看, 亚洲天堂中文字幕一区二区三区免费, 国产口爆吞精在线观视频-黄色国产, 92福利-国内精品久久久久久99,亚洲成AV人A片不卡无码,浪潮AV无码专区,老熟女败火白浆,中文字幕日产av,色情日本免费看大片

該職位已失效,看看其他機會吧

推理部署工程師

2.5-5萬
  • 深圳南山區(qū)
  • 3-5年
  • 本科
  • 全職
  • 招1人

職位描述

C++嵌入式技術(shù)PyTorch數(shù)據(jù)分析人工智能
崗位職責(zé): 1) 大模型推理優(yōu)化:負(fù)責(zé)LLM(如GPT、LLaMA等)的高效推理框架開發(fā),優(yōu)化計算圖、算子融合、KV Cache管理等關(guān)鍵技術(shù); 2) 國產(chǎn)硬件適配:針對華為昇騰GPU、鯤鵬CPU等國產(chǎn)硬件平臺,優(yōu)化模型推理性能,適配AI推理卡(如Atlas系列); 3) 低延遲部署:優(yōu)化端到端推理Pipeline,降低P99延遲,提升吞吐量,支持高并發(fā)在線服務(wù); 4) 推理框架開發(fā):熟悉主流AI推理框架(如TensorRT、ONNX Runtime、vLLM、DeepSpeed-Inference等),并能進(jìn)行定制化開發(fā); 5) CUDA/異構(gòu)計算:深入優(yōu)化GPU/NPU計算,利用CUDA、CUTLASS等工具進(jìn)行高性能算子開發(fā); 6) 模型量化與壓縮:實現(xiàn)FP16/INT8量化、模型剪枝、LoRA適配等技術(shù),提升推理效率。 崗位要求: 1) 熟悉大模型(LLM)推理優(yōu)化技術(shù),如動態(tài)批處理(Dynamic Batching)、PagedAttention、連續(xù)批處理(Continuous Batching)等; 2) 精通CUDA編程,熟悉GPU/NPU架構(gòu),有算子優(yōu)化或高性能計算(HPC)經(jīng)驗; 3) 熟悉主流AI推理框架(TensorRT、ONNX Runtime、Triton Inference Server等),并能進(jìn)行二次開發(fā); 4) 有國產(chǎn)硬件(昇騰GPU、鯤鵬CPU、寒武紀(jì)等)適配經(jīng)驗,熟悉CANN(華為AI計算架構(gòu))或相關(guān)工具鏈; 5) 熟悉模型量化(FP16/INT8)、剪枝、蒸餾等輕量化技術(shù); 6) 熟練使用Python/C++,熟悉Linux環(huán)境及Shell腳本,具備良好的工程化能力。
查看全部

工作地點

南山區(qū)深圳灣創(chuàng)新科技中心-T2棟20樓

職位發(fā)布者

薛顯維/人事經(jīng)理

剛剛活躍
立即溝通
公司Logo深圳市科思科技股份有限公司
深圳市科思科技股份有限公司(股票代碼:688788)成立于2004年2月27日,是一家專注于從事電子信息裝備研究、開發(fā)、制造、銷售于一體的高新技術(shù)企業(yè),擁有芯片、設(shè)備、系統(tǒng)等電子信息裝備產(chǎn)品研制能力。公司產(chǎn)品主要為指揮控制信息處理設(shè)備、軟件雷達(dá)信息處理設(shè)備、便攜式無線指揮終端、其他信息處理終端等一系列信息化裝備,應(yīng)用領(lǐng)域涉及指揮控制、通信、防化、測繪、氣象等。公司持續(xù)致力于電子信息裝備的研制,堅持在計算機與網(wǎng)絡(luò)、通信、計算機軟件、云計算、芯片設(shè)計等領(lǐng)域持續(xù)進(jìn)行研發(fā)投入,在信息處理、數(shù)據(jù)傳輸、數(shù)據(jù)管理、數(shù)據(jù)存儲、智能無線通信、智能云等方面積累了具有自主知識產(chǎn)權(quán)的核心技術(shù)。公司將始終秉承“科學(xué)精神思想創(chuàng)造”的理念,在電子信息領(lǐng)域不斷進(jìn)行研究和技術(shù)攻關(guān),用高品質(zhì)的產(chǎn)品和服務(wù)滿足顧客需求。公司榮譽:國家高新技術(shù)企業(yè)深圳500強企業(yè)南山區(qū)‘綠色通道’企業(yè)廣東省專精特新中小企業(yè)全國工商聯(lián)科技裝備業(yè)商會副會長單位擁有廣東省省級智能無線通信工程技術(shù)研究中心公司福利: 1、彈性工作制; 2、足額繳納五險一金:養(yǎng)老、醫(yī)療、生育、工傷、失業(yè)和住房公積金; 3、享有國家規(guī)定的法定節(jié)假日,帶薪年假(入職當(dāng)年即開始享有)等各類假期; 4、豐富的員工活動,每周羽毛球、籃球等活動,不定期的員工團(tuán)建活動,在工作之余,體驗多樣的休閑時光; 5、年度體檢,公司每年度為員工提供一次免費的身體健康檢查,并有多家醫(yī)療機構(gòu)可供選擇; 6、零食福利,在忙碌的工作中,公司會提供多種“能量補給”,助力你完成每一個工作成就; 7、公司提供人才引進(jìn)辦理服務(wù),同時員工有機會享有人才住房及人才住房補貼。
公司主頁