崗位職責(zé):
1. 負(fù)責(zé)數(shù)據(jù)預(yù)處理,構(gòu)建完整的數(shù)據(jù)準(zhǔn)備流程;
2. 針對業(yè)務(wù)場景優(yōu)化大模型參數(shù),提升準(zhǔn)確率與效率;
3. 設(shè)計(jì)實(shí)驗(yàn)方案驗(yàn)證調(diào)優(yōu)效果,跟蹤模型在真實(shí)場景中的表現(xiàn);
4. 制定測試計(jì)劃,驗(yàn)證調(diào)優(yōu)后的模型表現(xiàn);
5. 收集用戶使用反饋,分析模型缺陷并設(shè)計(jì)改進(jìn)方案。
崗位要求:
1. 需要具備大模型微調(diào)技能和落地項(xiàng)目經(jīng)驗(yàn),熟練使用transformers/trl/peft/DeepSpeed;
2. 需要具備大模型應(yīng)用經(jīng)驗(yàn),需要具備RAG和tool_call項(xiàng)目經(jīng)驗(yàn)。熟練使用langchain/langgraph,針對于流式輸出、結(jié)構(gòu)化輸出、多輪對話、及長文本應(yīng)用具有一定經(jīng)驗(yàn);
3. 具備大模型部署經(jīng)驗(yàn),熟練使用VLLM部署;
4. 需具備一些基礎(chǔ)的后端能力(主要為python),如milvus、redis、mysql、mongdb、FastAPI等;
5. 加分項(xiàng):
有圖像方面經(jīng)驗(yàn)和算法基礎(chǔ);
熟悉機(jī)器學(xué)習(xí)算法及其數(shù)據(jù)處理和特征工程;
熟悉多目標(biāo)優(yōu)化算法及其常用的庫;
具備C++編程能力、cmake編譯和圖像模型服務(wù)器及嵌入平臺部署能力(會tensorRT/ncnn等)。