1. 大模型產(chǎn)品安全風(fēng)險(xiǎn)評(píng)測(cè):對(duì)于公司大模型產(chǎn)品的架構(gòu)、功能及應(yīng)用場(chǎng)景有基礎(chǔ)了解,運(yùn)用專業(yè)知識(shí)和經(jīng)驗(yàn),對(duì)大模型生成內(nèi)容進(jìn)行全面的安全風(fēng)險(xiǎn)評(píng)測(cè)。通過(guò)系統(tǒng)性的測(cè)試用例設(shè)計(jì),檢測(cè)模型輸出是否存在安全風(fēng)險(xiǎn)。
2. 工具運(yùn)用與創(chuàng)新:熟練掌握各類大模型工具及相關(guān)輔助評(píng)測(cè)工具,善于運(yùn)用其進(jìn)行高效的內(nèi)容安全分析。同時(shí),積極探索和嘗試新的工具和技術(shù)應(yīng)用于評(píng)測(cè)工作,提高評(píng)測(cè)效率和質(zhì)量。
3. 風(fēng)險(xiǎn)報(bào)告與溝通協(xié)作:對(duì)評(píng)測(cè)過(guò)程中發(fā)現(xiàn)的安全風(fēng)險(xiǎn)進(jìn)行詳細(xì)記錄和分析,對(duì)于評(píng)測(cè)數(shù)據(jù)認(rèn)真負(fù)責(zé),能夠根據(jù)業(yè)務(wù)標(biāo)準(zhǔn),準(zhǔn)確的對(duì)于case進(jìn)行評(píng)估,及時(shí)發(fā)現(xiàn)安全風(fēng)險(xiǎn)問(wèn)題
4. 數(shù)據(jù)監(jiān)測(cè)與趨勢(shì)分析:建立并維護(hù)內(nèi)容安全數(shù)據(jù)監(jiān)測(cè)機(jī)制,定期收集和分析評(píng)測(cè)數(shù)據(jù)。通過(guò)數(shù)據(jù)分析洞察大模型內(nèi)容安全風(fēng)險(xiǎn)的變化趨勢(shì),為前瞻性的安全策略制定提供數(shù)據(jù)支持。及時(shí)發(fā)現(xiàn)潛在的安全隱患和異常情況,提前預(yù)警并采取相應(yīng)措施。
職位要求
任職要求
教育背景:本科及以上學(xué)歷,計(jì)算機(jī)科學(xué)、新聞相關(guān)專業(yè)優(yōu)先。
工作經(jīng)驗(yàn):有內(nèi)容安全相關(guān)工作經(jīng)驗(yàn),有大模型產(chǎn)品安全評(píng)測(cè)經(jīng)驗(yàn)者優(yōu)先。熟悉內(nèi)容安全領(lǐng)域的常見風(fēng)險(xiǎn)和應(yīng)對(duì)措施,對(duì)大模型技術(shù)有深入理解,了解其數(shù)據(jù)處理、訓(xùn)練機(jī)制及潛在安全風(fēng)險(xiǎn)點(diǎn)。
其他要求
- 具備較強(qiáng)的文字功底,能夠準(zhǔn)確理解和解讀文本內(nèi)容,對(duì)文字中的潛在風(fēng)險(xiǎn)有敏銳的洞察力。擅長(zhǎng)撰寫專業(yè)的評(píng)測(cè)報(bào)告和文檔,表達(dá)清晰、邏輯嚴(yán)謹(jǐn)。
- 掌握一定的數(shù)據(jù)分析方法和工具,能夠通過(guò)數(shù)據(jù)分析發(fā)現(xiàn)安全問(wèn)題和趨勢(shì)。
- 具備良好的溝通協(xié)作能力,能夠與不同部門的團(tuán)隊(duì)成員有效合作,共同解決問(wèn)題。
- 具備較強(qiáng)的學(xué)習(xí)能力和適應(yīng)能力,能夠快速掌握新知識(shí)和新技術(shù),適應(yīng)大模型行業(yè)快速發(fā)展的需求。