AI Jailbreak és Prompt-Injection Biztonsági Szakértő

Stack

Feladatok

• ▹Haladó módszertanok tervezése és megvalósítása az AI-rendszerek biztonságának értékeléséhez, etikus jailbreakekre, LLM red teamingre, prompt injectionre és eszközhasználati visszaélési forgatókönyvekre fókuszálva
• ▹Átfogó, kereszt-domain elicitációs stratégiák létrehozása többfordulós és komplex ellenséges megkerülési minták feltárására AI-modellekben
• ▹Regressziós tesztkészletek fejlesztése, karbantartása és frissítése, amelyek szisztematikusan tesztelik a jailbreak-fogékonyságot és a prompt-injection sebezhetőségeket
• ▹Robusztus kiértékelési keretrendszerek felépítése, amelyek valós ellenséges fenyegetésekkel szemben stressztesztelik az AI-modelleket
• ▹Együttműködés technikai érdekeltekkel a biztonsági eredmények modellbiztonsági és kockázatcsökkentési fejlesztésekké alakításában
• ▹Módszertanok, eredmények és legjobb gyakorlatok dokumentálása jól strukturált írásos jelentésekben és prezentációkban technikai és nem technikai közönség számára

Elvárások

• ▹2+ év szakértelem ellenséges gépi tanulásban, LLM red teamingben, AI-biztonsági értékelésben vagy szorosan kapcsolódó biztonsági területen
• ▹Bizonyított tapasztalat etikus jailbreakekhez, prompt injectionhöz, eszközhasználati visszaéléshez vagy ellenséges AI-támadásokhoz kapcsolódó sebezhetőségek kutatásában, tesztelésében vagy feltárásában
• ▹Magas hitelesség és elismertség az AI-biztonsági vagy ellenséges ML közösségben, például publikált kutatás, nyílt forráskódú eszközök vagy konferencia-előadások révén
• ▹Kivételes írásbeli és szóbeli kommunikáció, erős fókusszal a világos dokumentációra és együttműködő problémamegoldásra

Előny

• ▹Emelt szintű diploma (PhD, MS) számítástechnikából, kiberbiztonságból, gépi tanulásból vagy releváns területről, vagy azzal egyenértékű operatív/szakmai háttér
• ▹Korábbi részvétel multidiszciplináris projektekben vagy cross-funkcionális AI-biztonsági kezdeményezésekben
• ▹Jártasság a jelenlegi LLM-architektúrákban, prompt engineering technikákban és biztonsági értékelő eszközökben

Soft skillek