AI-biztonsági szakértő - red team

Feladatok

• ▹Beszélgető AI-modellek és ágensek red teamingje jailbreakek, prompt injectionök és visszaélési esetek feltárására
• ▹Kiváló minőségű emberi adat előállítása a hibák annotálásával, a sebezhetőségek osztályozásával és a rendszerszintű kockázatok jelzésével
• ▹Következetes tesztelés taxonómiák, benchmarkok és playbookok alapján
• ▹Reprodukálható dokumentáció: jelentések, adathalmazok és támadási esetek, amelyekre az ügyfelek építeni tudnak
• ▹Önálló, aszinkron munka a határidők tartásáért és az AI-modellek teljesítményének javításáért

Elvárások

• ▹Folyékony angol és dán nyelvtudás
• ▹Korábbi red teaming tapasztalat AI-ellenséges (adversarial) munkában, kiberbiztonságban vagy társadalmi-technikai vizsgálatokban
• ▹Erős kommunikációs készség a kockázatok érthető elmagyarázásához műszaki és nem műszaki érintetteknek
• ▹Képesség a projektek és ügyfelek közti váltásra

Előny

• ▹Adversarial ML tapasztalat: jailbreak-adathalmazok, prompt injection, RLHF/DPO-támadások, modellkinyerés
• ▹Kiberbiztonsági készségek: penetrációs tesztelés, exploitfejlesztés, reverse engineering
• ▹Társadalmi-technikai kockázatok ismerete: zaklatás- és dezinformáció-vizsgálat, visszaélés-elemzés, beszélgető AI tesztelése
• ▹Kreatív tesztelési készség: pszichológia, színjátszás, írás a szokatlan, ellenséges gondolkodáshoz

Soft skillek

Amit kínálunk

• ▹Távmunka
• ▹Órabér: 48-62 USD

A munkáltatóról

A Mercor kiemelkedő kreatív és műszaki tehetségeket kapcsol össze vezető AI-kutatólaborokkal. A székhelye San Franciscóban van.