AI Adversarial Specialist - teljesen távmunka

Feladatok

• ▹Konverzációs AI modellek és ügynökök red teamelése jailbreak, prompt injection, visszaélés és torzítás-kihasználás felderítésére
• ▹Magas minőségű humán adat előállítása hibák annotálásával, sérülékenységek osztályozásával és rendszerszintű kockázatok jelzésével
• ▹Strukturált módszerek alkalmazása taxonómiák, benchmarkok és playbookok alapján a konzisztens teszteléshez
• ▹Megállapítások reprodukálható dokumentálása jelentések, adathalmazok és támadási esetek formájában
• ▹Önálló, aszinkron munkavégzés határidők betartásával

Elvárások

• ▹Folyékony angol és finn nyelvtudás
• ▹Korábbi tapasztalat red teamingben, AI adversarial munkában, kiberbiztonságban vagy szocio-technikai vizsgálatban
• ▹Kockázatok világos kommunikálásának képessége technikai és nem technikai stakeholderek felé

Előny

• ▹Tapasztalat Adversarial ML-lel, jailbreak adathalmazokkal, prompt injectionnel és modellkinyeréssel
• ▹Kiberbiztonsági háttér, például penetrációs tesztelés és exploit-fejlesztés
• ▹Szocio-technikai kockázati szakértelem, zaklatás/dezinformáció-vizsgálat és visszaélés-elemzés

Soft skillek

A munkáltatóról

A Mercor kiemelkedő kreatív és technikai tehetségeket köt össze vezető AI kutatólaborokkal; székhelye San Francisco, befektetői között a Benchmark és a General Catalyst is szerepel.