AI biztonsági szakértő - Red Teaming (angol és dán)

Feladatok

• ▹Konverzációs AI-modellek és ágensek red teamingje jailbreak-ek, prompt injection-ök, visszaelési esetek és torzítás-kihasználás azonosítására
• ▹Kiváló minőségű humán adat előállítása hibák annotálásával és sebezhetőségek osztályozásával
• ▹Strukturáltság biztosítása taxonómiák, benchmarkok és playbookok követésével
• ▹Megállapítások reprodukálható dokumentálása jelentések, adathalmazok és támadási esetek formájában
• ▹Önálló és aszinkron munkavégzés a határidők betartásával

Elvárások

• ▹Folyékony angol és dán nyelvtudás
• ▹Korábbi red teaming tapasztalat AI-ellenséges (adversarial) munkában, kiberbiztonságban vagy szociotechnikai vizsgálatokban
• ▹Erős kommunikációs készség kockázatok érthető magyarázatához technikai és nem technikai érdekeltek felé

Előny

• ▹Tapasztalat Adversarial ML, kiberbiztonság vagy szociotechnikai kockázatelemzés területén
• ▹Kreatív vizsgálati készségek, például pszichológia, színészet vagy írás, szokatlan ellenséges gondolkodásmódhoz

Soft skillek

Amit kínálunk

• ▹48-62 USD/óra díjazás
• ▹Teljesen távoli, szerződéses megbízás

A munkáltatóról

A Mercor kiváló kreatív és technikai szakembereket köt össze vezető AI kutatólaboratóriumokkal; székhelye San Franciscóban van, befektetői között olyan nevek szerepelnek, mint a Benchmark, a General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers és Jack Dorsey.