AI biztonsági szakértő – távmunka

Feladatok

• ▹Ellenséges (adversarial) promptok tervezése a frontier AI-modellek stressztesztelésére
• ▹Jailbreakek, nem biztonságos viselkedések, hallucinációk és irányelv-sértések azonosítása
• ▹A modellek robusztusságának értékelése félretájékoztatás, kiberbiztonság, biológiai biztonság, csalás, politikai tartalom és más érzékeny területeken
• ▹A feltárt sérülékenységek dokumentálása, közreműködés a biztonsági benchmarkokban és red teaming jelentésekben
• ▹Együttműködés AI-kutatókkal a modellek illesztésének, robusztusságának és biztonságának javításáért

Elvárások

• ▹BSc vagy magasabb végzettség informatika, kiberbiztonság, újságírás, kommunikáció, pszichológia, biológia, kémia vagy közpolitika területén
• ▹Legalább 5 év szakmai tapasztalat AI-biztonság, AI red teaming, trust & safety, kiberbiztonság, oknyomozó újságírás vagy élettudományok területén
• ▹Erős elemzőkészség, jártasság promptok tervezésében és jó írásbeli kommunikáció
• ▹Tapasztalat ellenséges promptok tervezésében vagy frontier AI-rendszerek értékelésében

Előny

• ▹Tapasztalat AI red teaming, RLHF, SFT, AI alignment vagy trust & safety területen
• ▹Jártasság jailbreak-tesztelésben, prompt engineeringben vagy ellenséges kiértékelési módszertanokban
• ▹Szakértelem kiber-, biológiai biztonsági, politikai tartalmi, félretájékoztatási vagy tudományos biztonsági, szürkezónás területeken

A munkáltatóról

A Mercor élvonalbeli kreatív és technikai szakembereket köt össze vezető AI-kutatólaborokkal; székhelye San Franciscóban van, befektetői között olyan nevek szerepelnek, mint a Benchmark, a General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers és Jack Dorsey.