MI-biztonsági mérnök

Stack

Feladatok

• ▹A külső modellszolgáltatóknak küldött ügyféladatok értékelése: minimalizálás, szolgáltatói kontrollok, megőrzés, naplózás, engedélyezett felhasználás
• ▹Az MI-ügynökök jogosultságait, eszközeit, műveleteit és rendszerhozzáférését korlátozó kontrollok tervezése legkisebb jogosultság és kifejezett engedélyezés elve szerint
• ▹Bérlői és felhasználói adatelkülönítés megvalósítása és tesztelése a promptokban, beszélgetési előzményekben, visszakeresésben, memóriában és MI-hez kapcsolt szolgáltatásokban
• ▹A prompt injection és a feltöltött dokumentumokon, visszakeresett tartalmon, hivatkozásokon és más nem megbízható bemeneteken át érkező közvetett injection fenyegetésmodellezése és tesztelése
• ▹Együttműködés a termék- és mérnöki csapattal a biztonságos dokumentumbetöltésen, tartalomkezelésen, kimenet-ellenőrzésen és az érzékeny műveletek jóváhagyásán
• ▹Az SC TRM és BNM RMiT támogatása az MI-technológiai kockázatoknál: értékelések, külső felek felügyelete, kontrollbizonyítékok, javítások
• ▹Biztonsági tesztek, monitorozás és reagálási eljárások építése MI-visszaélésekre, adatkitettségre, jogosulatlan műveletekre és szolgáltatói incidensekre

Elvárások

• ▹Informatikai, kiberbiztonsági, mesterséges intelligencia vagy kapcsolódó diploma, vagy azzal egyenértékű tapasztalat
• ▹Legalább 3 év tapasztalat alkalmazásbiztonságban, termékbiztonságban, biztonsági mérnöki munkában vagy MI-rendszerek biztonságában
• ▹Tapasztalat az SC TRM és BNM RMiT kontrolljainak megvalósításában vagy gondozásában, technológiai kockázatkezelésben vagy szabályozási kontrollbizonyítékok kezelésében
• ▹A harmadik féltől származó LLM-integrációk, modell-API-k, ügynökeszközök, RAG és MI-alkalmazás-architektúrák ismerete
• ▹A prompt injection, közvetett injection, felhasználók közötti adatszivárgás, túlzott ügynökjogosultságok és szolgáltatói adatkitettség kockázatainak ismerete
• ▹Programozási vagy szkriptelési tudás, lehetőleg Python és TypeScript/Node.js, valamint API-k és AWS vagy GCP ismerete

Soft skillek

A munkáltatóról

A BJAK 2019-ben indult, Délkelet-Ázsia vezető online biztosítási platformja, amely mostanra a pénzügyek más területeire (megtakarítás, befektetés, utazás) is kiterjed. A csapat több mint 20 nemzetiségű, irodákban és távolról dolgozik.