Hallgatói munkatárs - LLM biztonság

Stack

Feladatok

• ▹Módszerek fejlesztése az LLM-ek biztonságának növelésére, kiemelt fókusszal a backdoor-támadások és az ezekhez kapcsolódó jailbreak-ek elleni védekezésen
• ▹Az LLM-ek robusztusságának szisztematikus kiértékelése ismert és új támadási forgatókönyvekkel szemben (pl. backdoor-támadások, divergencia-támadások, tagsági-következtetési támadások)
• ▹Post-hoc magyarázhatósági módszerek vizsgálata, alkalmazása és értékelése a modellviselkedés elemzésére, a támadási mechanizmusok, illetve a védekezési stratégiák hatékonyságának és korlátainak mélyebb megértése érdekében

Elvárások

• ▹Nagyon jó Python-ismeretek (interjún ellenőrizve)
• ▹Alapvető AI/ML ismeretek, elsősorban transformer-architektúrákkal kapcsolatban
• ▹Beiratkozott hallgatói jogviszony (informatika, data science, matematika vagy hasonló)
• ▹Strukturált, önálló munkavégzés és csapatmunkára való készség
• ▹Kifejezett analitikus gondolkodás

Előny

• ▹Tapasztalat PyTorch-csal és transformer-architektúrákkal

Soft skillek

Amit kínálunk

• ▹18,06 EUR/óra bér alapképzéses, 18,78 EUR/óra mesterképzéses hallgatóknak
• ▹Rugalmas munkaidő, amely jól összeegyeztethető a tanulmányokkal
• ▹Inspiráló munkakörnyezet modern infrastruktúrával
• ▹Gyakorlati tapasztalatszerzés és értékes szakmai kapcsolatok kiépítése a kutatásban
• ▹Lehetőség tudományos publikációkban való közreműködésre, illetve szakdolgozat/diplomamunka megírására
• ▹A pozíció távmunkában vagy hibrid formában is végezhető

A munkáltatóról

A Fraunhofer SIT (Fraunhofer-Institut für Sichere Informationstechnologie) Németország és Európa egyik vezető kiberbiztonsági kutatóintézete, amely az ATHENE nemzeti alkalmazott kiberbiztonsági kutatóközpont része, célja a digitális jövő biztonságosabbá tétele.