Senior megoldásarchitekt – nagyléptékű MI-inferencia

Stack

Feladatok

• ▹EMEA-ügyfelek támogatása nagyléptékű inferencia-terhelések telepítésében és optimalizálásában többcsomópontos GPU-klasztereken
• ▹Hatékony inferencia-pipeline-ok tervezése sűrű és ritka/látens MoE-modellekhez, akár több ezer GPU-ra elosztva
• ▹Az inferencia hatékonyságának javítása: kvantálás (INT4/FP8), spekulatív dekódolás, szétválasztott prefill/decode, KV-cache kezelés, WideEP
• ▹Együttműködés az NVIDIA termékcsapataival (Dynamo, TensorRT-LLM, NIXL) az ügyfelek sikeréért
• ▹Az inferencia-fejlesztői közösség építése workshopokkal, hackathonokkal és referenciaarchitektúrákkal EMEA-szerte

Elvárások

• ▹Informatikai, mérnöki vagy nagy teljesítményű számítástechnikai MSc/PhD, vagy egyenértékű szakmai tapasztalat
• ▹Legalább 5 év neurális hálók inferencia-optimalizálásában szerzett tapasztalat
• ▹A transzformer-inferencia optimalizálásának alapos ismerete: kvantálás, szétválasztott inferencia, spekulatív dekódolás, folyamatos kötegelés, KV-cache optimalizálás
• ▹Gyakorlati tapasztalat nagyléptékű MoE-inferenciában: expert parallelism, WideEP, all-to-all kommunikáció, útválasztási többletköltség, terheléselosztás
• ▹Mély szakmai szintű párbeszéd ML-mérnökökkel, kutatókkal és rendszerarchitektekkel

Előny

• ▹Gyakorlat az NVIDIA Dynamo, NIXL, Grove vagy hasonló szétválasztott inferencia-eszközökkel
• ▹A GPU-memóriahierarchiák és gyors összeköttetések (NVLink, InfiniBand, RDMA, UCX) ismerete
• ▹Hozzájárulás élvonalbeli MI-laborok vagy nagyléptékű MI-infrastruktúra-szolgáltatók, több ezer GPU-n futó inferenciájához
• ▹Publikációk vagy benchmarkok a nagyléptékű MI-inferencia területén

Soft skillek

Amit kínálunk

• ▹Versenyképes fizetés és átfogó juttatási csomag
• ▹Lengyelországi pozíció esetén az alapfizetési sáv 292 500 – 507 000 PLN

A munkáltatóról

Az NVIDIA a technológiai világ egyik legkeresettebb munkáltatójaként tartják számon, és elkötelezett a sokszínű munkakörnyezet mellett.