Vezető mélytanulási szoftvermérnök, inferencia

Stack

Feladatok

• ▹mélytanulási inferencia keretrendszerek fejlesztése
• ▹SGLang és vLLM platformok bővítése
• ▹LLM és generatív AI modellek teljesítmény-optimalizálása
• ▹modellkiszolgáló csővezetékek kialakítása
• ▹nyílt forráskódú eszközök integrálása (CUTLASS, Triton, NCCL, CUDA)
• ▹együttműködés a mélytanulási közösséggel

Elvárások

• ▹MSc/PhD vagy ezzel egyenértékű tapasztalat informatikai területen
• ▹5+ év szoftverfejlesztési tapasztalat
• ▹kiváló C/C++ programozási és tervezési készség
• ▹Python tapasztalat előny

Előny

• ▹tapasztalat DL modellek betanításában és éles telepítésében
• ▹teljesítmény-profilozási és architektúra-ismeretek (CPU/GPU)
• ▹PyTorch, vLLM, SGLang projektekhez való hozzájárulás
• ▹Multi-GPU kommunikáció (NCCL, NVSHMEM)
• ▹GPU programozás (CUDA, OAI Triton, CUTLASS)

Soft skillek

Amit kínálunk

• ▹versenyképes fizetés
• ▹kiterjedt juttatási csomag
• ▹rugalmas, sokszínű munkakörnyezet

A munkáltatóról

Az NVIDIA a mesterséges intelligencia, a nagy teljesítményű számítástechnika és a vizualizáció úttörője.