Senior ML mérnök (Token Factory)

Stack

Feladatok

• ▹LLM inferencia szűk keresztmetszetek azonosítása és termelési gyorsítás elérése
• ▹Maximális teljesítmény kihozatala széles LLM architektúra körből nagy léptékben (pl. GPT-OSS, Kimi K2.5, DeepSeek V3.1/V3.2, GLM-5)
• ▹Inferencia motorok támogatása: spekulatív dekódolási architektúrák implementálása, LLM tervezési komponensek optimalizálása, hozzájárulás nyílt forráskódú inferencia motorokhoz
• ▹Alacsony pontosságú (FP8, NVFP4/MXFP4) tanítási és inferencia pipeline-ok tervezése és termelésbe állítása

Elvárások

• ▹Mély elméleti alapok a gépi tanulásban és a transzformer architektúrában
• ▹Tapasztalat GPU workloadok profilozásában (Nsight, PyTorch profiler vagy hasonló eszközök)
• ▹A GPU memóriahierarchia és a számítás/memória kompromisszumok ismerete
• ▹Jártasság az LLM térben fontos fogalmakban: MHA, RoPE, KV-cache, Flash Attention, kvantizáció
• ▹Nagy neurális hálózatok tanításának teljesítményi vonatkozásai (sharding stratégiák, egyedi kernelek, hardveres funkciók)
• ▹Erős szoftverfejlesztői készségek (főleg Python)
• ▹Mély tapasztalat modern mélytanulási keretrendszerekkel
• ▹Jártasság kortárs szoftverfejlesztési gyakorlatokban: CI/CD, verziókezelés, unit tesztelés
• ▹Erős kommunikációs és vezetői képességek

Előny

• ▹Tapasztalat nyílt forráskódú inferencia motorokkal (vLLM, SGLang, TensorRT-LLM), beleértve hozzájárulásokat
• ▹Tapasztalat kernel nyelvekkel vagy DSL-ekkel, mint Triton, Cute, CUTLASS, CUDA
• ▹Termékfejlesztési és -szállítási tapasztalat dinamikus, startup-szerű környezetben
• ▹Nagy elosztott rendszerek vagy magas terhelésű webszolgáltatások fejlesztésében szerzett tapasztalat
• ▹Nyílt forráskódú projektek, amelyek bemutatják a mérnöki tudást
• ▹Kiváló angol nyelvtudás, magas szintű írásbeli és szóbeli kommunikáció

Soft skillek

Amit kínálunk

• ▹Versenyképes kompenzáció
• ▹Karrier növekedési és tanulási lehetőségek
• ▹Rugalmasság és tulajdonjog
• ▹Együttműködő és innovatív kultúra
• ▹Lehetőség hatásos AI projekteken dolgozni
• ▹Nemzetközi környezet és tehetséges csapatok

A munkáltatóról

A Nebius egy teljes körű AI felhőplatformot épít, amely fejlesztőket és vállalatokat támogat az adatoktól és modelltanítástól a termelési bevezetésig. A Nasdaqon jegyzett (NBIS), amszterdami székhelyű cég 1500+ fős csapattal, kutatás-fejlesztési központokkal Európában, az Egyesült Királyságban, Észak-Amerikában és Izraelben.