Kutatómérnök

Stack

Feladatok

• ▹Nagy léptékű tréning- és inferencia-munkaterhelések optimalizálása GPU-kon, gyorsítókon és elosztott rendszereken
• ▹Közvetlen együttműködés ügyfelekkel: munkaterhelések elemzése, szűk keresztmetszetek azonosítása, teljesítmény és megbízhatóság javítása
• ▹Inferencia-pipeline-ok, modellkiszolgáló rendszerek és teljesítmény-orientált eszközök fejlesztése éles AI-munkaterhelésekhez
• ▹Profilozó, hibakereső és observability-eszközök tervezése és megvalósítása modellvégrehajtás elemzésére
• ▹Munka a teljes szoftverstacken, hogy a teljesítményjavítások tiszta API-kon és automatizáláson keresztül elérhetők legyenek
• ▹Együttműködés hardvergyártókkal és ökoszisztéma-partnerekkel a hatékony végrehajtás támogatásában (NVIDIA, TPU, új gyorsítók)
• ▹Hozzájárulás nyílt forráskódú projektekhez: új funkciók, eszközfejlesztés, dokumentáció, közösségi részvétel

Elvárások

• ▹Erős szakértelem mélytanulási keretrendszerekben, elsősorban PyTorch
• ▹Tapasztalat nagy léptékű tréning vagy inferencia munkaterhelésekkel
• ▹Ismeretség elosztott rendszerekkel és párhuzamosítási stratégiákkal (data/model/pipeline parallelism, checkpointing, elasztikus skálázás, elosztott inferencia)
• ▹Erős szoftvermérnöki alapok: API-tervezés, eszközépítés, komplex rendszerek hibakeresése, éles minőségű kód szállítása
• ▹Tapasztalat teljesítmény-szűk-keresztmetszetek elemzésében és javításában ML-rendszerekben vagy elosztott munkaterhelésekben
• ▹Kiváló együttműködési és kommunikációs készségek, kereszt-funkcionális és külső partnerekkel is
• ▹Képesség bizonytalan, gyorsan változó környezetben, a stack több rétegén átívelő munkavégzésre
• ▹Alapképzés (BSc) informatika, mérnöki vagy kapcsolódó területen

Előny

• ▹Tapasztalat inferencia-optimalizálási technikákkal: kvantálás, speculative decoding, mixed precision, memóriahatékony tréning, throughput/latency optimalizálás
• ▹Tapasztalat technológiákkal: CUDA, Triton, TensorRT, vLLM, SGLang, Dynamo vagy hasonló ML-rendszer/inferencia-eszközök
• ▹Hozzájárulás nyílt forráskódú ML-, infrastruktúra- vagy AI-rendszer projektekhez
• ▹Startup-tapasztalat vagy erősen kereszt-funkcionális környezetben szerzett tapasztalat
• ▹MSc vagy PhD fokozat AI, gépi tanulás, rendszerek vagy kapcsolódó területen

Soft skillek

Amit kínálunk

• ▹Becsült éves alapbér 120 000-250 000 USD tartományban, diszkrecionális bónusszal és jelentős részvényjuttatással
• ▹Teljes körű orvosi, fogászati és látásbiztosítás (USA); magán orvosi és fogászati biztosítás (UK)
• ▹Nyugdíj- és pénzügyi jólléti támogatás (USA); nyugdíjhozzájárulás (UK)
• ▹Bőkezű fizetett szabadság és ünnepnapok
• ▹Fizetett szülői szabadság
• ▹Szakmai fejlődési támogatás
• ▹Wellness és otthoni munkavégzési keret
• ▹Rugalmas munkavégzési környezet

A munkáltatóról

A Lightning AI a PyTorch Lightning mögött álló vállalat, amely 2019 óta épít end-to-end platformot AI-rendszerek fejlesztésére, tréningezésére és üzembe helyezésére. A Voltage Parkkal történt egyesülés után fejlesztői-központú szoftvert kombinál költséghatékony, nagy léptékű számítási kapacitással. Irodái New Yorkban, San Franciscóban, Seattle-ben és Londonban vannak, olyan befektetők támogatják, mint a Coatue, az Index Ventures, a Bain Capital Ventures és a Firstminute.