AI teljesítménymérnök (Cloud AI Engineering), Sr | Staff | Sr. Staff

Stack

Feladatok

• ▹Modellek konvertálása, optimalizálása és telepítése hatékony inferenciához PyTorch és ONNX segítségével.
• ▹Fejlett algoritmusok (attention mechanizmusok, MoE-k) és numerikus módszerek megértése új optimalizálási lehetőségek azonosításához.
• ▹LLM, VLM és diffúziós modellek teljesítményelemzése és optimalizálása inferenciához, átviteli sebesség és késleltetés skálázása.
• ▹A következő generációs AI-workload-ok leképezése jelenlegi és jövőbeli hardvertervekre.
• ▹Szoros együttműködés ügyfelekkel, belső compiler-, firmware- és platformcsapatokkal.
• ▹Komplex teljesítmény- vagy stabilitási problémák gyökérok-elemzése.
• ▹Mérnöki megoldások létrehozása az AI-workload-ok teljesítményének folyamatos nyomon követésére.
• ▹Magas szintű kernelek tervezése és implementálása (pl. Triton) hatékony, alacsony szintű kódért.

Elvárások

• ▹Számítástechnika, informatika, mérnöki vagy villamosmérnöki alapszak és 6+ év tapasztalat (vagy mesterdiploma és 5+ év, vagy PhD és 4+ év).
• ▹MSc számítástechnika, gépi tanulás, számítástechnika-mérnöki vagy villamosmérnöki területen.

Előny

• ▹Gyakorlati tapasztalat nyelvi modellek építésében és optimalizálásában, elsősorban PyTorch-csal és ONNX-szel, lehetőleg éles környezetben.
• ▹Alapos ismeretek transformer-architektúrákról, attention mechanizmusokról és teljesítménybeli kompromisszumokról.
• ▹Tapasztalat workload-leképezési stratégiákban (sharding, párhuzamosítási módok).
• ▹Erős Python programozási készségek.
• ▹Számítógép-architektúra, ML-gyorsítók, in-memory feldolgozás és elosztott rendszerek ismerete.
• ▹Neurális hálózati operátorok és matematikai alapok (lineáris algebra, matematikai könyvtárak) ismerete.
• ▹Gépi tanulási fordítók (compiler) ismerete.
• ▹Pontosság-konvergencia és annak kiértékelési módszereinek tapasztalata.
• ▹torch.compile vagy torchDynamo ismerete.
• ▹PhD számítástechnika, számítástechnika-mérnöki vagy gépi tanulás területen.

Soft skillek

Amit kínálunk

• ▹Éves diszkrecionális bónuszprogram.
• ▹Éves RSU-juttatás (részvényjuttatás).
• ▹Versenyképes juttatási csomag.

A munkáltatóról

A Qualcomm hagyományos vezeték nélküli technológiai erősségeit a Cloud AI fejlődésének középpontjába állítja, hardver- és szoftvermegoldásokat fejlesztve az inferenciagyorsításhoz.