AI modelloptimalizálási architekt

Stack

Feladatok

• ▹Modelloptimalizálási stratégiák architektúrájának kialakítása és szállítása, PyTorch modellek hatékony inferenciára történő átalakítására a Qualcomm gyorsítóin.
• ▹Gráf-alapú megragadás (graph capture) és telepítés vezetése PyTorch, ONNX és torch.compile segítségével, beleértve a modell-átírásokat és gráfszintű transzformációkat.
• ▹Fúziós kernelek tervezése és megvalósítása DSL-alapú megközelítésekkel (pl. Triton), fúzionált műveletek és teljesítménykritikus algoritmikus átírások lehetővé tételére.
• ▹Szoros együttműködés a fordítóprogram-, teljesítmény- és pontossági csapatokkal a lowering-stratégiák, kernel-fúzió, elrendezési döntések és futásidejű integráció közös tervezésében.
• ▹LLM/VLM/diffúziós inferencia profilozása és optimalizálása áteresztőképesség és késleltetés szempontjából, különböző batch-méretek, szekvenciahosszak és kiszolgálási módok mellett.
• ▹Transzformer-specifikus optimalizációk felelőssége: KV-cache kezelés, dekódolási viselkedés, hosszú kontextusú teljesítmény.
• ▹Folyamatos batchelés (dinamikus/iterációszintű ütemezés) engedélyezése és optimalizálása.
• ▹Elosztott inferencia-stratégiák (pl. sharding és párhuzamosítás) architektúrájának kialakítása és skálázása több magos és több eszközös rendszereken.
• ▹Újrafelhasználható megközelítések kialakítása a modelloptimalizálások új hardverarchitektúrákra való skálázásához, robusztus minták és eszközök létrehozásával.
• ▹Komplex teljesítmény- vagy stabilitási problémák visszavezetése a gyökérokra, éles megoldások kidolgozása.

Elvárások

• ▹Szakértői szintű PyTorch-ismeret és inferenciára fókuszáló modelloptimalizálási tapasztalat; erős Python mérnöki tudás.
• ▹Gyakorlati tapasztalat torch.compile/TorchDynamo vagy hasonló gráf-megragadási és fordítási munkafolyamatokkal.
• ▹Mély megértés a transzformer-architektúrákról, figyelem-mechanizmusokról (attention), MoE-król és teljesítménykompromisszumokról.
• ▹Gyakorlati tapasztalat a KV-cache viselkedésével, kiszolgálásidejű optimalizációkkal és memória/teljesítmény kompromisszumokkal.
• ▹Erős alapok számítógép-architektúrában, ML-gyorsítókban és elosztott rendszerekben.
• ▹Bizonyított képesség keresztfunkcionális technikai kezdeményezések vezetésére és tervezési döntések befolyásolására.
• ▹Mesterdiploma (MS) számítástechnika, gépi tanulás, számítástechnikai mérnöki vagy villamosmérnöki területen, vagy azzal egyenértékű tapasztalat.
• ▹Informatikai, mérnöki vagy kapcsolódó terület alapszakos diplomája és legalább 4 év hardveres, szoftveres vagy rendszermérnöki tapasztalat, VAGY mesterdiploma és 3 év tapasztalat, VAGY PhD és 2 év tapasztalat a megadott területeken.

Előny

• ▹Fúziós kernelek fejlesztése Tritonnal vagy hasonló DSL-ekkel, együttműködésben ML-fordítóprogram csapatokkal.
• ▹Ismeretség LLM kiszolgálási stackekkel és folyamatos batchelési rendszerekkel.
• ▹Háttér numerikus módszerekben, teljesítmény/pontosság kompromisszum-elemzésben vagy kiértékelési keretrendszerekben.
• ▹PhD releváns területen.

Soft skillek

Amit kínálunk

• ▹158 400–237 600 USD közötti éves alapbér-sáv.
• ▹Éves diszkrecionális bónuszprogram.
• ▹Éves RSU-juttatás lehetősége.
• ▹Versenyképes juttatási csomag.

A munkáltatóról

A Qualcomm Cloud AI csapata olyan hardver- és szoftverplatformokat fejleszt, amelyek nagy méretű alapmodellek (foundation models) hatékony inferenciáját teszik lehetővé.