AI-kutatómérnök (modelltömörítés és kvantálás) – 100% távmunka, világszerte

Stack

Feladatok

• ▹Korszerű modellkiszolgálási architektúrák tervezése és telepítése, amelyek nagy áteresztőképességet és alacsony késleltetést nyújtanak a memóriahasználat optimalizálása mellett
• ▹A pipeline-ok hatékony futásának biztosítása sokféle környezetben, beleértve az erőforrás-korlátos eszközöket és az edge-platformokat
• ▹Világos teljesítménycélok kitűzése (kisebb késleltetés, jobb tokenválasz, kisebb memóriaigény)
• ▹Kontrollált inferencia-tesztek építése, futtatása és monitorozása szimulált és éles környezetben
• ▹Kulcsmutatók (válaszkésleltetés, áteresztőképesség, memóriafogyasztás, hibaarány) követése, különös figyelemmel az erőforrás-korlátos eszközök specifikus mérőszámaira
• ▹Az iteratív eredmények dokumentálása és összevetése a meglévő benchmarkokkal a platformok közötti teljesítmény igazolására
• ▹Kiváló minőségű tesztadathalmazok és szimulációs forgatókönyvek összeállítása a valós bevezetési kihívásokhoz, különösen az alacsony erőforrású eszközökön
• ▹A számítási hatékonyság elemzése és a kiszolgálási pipeline szűk keresztmetszeteinek feltárása (pl. nem optimális batch-feldolgozás, hálózati késleltetés, magas memóriahasználat)
• ▹Együttműködés keresztfunkcionális csapatokkal az optimalizált kiszolgálási és inferencia-keretrendszerek éles pipeline-okba integrálásán, edge- és eszközön futó alkalmazásokhoz
• ▹Világos sikermutatók meghatározása, folyamatos monitorozás és iteratív finomítás

Elvárások

• ▹Számítástechnikai vagy rokon területen szerzett diploma; ideális esetben PhD NLP, gépi tanulás vagy rokon területen, erős AI K+F-háttérrel (jó publikációkkal A* konferenciákon)
• ▹A Metal Shading Language (MSL) ismerete: egyedi compute shaderek írása a nulláról
• ▹Bizonyított tapasztalat alacsony szintű kernel-optimalizálásban és inferencia-optimalizálásban mobileszközökön, mérhető késleltetés-, áteresztőképesség- és memóriajavulással
• ▹A modern modellkiszolgálási architektúrák és inferencia-optimalizálási technikák mély ismerete
• ▹Erős szakértelem GPU-kernelek írásában mobileszközökre (okostelefonokra), valamint a modellkiszolgáló keretrendszerek és motorok mély ismerete
• ▹Gyakorlati tapasztalat végponttól végpontig tartó inferencia-pipeline-ok fejlesztésében és telepítésében erőforrás-korlátos eszközökön
• ▹Bizonyított képesség empirikus kutatás alkalmazására a kiszolgálás kihívásaira (késleltetés-optimalizálás, számítási szűk keresztmetszetek, memóriakorlátok), robusztus értékelési keretrendszerek tervezése
• ▹Elosztott inferencia-rendszerek: nagy teljesítményű inferencia-motorok tervezése és optimalizálása Tensor Parallelism, Pipeline Parallelism és Expert Parallelism technikákkal GPU-klasztereken
• ▹A diffúziós modellek és a Vision Transformerek matematikájának és szerkezetének mély ismerete
• ▹A pruning, a kvantálás, a Flash attention, a KV Cache és a speculative decoding (Eagle) ismerete

Soft skillek

Amit kínálunk

• ▹100%-os távmunka világszerte

A munkáltatóról

A Tether a digitális pénzügyek területén működik: a világ egyik legmegbízhatóbb stablecoinját, az USDT-t kínálja, emellett eszköz-tokenizálási szolgáltatásokat, energiamegoldásokat, AI- és peer-to-peer technológiát (Tether Data, KEET alkalmazás) és oktatást. A csapat a világ minden tájáról dolgozik távmunkában.