Gépi tanulási mérnök, üzemeltetés (MLOps)

Stack

Feladatok

• ▹Inferencia-infrastruktúra tervezése és karbantartása generatív hangmodell-architektúrákhoz
• ▹Nagy teljesítményű inferenciamotorok bevezetése és kezelése
• ▹Szolgáltatás-telepítések vezénylése Kubernetesszel, fejlett automatikus skálázási megoldásokkal a változó terhelés hatékony kezelésére
• ▹CI/CD-pipeline-ok fejlesztése és automatizálása a modellartifaktumok és inferenciakonfigurációk teszteléséhez és telepítéséhez
• ▹Éles rendszerek monitorozása, megfigyelhetőségi gyakorlatok kialakítása a késleltetés, erőforrás-használat és modellteljesítmény követésére
• ▹Szoros együttműködés a kutatócsapatokkal a modellkiszolgálási útvonalak optimalizálásában és inferenciastratégiák értékelésében
• ▹Az inferencia teljesítményének optimalizálása streaming és kötegelt alkalmazásokhoz

Elvárások

• ▹A modern hangmodell-architektúrák (pl. TTS, ASR) és inferencia-igényeik mély ismerete
• ▹Erős gyakorlati tapasztalat Kubernetesszel, konténer-vezényléssel és automatikus skálázási stratégiák megvalósításával éles terheléseknél
• ▹Szilárd MLOps-háttér, beleértve a CI/CD-automatizálást és a skálázható felhőinfrastruktúra kezelését
• ▹Szoftverfejlesztési alapelvek ismerete, Python vagy Go használata infrastruktúra-eszközökhöz és backend szolgáltatásokhoz
• ▹Tapasztalat GPU-gyorsított inferenciával és teljesítményprofilozási technikákkal

Előny

• ▹Nagy teljesítményű inferenciamotorok (pl. Triton Inference Server, vLLM-Omni) ismerete

Soft skillek

Amit kínálunk

• ▹Versenyképes fizetés és céges részvényjuttatás (USA-ban dolgozóknak)
• ▹Orvosi, fogászati és látásbiztosítás, a díj 99,99%-át a Cantina fedezi (USA-ban dolgozóknak)
• ▹42 nap fizetett szabadság (15 szabadnap, 10 betegszabadság, 15 céges ünnepnap, 2 rugalmas ünnepnap) (USA-ban dolgozóknak)
• ▹Szülői szabadság és termékenységi támogatás (USA-ban dolgozóknak)
• ▹401(k) nyugdíjmegtakarítás (USA-ban dolgozóknak)
• ▹Havi 500 dolláros életmód-keret (USA-ban dolgozóknak)
• ▹Ingyenes ebéd és nasi az irodában dolgozóknak
• ▹One Medical tagság (USA-ban dolgozóknak)

A munkáltatóról

A Cantina Labs társas AI-cég, amely valós idejű, fejlett modelleket fejleszt a kifejezés, a személyiség és a realizmus határainak feszegetésére; zászlóshajója a Cantina társas AI-platform.