Gépi tanulási infrastruktúra-mérnök – modellkiszolgálás

Stack

Feladatok

• ▹Skálázható Kubernetes-fürtök tervezése, telepítése és karbantartása MI-modellek következtetéséhez és betanításához
• ▹Nagy teljesítményű, alacsony késleltetésű ML-modellkiszolgáló infrastruktúra fejlesztése, optimalizálása és karbantartása
• ▹Az ML- és termékcsapatokkal együtt az MI-alapú termékek háttérinfrastruktúrájának skálázása: modellüzembe helyezés, átviteli sebesség és számítási hatékonyság
• ▹Számításigényes munkafolyamatok optimalizálása és a GPU-kihasználtság javítása ML-terheléseknél
• ▹Robusztus modell-API vezénylő rendszer építése
• ▹A vezetőséggel közösen az infrastruktúra növekedéshez igazodó skálázási stratégiájának kialakítása és megvalósítása

Elvárások

• ▹Legalább 2 év tapasztalat gépi tanulási modellek éles környezetben való építésében és üzemeltetésében
• ▹Mély ismeret a konténervezénylésről és az elosztott rendszerek architektúrájáról
• ▹Szakértői szintű Kubernetes-adminisztráció, beleértve a custom resource definitionöket, az operátorokat és a fürtkezelést
• ▹Tapasztalat API-k fejlesztésében és elosztott rendszerek kezelésében kötegelt és valós idejű terheléshez
• ▹Kiváló kommunikációs készség a kutatás és a termékfejlesztés közötti összekötő szerephez

Előny

• ▹Jártasság modellkiszolgáló keretrendszerekben, például NVIDIA Triton Server, vLLM, TRT-LLM
• ▹Jártasság ML-eszközláncokban, például PyTorch, TensorFlow, illetve elosztott betanító és következtető könyvtárakban
• ▹Ismeret a GPU-fürtök kezeléséről és a CUDA-optimalizálásról
• ▹Infrastruktúra mint kód (Terraform, Ansible) és GitOps gyakorlatok ismerete
• ▹Tapasztalat konténer-registryvel, image-optimalizálással és többlépcsős buildekkel ML-terheléshez
• ▹Tapasztalat ASR- vagy LLM-modellek vezénylésében különféle generatív MI-alkalmazásokhoz

Soft skillek

Amit kínálunk

• ▹14 fizetett ünnepnap, rugalmas fizetett szabadság fizetéses munkatársaknak
• ▹Orvosi, fogászati és látásbiztosítás a teljes munkaidős munkatársaknak és családjuknak
• ▹Havi munkáltatói HSA-hozzájárulás magas önrészes egészségbiztosítás esetén
• ▹Bőkezű fizetett szülői szabadság
• ▹Családalapítási támogatás
• ▹401(k) hozzájárulás-kiegészítés
• ▹Személyes eszközök használatára adómentes juttatás
• ▹Adózás előtti juttatások (FSA, ingázási támogatás)
• ▹Havi Lifestyle Wallet fitnesz, szakmai fejlődés, coworking és egyéb célokra
• ▹Mentálhigiénés támogatás: terápia és coaching
• ▹Fizetett szabbatikus szabadság 5 év után
• ▹Versenyképes fizetés és részvényjuttatás teljes munkaidős munkatársaknak

A munkáltatóról

Az Abridge 2018-ban alakult azzal a céllal, hogy mélyebb megértést teremtsen az egészségügyben. MI-alapú platformja orvos–beteg beszélgetéseket alakít valós időben strukturált klinikai jegyzetekké, mély EMR-integrációkkal. Irodái San Franciscóban, New Yorkban és Pittsburghben vannak.