ML Ops infrastruktúra mérnök

Stack

Feladatok

• ▹ML-modellfejlesztésre, validációra és deploymentre szabott CI/CD pipeline-ok tervezése és építése
• ▹Modell-deployment pipeline-ok architektúrája és karbantartása a kutatástól a staging-en át a produkcióig
• ▹A/B tesztelési infrastruktúra építése kontrollált rollout-okhoz és valós teljesítménymérésekhez
• ▹Modellteljesítmény-monitorozás implementálása: pontossági metrikák, latencia, drift-detektálás, regressziós riasztások
• ▹Automatizált újratréningelő pipeline-ok fejlesztése, amelyek adatváltozásra vagy teljesítménycsökkenésre indulnak
• ▹Produkciót tükröző build/teszt környezetek létrehozása a kutatók számára pontos visszajelzéshez
• ▹Modellverziózás, artifact-kezelés és rollback-képesség kialakítása
• ▹Együttműködés kutatómérnökökkel a modellminőségi kapuk meghatározásában és érvényesítésében
• ▹Observability dashboardok építése a modellek valós idejű állapotának átláthatóságához
• ▹Modellkiszolgáló infrastruktúra optimalizálása latencia, throughput és költséghatékonyság szempontjából

Elvárások

• ▹4+ év tapasztalat MLOps, DevOps vagy infrastruktúra-mérnöki területen, ML-rendszerekre fókuszálva
• ▹Erős Python-tudás, automatizáció és eszközfejlesztés ML-workflow-khoz
• ▹Mély tapasztalat CI/CD rendszerekkel, szoftver- és modellszállítási pipeline-okkal
• ▹Gyakorlati tapasztalat Docker és Kubernetes konténerizált workload-kezelésben
• ▹Gyakorlati tapasztalat ML-modellek éles bevezetésében és kiszolgálásában
• ▹Modellkiértékelési, validációs és minőségbiztosítási folyamatok ismerete
• ▹ML-rendszerek monitorozási és observability-elveinek ismerete
• ▹Erős problémamegoldó képesség, automatizálás felé húzó szemlélettel

Előny

• ▹Tapasztalat modellkiszolgáló keretrendszerekkel, mint az NVIDIA Triton, TensorRT vagy ONNX Runtime
• ▹Háttér beszéd-, hang- vagy valós idejű média ML-rendszerekben
• ▹Tapasztalat IaC eszközökkel, mint a Terraform vagy Pulumi
• ▹Gyakorlati tapasztalat monitorozási/observability stackekkel (Prometheus, Grafana, Datadog)
• ▹GPU-gyorsított inferencia-optimalizálás és profilozás ismerete
• ▹Tapasztalat feature store-okkal, adatverziózással vagy ML-metaadat-kezeléssel
• ▹Canary deployment stratégiák és progresszív modell-kiadás ismerete

Soft skillek

A munkáltatóról

A Deepgram a gyorsan növekvő, billió dolláros Voice AI piac vezető platformja: valós idejű API-kat kínál beszéd-szöveg (STT) és szöveg-beszéd (TTS) átalakításra, valamint éles, nagy skálázhatóságú hangalapú AI-ügynökök építésére. Több mint 200 000 fejlesztő és 1300+ szervezet épít hangalapú megoldásokat a Deepgram technológiájára, köztük a Twilio, a Cloudflare és a Sierra is. A cég friss Series C körrel a háta mögött már 50 000+ év hanganyagot dolgozott fel és 1000 milliárd szónál is többet írt át.