Principal ML Ops Mérnök (EMEA, távmunka)

Stack

Feladatok

• ▹Termelési szintű modellkiszolgáló infrastruktúra építése és üzemeltetése vLLM, TGI, Triton vagy hasonló keretrendszerekkel
• ▹Megbízható deployment pipeline-ok tervezése és megvalósítása blue/green és canary bevezetési stratégiákkal ML-modellekhez
• ▹Auto-skálázó rendszerek, több modellt kiszolgáló architektúrák és intelligens kérésirányítási rétegek fejlesztése és karbantartása
• ▹GPU-kihasználtság, memóriahatékonyság, hálózati átviteli sebesség és modell-tároló teljesítmény optimalizálása
• ▹Megfigyelhetőségi rendszerek tervezése az inferencia-késleltetés, átviteli sebesség, GPU-használat, költségmutatók és rendszerállapot nyomon követésére
• ▹Modellregiszterek és CI/CD pipeline-ok kezelése automatizált, reprodukálható modell-üzembe helyezéshez
• ▹Az ML-rendszerek teljes életciklusának felügyelete a fejlesztéstől a termelésig, ügyeleti feladatokkal együtt
• ▹Mérnöki legjobb gyakorlatok meghatározása, hozzájárulás a platform skálázhatóságához

Elvárások

• ▹4+ év tapasztalat ML Ops, Platform Engineering, SRE vagy hasonló, ML-rendszerekre fókuszáló infrastruktúra szerepkörben
• ▹Gyakorlati tapasztalat modellkiszolgáló keretrendszerekkel (vLLM, TGI, Triton vagy hasonló)
• ▹Erős háttér konténer-orkesztrációban és GPU-alapú munkaterhelések termelési üzemeltetésében
• ▹Tapasztalat MLOps-eszközökkel: modellregiszterek, kísérletkövetés, automatizált deployment pipeline-ok
• ▹Python és infrastruktúra-mint-kód eszközök (Terraform, Helm vagy hasonló) ismerete
• ▹Elosztott rendszerek, teljesítményhangolás és termelési megbízhatósági mérnöki gyakorlat erős ismerete
• ▹AI kódolási asszisztensek hatékony használata
• ▹Tulajdonosi szemlélet, önálló munkavégzés remote-first környezetben

Előny

• ▹Tapasztalat ML platformokkal, mint a Kubeflow, MLflow vagy KubeAI
• ▹GPU-ütemezés, CUDA/ROCm optimalizálás vagy multi-tenant inferencia rendszerek ismerete
• ▹Költségoptimalizálási tapasztalat különböző GPU-típusok és inferencia-munkaterhelések között
• ▹Korai fázisú startupokban vagy zöldmezős infrastruktúra-projektekben szerzett háttér
• ▹Bizonyított tapasztalat termelési rendszerek nulláról történő felépítésében, nem csak örökölt platformok karbantartásában

Soft skillek

A munkáltatóról

A Pragmatike egy gyorsan növekvő, jól finanszírozott, elosztott felhőinfrastruktúra-startup számára toboroz, amely következő generációs AI-natív felhőszolgáltatásokat épít. A cég GPU-alapú infrastruktúrát biztosít AI/ML munkaterhelésekhez, biztonságos tárolást és nagysebességű adatátvitelt egy decentralizált architektúrán keresztül, amely a hagyományos felhőszolgáltatókhoz képest jelentősen csökkenti a környezeti hatást.