Applied ML mérnök

Stack

Feladatok

• ▹A kutatás-produkció pipeline teljes felelőssége: ismételhető út kialakítása egy működő eredménytől az éles, monitorozott szolgáltatásig
• ▹Együttműködés kutatókkal az új modellek produkciósítása során, kísérleti kód robusztus, tesztelt munkafolyamattá alakítása
• ▹Eszközök és absztrakciók építése, amelyek minimális súrlódással viszik a modelleket tréningen, kiértékelésen, csomagoláson és deploymenten keresztül
• ▹Modell-kiadási kapuk (release gates) tervezése és felügyelete: automatizált kiértékelés, regresszió-detektálás, minőség/latencia/throughput ellenőrzések
• ▹Modellek és serving optimalizálása produkciós környezetre: hatékony inferencia, batching, memória- és latenciahangolás
• ▹A build/delivery réteg megerősítése GPU-compute és felhő környezetekben egyaránt
• ▹Konzisztens benchmarking és validáció kialakítása a fejlesztéstől a produkcióig
• ▹Visszacsatolási hurok kiépítése: éles modellviselkedés instrumentálása és az insightok visszajuttatása a kutatáshoz

Elvárások

• ▹Erős szoftverfejlesztési alapok, Python-jártasság, produkciós minőségű, tesztelt ML-kód írása
• ▹Gyakorlati tapasztalat ML-modellek kutatásból/prototípusból nagy skálájú produkcióba viteléhez
• ▹A modern deep learning stack (pl. PyTorch) ismerete, nagy modellek tréningje/kiértékelése/kiszolgálása
• ▹Tapasztalat ML-pipeline-ok és eszközök építésében: tréning-orchestráció, kiértékelő keretrendszerek, modellcsomagolás, CI/CD
• ▹Serving és inferencia-optimalizálási ismeretek: latencia, throughput, batching, erőforrás-hatékonyság
• ▹Komfortos munkavégzés elosztott rendszerekkel és GPU-compute-tal (felhő, bare metal vagy mindkettő)
• ▹Együttműködő, építő szemlélet, bizonytalan problémák behatárolása és mérhető eredményre vitele

Előny

• ▹Konkrét tapasztalat a kutatás-produkció átadási folyamatban
• ▹Háttér beszéd-, hang- vagy más valós idejű/streaming ML-területen
• ▹Tapasztalat automatizált modellkiértékelő és release-gating rendszerek tervezésében
• ▹Hibrid infrastruktúra ismerete (helyszíni GPU-klaszterek és felhő)
• ▹Inferencia-optimalizálási tapasztalat (kvantálás, desztilláció, fordítás, runtime hangolás)
• ▹Bizonyított eredmény belső platformok/eszközök építésében, amelyek mérhetően javították a csapat modellszállítási sebességét

Soft skillek

A munkáltatóról

A Deepgram a gyorsan növekvő, billió dolláros Voice AI piac vezető platformja: valós idejű API-kat kínál beszéd-szöveg (STT) és szöveg-beszéd (TTS) átalakításra, valamint éles, nagy skálázhatóságú hangalapú AI-ügynökök építésére. Több mint 200 000 fejlesztő és 1300+ szervezet épít hangalapú megoldásokat a Deepgram technológiájára, köztük a Twilio, a Cloudflare és a Sierra is. A cég friss Series C körrel a háta mögött már 50 000+ év hanganyagot dolgozott fel és 1000 milliárd szónál is többet írt át.