Senior technikai programmenedzser (Engineering) - AI eszközök és rendszerek

Stack

Feladatok

• ▹AI-infrastruktúra programok végponttól végpontig tartó szállításának tulajdonlása (modell-tanítási csővezetékek, kísérletkövetés, inferencia-kiszolgálás, éles monitorozás)
• ▹Technikai architektúra, integrációs minták és bevezetési stratégiák meghatározása új ML-rendszerekhez és eszközökhöz
• ▹Összekötő szerep a kutatás, ML-mérnökség, product és data csapatok között
• ▹Költség- és késleltetés-optimalizálás vezetése valós idejű inferencia-terhelésekre
• ▹Könnyű belső eszközök és folyamatok építése az ML-iterációs ciklusok gyorsítására
• ▹Technikai szűk keresztmetszetek azonosítása és feloldása a tanítási és kiszolgálási infrastruktúrában
• ▹Szoros együttműködés az ML-gyakorlati szakemberekkel a kutatási eredmények skálázható rendszerekké alakításához

Elvárások

• ▹Legalább 5 év programmenedzsment vagy technikai vezetői tapasztalat ML-infrastruktúrában, ML-platformokban vagy AI-eszközökben
• ▹Erős technikai tudás ML-rendszerekben, lehetőleg gyakorlati ML/rendszermérnöki tapasztalattal
• ▹Csapatközi ML-programok koordinálásának tapasztalata (tanítás → kiértékelés → kiszolgálás → monitorozás)
• ▹Bizonyított képesség ML/kutatási követelmények robusztus, skálázható infrastruktúrára fordítására
• ▹Komfortos munka bizonytalanságban, komplex technikai kompromisszumok (pontosság vs. késleltetés vs. költség) kezelésében
• ▹Kiváló kommunikáció technikai és nem-technikai stakeholderekkel

Előny

• ▹Gyakorlati tapasztalat modellkiszolgáló keretrendszerekkel (vLLM, TensorRT, TorchServe vagy hasonló)
• ▹Tapasztalat LLM vagy beszéd/hang modellek inferencia-optimalizálásában (kvantálás, desztilláció, KV-cache optimalizálás, batching)
• ▹ML kísérletkövető és verziókezelő eszközök ismerete (MLflow, Weights & Biases, DVC)
• ▹Feature store-ok, vektoradatbázisok vagy valós idejű ML-rendszerek háttere
• ▹Költségoptimalizálási ismeretek GPU/ML terhelésekhez felhőben és helyben
• ▹Tapasztalat PyTorch, CUDA, Hugging Face vagy felhőplatformok (AWS SageMaker, GCP Vertex AI, Azure ML) használatában

Soft skillek

A munkáltatóról

A Deepgram a gyorsan növekvő, billió dolláros Voice AI piac vezető platformja, valós idejű beszéd-szöveg (STT) és szöveg-beszéd (TTS) API-kat, valamint éles minőségű hangalapú AI-ügynököket biztosít. Több mint 200 000 fejlesztő és 1300+ szervezet - köztük a Twilio, Cloudflare és Sierra - épít rá megoldásokat.