Rendszerarchitekt - AI/ML infrastruktúra

Stack

Feladatok

• ▹Végponttól végpontig terjedő infrastruktúra-architektúra meghatározása és vezetése az AI/ML terhelésekhez, éles inferenciára és kutatási tréningre egyaránt
• ▹Multi-cloud és hibrid infrastruktúra-stratégiák tervezése teljesítmény, megbízhatóság, költség és szállítói rugalmasság egyensúlyban tartásával
• ▹GPU- és CPU-terhelések hatékony ütemezését végző compute-orkesztrációs rendszerek architektúrájának megtervezése
• ▹Tárolási architektúrák tervezése nagy adathalmazokhoz, a nagy áteresztőképességű tréning adatfolyamoktól az alacsony késleltetésű modellkiszolgálásig
• ▹Kapacitástervezés az infrastruktúra minden dimenziójában, növekedési modellezéssel
• ▹Költségoptimalizálás és FinOps gyakorlatok vezetése, infrastrukturális kiadáscsökkentési lehetőségek azonosítása
• ▹Rugalmas, elasztikus tréning-infrastruktúra tervezése, amely nagy tréningfuttatásokhoz felskálázódik, majd az üresjárati költség minimalizálásához visszaskálázódik
• ▹Architekturális szabványok, tervfelülvizsgálati folyamatok és technikai dokumentációs gyakorlatok kialakítása
• ▹Együttműködés a mérnöki vezetéssel az infrastruktúra-stratégia és az üzleti célok összehangolásában

Elvárások

• ▹7+ év tapasztalat infrastruktúra-mérnökségben, rendszerarchitektúrában vagy nagy léptékű infrastruktúrára fókuszáló senior technikai szerepben
• ▹Bizonyított tapasztalat multi-cloud architektúrák tervezésében AWS és legalább egy másik nagy felhőszolgáltató vagy helyszíni környezet bevonásával
• ▹Mély szakértelem tárolórendszer-tervezésben (blokk-, objektum- és fájltárolás), nagy léptékű adatterhelések teljesítményhangolásával
• ▹Erős tapasztalat compute-orkesztrációban Kubernetesszel
• ▹Gyakorlati tapasztalat GPU-infrastruktúrával: beszerzés, klasztertervezés, driver- és runtime-kezelés
• ▹Kapacitástervezési és skálázási tapasztalat nagy növekedésű környezetekben
• ▹Komplex architekturális döntések világos kommunikálásának képessége technikai és nem technikai érdekeltek felé
• ▹Erős hálózati alapismeretek infrastruktúra-architektúrához kapcsolódóan

Előny

• ▹Közvetlen tapasztalat ML-tréning terhelésekhez tervezett infrastruktúra architektúrájában (elosztott tréning, nagy adathalmaz-kezelés, kísérleti infrastruktúra)
• ▹Költségoptimalizálási és FinOps háttér nagy léptékű felhő- és bare metal infrastruktúrához
• ▹Bare metal infrastruktúra üzemeltetési tapasztalata colocation létesítményekben
• ▹Hálózati architektúra-tervezési szakértelem, beleértve nagy sávszélességű GPU-összeköttetéseket és globális forgalomirányítást
• ▹Tapasztalat infrastruktúra-modellezésben és -szimulációban kapacitástervezéshez
• ▹Jártasság Slurmban, Ray-ben vagy más HPC/ML feladatütemező rendszerekben
• ▹Tápellátási, hűtési és fizikai infrastrukturális megfontolások ismerete GPU-sűrű telepítésekhez

Soft skillek

A munkáltatóról

A Deepgram a gyorsan növekvő, trillió dolláros hangalapú AI-piac vezető platformja, valós idejű beszéd-szöveg (STT) és szöveg-beszéd (TTS) API-kat, valamint éles minőségű hangügynököket kínál. Több mint 200 000 fejlesztő és 1300+ szervezet épít rá, köztük a Twilio, Cloudflare és Sierra; a cég friss Series C finanszírozással rendelkezik, és eddig több mint 50 000 év hanganyagot dolgozott fel.