Állás · Principal

Member of Technical Staff - GPU infrastruktúra

Egyéb • Principal • Hibrid • Teljes munkaidő • Amerikai Egyesült Államok San Francisco, USA

A Prime Intellect ügyfélközpontú GPU-infrastruktúra mérnököt keres, aki nagy teljesítményű GPU-klasztereket tervez, telepít és üzemeltet ügyfelei számára LLM-tréninghez, inferenciához és HPC-munkaterhelésekhez.

Feladatok

  • ▹Együttműködés ügyfelekkel a munkaterhelési igények megértéséhez és az optimális GPU-klaszter architektúrák tervezéséhez
  • ▹Technikai javaslatok és kapacitástervezés készítése 100-tól 10 000+ GPU-s klaszterekig
  • ▹Telepítési stratégiák kidolgozása LLM-tréning, inferencia és HPC munkaterhelésekhez
  • ▹Architekturális javaslatok bemutatása technikai és vezetői érdekelteknek
  • ▹Orchestrációs rendszerek (SLURM, Kubernetes) telepítése és konfigurálása elosztott munkaterhelésekhez
  • ▹Nagy teljesítményű hálózat (InfiniBand, RoCE, NVLink) megvalósítása
  • ▹GPU-kihasználtság, memóriakezelés és node-közi kommunikáció optimalizálása
  • ▹Párhuzamos fájlrendszerek (Lustre, BeeGFS, GPFS) konfigurálása az optimális I/O teljesítményhez
  • ▹Rendszerteljesítmény hangolása a kernel-paraméterektől a CUDA-konfigurációkig
  • ▹Elsődleges technikai eszkalációs pontként szolgálás ügyfél-infrastrukturális problémáknál
  • ▹Komplex problémák diagnosztizálása és megoldása hardver, driver, hálózat és szoftver szinten
  • ▹Monitorozási, riasztási és automatizált helyreállítási rendszerek bevezetése
  • ▹24/7-es ügyeleti támogatás nyújtása kritikus ügyfél-telepítésekhez
  • ▹Runbookok és dokumentáció készítése ügyfél-üzemeltetői csapatok számára

Elvárások

  • ▹3+ év gyakorlati tapasztalat GPU-klaszterekkel és HPC-környezetekkel
  • ▹Mély jártasság SLURM és Kubernetes rendszerekben éles GPU-környezetben
  • ▹Bizonyított InfiniBand-konfigurációs és hibaelhárítási tapasztalat
  • ▹Erős NVIDIA GPU-architektúra, CUDA-ökoszisztéma és driver-stack ismeret
  • ▹Tapasztalat infrastruktúra-automatizálási eszközökkel (Ansible, Terraform)
  • ▹Jártasság Pythonban, Bash-ben és rendszerprogramozásban
  • ▹Bizonyított ügyfélkapcsolati technikai vezetői tapasztalat
  • ▹NVIDIA driver telepítési és hibaelhárítási ismeret (CUDA, Fabric Manager, DCGM)
  • ▹Konténer futtatókörnyezet konfigurálása GPU-khoz (Docker, Containerd, Enroot)
  • ▹Linux kernel-hangolás és teljesítményoptimalizálás
  • ▹Hálózati topológia tervezése AI-munkaterhelésekhez
  • ▹Energia- és hűtési követelmények ismerete nagy sűrűségű GPU-telepítésekhez

Előny

  • ▹Tapasztalat 1000+ GPU-s telepítésekkel
  • ▹NVIDIA DGX, HGX vagy SuperPOD tanúsítvány
  • ▹Elosztott tréning keretrendszerek ismerete (PyTorch FSDP, DeepSpeed, Megatron-LM)
  • ▹ML keretrendszer optimalizálás és profilozás
  • ▹Tapasztalat AMD MI300 vagy Intel Gaudi gyorsítókkal
  • ▹Nyílt forráskódú HPC/AI infrastruktúra projektekhez való hozzájárulás

Soft skillek

Ügyfélközpontúság és technikai vezetői készségPrecíz, problémamegoldó hozzáállás nagy téttel bíró éles környezetekben

Amit kínálunk

  • ▹150-300 ezer dollár közötti fizetés, plusz részvényjuttatás

A munkáltatóról

A Prime Intellect a nyílt szuperintelligencia-stacket építi: azt az infrastruktúrát teszi elérhetővé minden ambiciózus AI-csapat számára, amit a frontier AI-laborok belsőleg használnak. A Lab platform egyesíti a számítási kapacitást, a környezeteket, a kiértékeléseket, a biztonságos sandboxokat, a nagy teljesítményű tréninget és az üzembe helyezést egyetlen full-stack rendszerben. A céget vezető befektetők - köztük a Founders Fund, a Radical Ventures és az NVIDIA - támogatják.

Hasonló állások