← Vissza a listához
Állás

Szoftvermérnök, GPU-infrastruktúra (HPC)

Backend Developer • Remote • Teljes munkaidő • 📍 Canada

A belső infrastruktúra-csapat építi a világszínvonalú infrastruktúrát és eszközöket a Cohere alapmodelljeinek tanításához, kiértékeléséhez és kiszolgálásához; ebben a szerepben multi-cloud GPU/TPU-szuperklasztereket építesz és üzemeltetsz, 24/7-es ügyeleti rotációban.

Feladatok

  • Kubernetes-alapú GPU/TPU-szuperklaszterek telepítése és kezelése több felhőszolgáltatónál, nagy áteresztőképesség és alacsony késleltetés biztosítására
  • Együttműködés felhőszolgáltatókkal az infrastruktúra finomhangolásában a költséghatékonyság, megbízhatóság és teljesítmény érdekében (RDMA, NCCL, nagy sebességű összeköttetések)
  • Infrastrukturális szűk keresztmetszetek, teljesítménycsökkenés és rendszerhibák proaktív azonosítása és megoldása
  • Önkiszolgáló eszközök tervezése, amelyekkel a kutatók önállóan monitorozhatják, debuggolhatják és optimalizálhatják tanítási feladataikat
  • Együttműködés AI-kutatókkal az új igények (JAX, PyTorch, elosztott tanítás) megértésére és robusztus infrastrukturális megoldásokká alakítására
  • A megfigyelhetőség, automatizálás és infrastruktúra-mint-kód (IaC) gyakorlatok képviselete a szervezetben
  • Tudásmegosztás code review-kon, dokumentáción és csapatközi együttműködésen keresztül

Elvárások

  • Mély szakértelem ML/HPC-infrastruktúrában: GPU/TPU-klaszterek, elosztott tanítási keretrendszerek (JAX, PyTorch, TensorFlow), HPC-környezetek
  • Bizonyított képesség cloud-native Kubernetes-klaszterek nagy léptékű telepítésére, kezelésére és hibaelhárítására AI-terhelésekhez
  • Erős programozói tudás Pythonban (ML-eszközökhöz) és Go-ban (rendszermérnöki munkához)
  • Linux belső működésének, RDMA-hálózatoknak és ML-teljesítményoptimalizálásnak az ismerete
  • Tapasztalat AI-kutatókkal vagy ML-mérnökökkel szoros együttműködésben infrastrukturális kihívások megoldására
  • Önálló problémamegoldó képesség gyors tempójú környezetben

Soft skillek

Proaktív hibaelhárításMentorálás és tudásmegosztási kultúra ápolásaÖnálló, kezdeményező problémamegoldás

Amit kínálunk

  • Heti ebéd-hozzájárulás (75 USD/GBP vagy ennek megfelelő helyi pénznemben)
  • Teljes körű egészség- és fogászati biztosítás, külön mentális egészségügyi kerettel
  • Nyugdíj-megtakarítási hozzájárulás (RRSP/401K/nyugdíjprogram)
  • 100%-os szülői szabadság kiegészítés akár 6 hónapig, bármelyik szülőnek
  • Éves jóléti keret (kultúra, sport/wellness, munkakörnyezet-fejlesztés)
  • Képzési és konferencia-hozzájárulás
  • 6 hét fizetett szabadság (30 munkanap)
  • Utazási keret más irodákba távoli munkavégzés esetén, éves céges összejövetel
  • 500 dolláros otthoni iroda-berendezési keret

A munkáltatóról

A Cohere egy vezető, biztonság-központú vállalati AI cég, amely élvonalbeli alapmodelleket és végponttól végpontig terjedő termékeket épít valós üzleti problémák megoldására olyan vállalatok számára, amelyek AI-rendszereket fejlesztenek. A csapat kutatókból, mérnökökből és dizájnerekből áll, székhelye Torontóban és San Franciscóban van, irodái Londonban, New Yorkban, Montrealban, Szöulban, Németországban és Párizsban találhatók.

Hasonló állások