← Vissza a listához

Állás
Software Engineer, Workload Enablement
Backend Developer
• Remote
• Teljes munkaidő
• 📍 San Francisco
A Scaling csapatban új platformokon validálod és teszteled a production munkaterheléseket, benchmark-okat és stresszteszteket építesz, és mélyrehatóan elemzed az elosztott tréning/inferencia teljesítményét.
Stack
Feladatok
- ▹Kulcsfontosságú inferencia- és tréningmunkaterhelések portolása és validálása új platformokra/SKU-kra, a helyesség, teljesítmény és stabilitás belső elfogadási szintre hozása
- ▹Benchmark- és stressztesztkészlet építése, amely valós végpontok közötti viselkedést mér (CPU, GPU, memóriaalrendszer, hálózat, WAN, NVLink, RDMA kollektívák, tárolás, hőháztartás)
- ▹Elosztott tréning/inferencia teljesítményének mélyreható elemzése: kollektív teljesítmény és hangolás (NCCL/RCCL), compute/kommunikáció átfedés, kernel szintű szűk keresztmetszetek
- ▹Ismételhető tesztkeretrendszerek létrehozása CI/lab környezetekhez, amelyek konkrét kimenetet adnak (pass/fail, teljesítménypontszám, regresszió-észlelés)
- ▹Együttműködés rendszer- és flotta-bring-up mérnökökkel, hogy a platform ne csak stabil és performáns, hanem üzemeltethető és skálázható is legyen
- ▹Együttműködés beszállítókkal és belső érintettekkel, világos hibajelentések és prioritizált hibalisták készítése
Elvárások
- ▹BSc informatika vagy villamosmérnöki végzettség (vagy azzal egyenértékű gyakorlati tapasztalat)
- ▹5+ év tapasztalat ML-rendszerek, teljesítménymérnökség, elosztott rendszerek vagy HPC területén
- ▹Erős, gyakorlati PyTorch és modern LLM tréning/inferencia stack tapasztalat
- ▹Nagy léptékű elosztott tréning koncepciók ismerete (adat/modell/pipeline párhuzamosítás, kollektív kommunikáció)
- ▹RDMA-tapasztalat és kommunikációs könyvtárak (NCCL vagy RCCL) hibakeresése/optimalizálása
- ▹Python jártasság, valamint teljesítménykritikus kód olvasása/írása (C++/CUDA/HIP előny)
- ▹Erős profilozási/hibakeresési készségek (Nsight, rocprof, perf, flamegraph-ok)
Előny
- ▹Munkaterhelés-alapú benchmark-ok és stressz-/hibatesztek építése, amelyek valós éles viselkedéssel korrelálnak
- ▹Jártasság RDMA-hálózatban és transzport-hangolásban
- ▹Munkaterhelések futtatásának és validálásának tapasztalata Kubernetesben
- ▹Gyakorlati lab-tapasztalat új hardverekkel (NIC-ek, GPU-k/gyorsítók, korai rackek)
A munkáltatóról
Az OpenAI mesterségesintelligencia-kutatással és -fejlesztéssel foglalkozó vállalat, amelynek célja, hogy az általános célú mesterséges intelligencia az egész emberiség javát szolgálja. A vállalat esélyegyenlőségi munkáltatóként működik, és nem tesz különbséget faj, vallás, szín, nemzeti származás, nem, szexuális irányultság, életkor, veterán státusz, fogyatékosság, genetikai információ vagy más törvényileg védett tulajdonság alapján.
Végzettség: BSc informatika vagy villamosmérnöki végzettség (vagy azzal egyenértékű gyakorlati tapasztalat)
Hasonló állások

Állás
Member of Technical Staff - GPU infrastruktúra
Prime Intellect
Langchain
+3
💰 Bér: nincs megadva
🌍 Remote
🇺🇸 San Francisco
🗣️ EN

Állás
Technikai stáb tagja (AI infrastruktúra mérnök)
Perplexity
+2
💰 Bér: nincs megadva
🏢 Helyszíni
🇺🇸 San Francisco
🗣️ EN

Állás
Technikai stáb tagja (AI inferencia mérnök)
Perplexity
AI/ML
+2
💰 Bér: nincs megadva
🏢 Helyszíni
🇺🇸 San Francisco
🗣️ EN

Állás
Software Engineer – Modellteljesítmény
Baseten
AI/ML
+1
💰 Bér: nincs megadva
🌍 Remote
🇺🇸 San Francisco
🗣️ EN

Állás
Engineering Manager – Modellteljesítmény
Baseten
AI/ML
+1
💰 Bér: nincs megadva
🌍 Remote
🇺🇸 San Francisco
🗣️ EN

Állás
Szoftvermérnök – Tréning infrastruktúra
Baseten
AI/ML
+4
💰 Bér: nincs megadva
🌍 Remote
🇺🇸 San Francisco
🗣️ EN