Principal gépi tanulási mérnök

Stack

Feladatok

• ▹Végpontok közötti gépi tanulási csővezetékeket épít és felügyel: adatfeldolgozás, modelltanítás, kiértékelés, inferencia, bevezetés
• ▹Modelleket finomhangol és adaptál modern technikákkal (LoRA, QLoRA, felügyelt finomhangolás/SFT, közvetlen preferencia-optimalizálás/DPO, modell-desztilláció)
• ▹Skálázható inferencia-rendszereket tervez és üzemeltet, a késleltetés, költség és megbízhatóság egyensúlyában
• ▹Adatcsatornákat fejleszt és tart karban szintetikus és valós tanítási adathalmazokhoz
• ▹Kiértékelési kereteket épít a modellteljesítmény, robusztusság, biztonság és torzítás felmérésére a kutatócsapattal együttműködve
• ▹Optimalizálja az éles bevezetéseket GPU-optimalizálással, memóriahatékonysággal, késleltetés-csökkentéssel és skálázási stratégiákkal
• ▹Együttműködik az alkalmazásfejlesztő csapatokkal a gépi tanulási rendszerek backend, mobil és desktop alkalmazásokba integrálásában
• ▹Folyamatosan javítja az ML-rendszereket gyors iterációval és valós idejű teljesítménymonitorozással

Elvárások

• ▹Erős háttér a mélytanulásban és a transzformer-alapú architektúrákban
• ▹Gyakorlati tapasztalat nagyméretű gépi tanulási modellek tanításában, finomhangolásában vagy éles bevezetésében
• ▹Jártasság modern gépi tanulási keretrendszerekben (PyTorch vagy JAX)
• ▹Tapasztalat elosztott tanítási és inferencia-keretrendszerekkel, pl. DeepSpeed, FSDP, Megatron, ZeRO vagy Ray
• ▹Erős szoftverfejlesztői készségek robusztus, karbantartható, éles minőségű rendszerek építéséhez
• ▹Tapasztalat GPU-terhelések optimalizálásában, memóriahatékonyságban, kvantálásban és vegyes pontosságú számításokban
• ▹Képesség önállóan felelni végpontok közötti gépi tanulási rendszerekért gyors ütemű környezetben

Előny

• ▹LLM-inferencia keretrendszerek, mint a vLLM, TensorRT-LLM vagy FasterTransformer
• ▹Nyílt forráskódú hozzájárulások gépi tanulási vagy rendszerkönyvtárakhoz
• ▹Tudományos számítástechnika, fordítóprogram-technológiák vagy GPU-kernel fejlesztés
• ▹RLHF-csővezetékek tapasztalata (PPO, DPO, ORPO)
• ▹Multimodális vagy diffúziós modellek tanítása vagy bevezetése
• ▹Nagyméretű adatfeldolgozó keretrendszerek, mint az Apache Arrow, Spark vagy Ray

Soft skillek

A munkáltatóról

Az ügyfelünk egy stealth üzemmódban működő AI-startup, amelyet Délkelet-Ázsia egyik vezető technológiai vállalata támogat, és jelenleg globális alapító csapatát építi. Egy AI-natív kommunikációs platformot fejlesztenek, amely a mindennapi feladatokat közvetlenül a beszélgetésekbe épített AI-val egyszerűsíti le, így a felhasználóknak nem kell váltaniuk a különböző alkalmazások között.