Gépi tanulási mérnök (modell-desztilláció)

Stack

Feladatok

• ▹Tudásdesztillációs pipeline-ok tervezése és megvalósítása (teacher–student, önmagából desztillálás, több tanár)
• ▹Nagy alapmodellek desztillálása kisebb, gyorsabb, olcsóbb inferenciára alkalmas modellekké
• ▹Nagyléptékű tanítási kísérletek futtatása és elemzése a minőség, késleltetés és költség közötti kompromisszumok értékeléséhez
• ▹Új desztillációs ötletek éles kóddá alakítása a kutatókkal együtt
• ▹A tanítás és az inferencia teljesítményének optimalizálása (memória, áteresztőképesség, késleltetés)
• ▹Hozzájárulás a belső eszközökhöz, kiértékelő keretrendszerekhez és kísérletkövetéshez

Elvárások

• ▹Erős gépi tanulási vagy mélytanulási háttér
• ▹Gyakorlati tapasztalat modell-desztillációval (LLM-ekkel vagy más neurális hálókkal)
• ▹A tanítási dinamika, a veszteségfüggvények és az optimalizálás alapos ismerete
• ▹PyTorch (vagy JAX) és modern ML-eszközök ismerete
• ▹Kísérletek futtatása több GPU-s vagy elosztott környezetben
• ▹A modellminőség és a teljesítmény közötti kompromisszumok mérlegelése

Előny

• ▹LLM-ek vagy nagy szekvenciamodellek desztillálásában szerzett tapasztalat
• ▹Inferencia-optimalizálás (kvantálás, pruning, kernelek)
• ▹Nyelvi modellek kiértékelésének ismerete
• ▹Nyílt forráskódú hozzájárulások vagy kutatási publikációk
• ▹Korai fázisú, gyorsan mozgó startupban szerzett tapasztalat

Soft skillek

Amit kínálunk

• ▹Valódi felelősség és közvetlen hatás a termékre
• ▹Kis, senior csapat erős kutatási és mérnöki kultúrával
• ▹Versenyképes javadalmazás és érdemi részvényjuttatás
• ▹Távmunkabarát, aszinkron működés