Embedded AI mérnök – eszközön futó modellek

Stack

Feladatok

• ▹A Deepgram beszéd- és beszélgetés-modelljeinek futtatása beágyazott, alacsony fogyasztású fogyasztói hardveren — az on-device, valós idejű következtetés architektúrájának meghatározása
• ▹Modellek optimalizálása kvantálással, pruninggal, disztillációval, operátor-fúzióval és architektúra-specifikus fordítással a késleltetési, memória-, energia- és hőbüdzsé betartásához
• ▹Teljesítménykritikus futásidejű kód írása és optimalizálása (C, C++ és/vagy Rust) beágyazott környezetekhez, beleértve a bare-metal és valós idejű operációs rendszereket (FreeRTOS, Zephyr)
• ▹Integráció iparági edge inferencia futtatókörnyezetekkel és gyártói NPU/DSP eszközláncokkal
• ▹Az eszközön futó runtime kiépítése: modellcsomagolás, telepítési folyamatok, OTA frissítési mechanizmusok, könnyű telemetria
• ▹Ismételhető benchmarking és validáció kialakítása a célhardvereken — késleltetés, pontosság, energiafogyasztás, memóriahasználat mérése
• ▹Együttműködés szilícium- és eszközgyártókkal az SDK-integráció és teljesítményhangolás terén
• ▹Együttműködés a kutatási és Engine csapatokkal az edge-barát modellarchitektúrák érdekében

Elvárások

• ▹Tapasztalat éles rendszerek szállításában erőforrás-korlátozott hardveren — beágyazott rendszerek, mobil, edge AI vagy kis, alacsony fogyasztású eszközök
• ▹Erős C, C++ és/vagy Rust ismeret, tapasztalat teljesítménykritikus kód írásában korlátozott környezetekhez
• ▹Gyakorlati tapasztalat modell-optimalizálásban eszközön történő telepítéshez (kvantálás, pruning, tudásdisztilláció, architektúra-specifikus fordítás)
• ▹Jártasság edge inferencia futtatókörnyezetekben (pl. ONNX Runtime, TensorRT, TFLite, ExecuTorch) és/vagy gyártói NPU/DSP eszközláncokban
• ▹Erős hardver-szoftver kölcsönhatás megértése — CPU/GPU/NPU/DSP architektúrák, memóriahierarchiák, fixpontos aritmetika, energiagazdálkodás
• ▹Tapasztalat a hardverhez közeli munkában: bare-metal vagy RTOS környezetek (FreeRTOS, Zephyr), beágyazott Linux, mikrokontroller és edge SoC fejlesztés
• ▹Erős kommunikációs készség és építő szemlélet

Előny

• ▹Valós idejű audiófeldolgozás beágyazott platformokon — DSP pipeline-ok, kodek-optimalizálás, ébresztőszó-felismerés
• ▹Mélyebb ML-optimalizálási technikák — egyedi kvantálási sémák, vegyes pontosságú inferencia, neurális architektúra-keresés edge célokra
• ▹Hardverértékelési és benchmarking háttér
• ▹Tapasztalat nagy léptékű AI funkciók fogyasztói termékekben történő szállításában
• ▹Jártasság modellfordítási és optimalizálási eszközláncokban
• ▹Tapasztalat biztonságos eszközön történő telepítési gyakorlatokban (kódaláírás, titkosított modelltárolás)

Soft skillek

A munkáltatóról

A Deepgram a feltörekvő, billió dolláros Voice AI piac vezető platformja, valós idejű beszédfelismerő (STT) és szövegfelolvasó (TTS) API-kkal, valamint éles minőségű hangalapú asszisztensekkel. Több mint 200 000 fejlesztő és 1300+ szervezet épít a Deepgram technológiájára, friss Series C befektetéssel a háttérben.