AI backend mérnök (ügynök-rendszerek)

Stack

Feladatok

• ▹Backend rendszereket épít, tart karban és üzemeltet, amelyek az AI-alapú funkciókat működtetik éles környezetben
• ▹AI-inferencia csővezetékeket, orkesztrációs rétegeket és szolgáltatás-architektúrákat tervez és valósít meg az AI-modellek köré
• ▹Skálázható, nagy teljesítményű API-kat fejleszt, amelyek zökkenőmentesen integrálódnak a frontend alkalmazásokkal és gépi tanulási rendszerekkel
• ▹Optimalizálja a rendszerteljesítményt: inferencia-késleltetés, átviteli sebesség, gyorsítótárazás, batching és streamelés javítása
• ▹Felelős az éles üzemeltetésért, beleértve a monitorozást, naplózást, riasztást és incidenskezelést
• ▹Hibákat hárít el elosztott rendszerekben a szolgáltatás megbízhatósága és stabilitása érdekében
• ▹Folyamatosan fejleszti a backend architektúrát és az éles rendszereket üzemeltetési tapasztalatok alapján
• ▹Együttműködik kereszt-funkcionális csapatokkal megbízható, skálázható, magas minőségű AI-megoldások szállításáért

Elvárások

• ▹Erős backend mérnöki tapasztalat éles környezetekben
• ▹Bizonyított tapasztalat nagy áteresztőképességű, alacsony késleltetésű backend szolgáltatások építésében és üzemeltetésében
• ▹Tapasztalat skálázható API-k és elosztott rendszerek tervezésében
• ▹Jártasság AI-inferencia mintázatokban, beleértve a nagy nyelvi modelleket (LLM), embeddingeket és multimodális AI-rendszereket
• ▹Erős hibakeresési és hibaelhárítási készségek elosztott éles környezetekben
• ▹Bizonyított képesség éles megoldások szállítására, valós rendszerteljesítmény alapján iterálva

Előny

• ▹Python
• ▹Node.js
• ▹PyTorch
• ▹OpenAI, Anthropic vagy nyílt forráskódú nagy nyelvi modellek (LLM)
• ▹SQL és NoSQL adatbázisok
• ▹Kubernetes
• ▹Docker

Soft skillek

A munkáltatóról

Az ügyfelünk egy stealth üzemmódban működő AI-startup, amelyet Délkelet-Ázsia egyik vezető technológiai vállalata támogat, és jelenleg globális alapító csapatát építi. Egy AI-natív kommunikációs platformot fejlesztenek, amely a mindennapi feladatokat közvetlenül a beszélgetésekbe épített AI-val egyszerűsíti le, így a felhasználóknak nem kell váltaniuk a különböző alkalmazások között.