Research Staff, LLMs

Stack

Feladatok

• ▹Ötletelés és együttműködés a Research Staff többi tagjával új LLM kutatási kezdeményezések meghatározásához
• ▹A szakirodalom széles körű áttekintése, az aktuális módszerek kiértékelése, osztályozása és lényegre törő összefoglalása
• ▹Kísérleti programok tervezése és lebonyolítása LLM-ekhez
• ▹Transformer (LLM) tanítási feladatok sikeres futtatása elosztott számítási infrastruktúrán, és új modellek éles bevezetése
• ▹Eredmények és összetett technikai koncepciók világos dokumentálása és bemutatása a célközönség számára
• ▹Naprakészen tartás a deep learning és az LLM-ek legújabb fejlesztéseiről és termékbeli alkalmazásaikról

Elvárások

• ▹Legalább 3 év tapasztalat alkalmazott deep learning kutatásban, a különböző neurálishálózat-típusok, architektúrák és loss-mechanizmusok alkalmazásainak és következményeinek alapos ismeretével
• ▹Igazolt tapasztalat nagy nyelvi modellekkel (LLM), beleértve az adatkurálást, az elosztott nagy léptékű tanítást, a transformer architektúra optimalizálását és az RL-t
• ▹Erős programozási tapasztalat Pythonban és PyTorchban
• ▹Tapasztalat különféle transformer architektúrákkal (auto-regresszív, sequence-to-sequence stb.)
• ▹Tapasztalat elosztott számítással és nagy léptékű adatfeldolgozással
• ▹Korábbi tapasztalat kísérleti programok lebonyolításában és az eredmények modelloptimalizálásra való felhasználásában
• ▹AI-first szemlélet: a fejlett AI-eszközök aktív használata és kísérletezés velük a napi munkában

Előny

• ▹A transformerek, causal LM-ek és alapul szolgáló architektúrájuk mély ismerete
• ▹Az LLM-ek elosztott tanítási és elosztott inferencia-sémáinak ismerete
• ▹Jártasság az RLHF címkézési és tanítási pipeline-okban
• ▹Naprakész ismeretek a legújabb LLM technikákról és fejlesztésekről
• ▹Publikált cikkek deep learning kutatás területén, különösen LLM-ekkel és mély neurális hálózatokkal kapcsolatban

Soft skillek

Amit kínálunk

• ▹Egészségügyi, fogászati és látásügyi juttatások
• ▹Éves wellness juttatás és mentális egészségügyi támogatás
• ▹Élet-, rövid és hosszú távú keresőképtelenségi (STD/LTD) biztosítás
• ▹Korlátlan szabadság (PTO), szülői szabadság és rugalmas munkarend
• ▹12 fizetett amerikai munkaszüneti nap
• ▹Negyedéves személyes produktivitási juttatás és egyszeri otthoni iroda fejlesztési támogatás
• ▹401(k) nyugdíjprogram céges hozzájárulással és adómegtakarítási programok
• ▹Tanulási/képzési juttatás, valamint részvétel előadásokon és konferenciákon
• ▹Employee Resource Groupok és AI-képzési workshopok (a juttatások régiónként eltérnek; az USA-n kívül Employer of Record modellt alkalmaznak)