IT-Mitarbeiter (m/w/d) - KI in der IT

**TUM Klinikum / Rechts der Isar** **IT-Mitarbeiter (m/w/d) - KI in der IT** **Voll- oder Teilzeit | unbefristet | Geschäftsbereich Informationstechnologie (GBIT)** **Ihre Aufgaben:** - Aufbau, Betrieb und Skalierung von LLM‑Plattformen und On‑Prem GPU‑Clustern für LLM‑Workloads (NVIDIA) - Monitoring von Token‑Durchsatz, Latenzen, GPU‑Auslastung und Kosten - Aufbau von Hybrid‑Architekturen (Cloud + On‑Prem) - Umsetzung von Compliance‑, Datenschutz‑ und AI‑Governance‑Vorgaben - Enge Zusammenarbeit mit Data Scientists, KI‑Entwicklern und Fachbereichen - Beratung bei Modellwahl, Architekturentscheidungen und Einsatzszenarien sowie Bewertung neuer LLM‑Technologien und Frameworks **Ihr Profil:** - Abgeschlossenes Studium der Informatik, Data Science oder vergleichbare Qualifikation - Erfahrung mit mindestens einer Cloud‑Plattform (Azure, AWS oder GCP), idealerweise mit Managed AI Services oder GPU‑Instanzen - Sehr gute Kenntnisse in Infrastructure as Code (Terraform, Bicep, o. Ä.), Containerisierungs-Technologien und Linux-Administration - Erfahrung mit LLM‑Inference‑Stacks (z. B.: vLLM, TGI, Triton Inference Server, Ray) und/oder Kenntnisse in LLMOps / MLOps (z. B.: MLflow, Kubeflow, Hugging Face, Weights & Biases) sind wünschenswert - Von Vorteil ist ein gutes Verständnis von RAG‑Architekturen, Vektordatenbanken und Prompting‑Strategien - Sehr gute Deutsch- (mind. C1 Niveau) und gute Englischkenntnisse (mind. C1 Niveau) **Wir bieten Ihnen:** - EGYM-Wellpass, Corporate Benefits, sowie Rabatte (z.B. Käfer), Mensa, Sport- und Kulturangebote, Jobrad - Arbeiten im Herzen Münchens am Max-Weber-Platz mit sehr guter Erreichbarkeit durch öffentliche Verkehrsmittel wie U-Bahn, S-Bahn oder Tram - Betriebliche Altersvorsorge über die Versorgungsanstalt des Bundes und der Länder (VBL) - Selbstverwirklichung durch eine abwechslungsreiche und fachlich anspruchsvolle Tätigkeit mit interdisziplinärer Zusammenarbeit verschiedener Abteilungen des TUM Klinikum Rechts der Isar **Wir freuen uns darauf Sie kennenzulernen!** **Kontakt: Frau Gabriele Ziehnert | 089 / 4140 –4369 | Geschäftsbereich Informationstechnologie (GBIT)** Geschäftsbereich Informationstechnologie (GBIT) TUM Klinikum Rechts der Isar Ismaninger Straße 22 81675 München Schwerbehinderte Bewerber\*innen werden bei ansonsten im Wesentlichen gleicher Eignung bevorzugt berücksichtigt. Bewerbungskosten können leider nicht erstattet werden.