Nortal sucht einen Senior AI / Machine Learning Engineer, um produktionsreife KI-Lösungen für regulierte Umgebungen zu entwickeln. Unsere Arbeit konzentriert sich darauf, Organisationen im öffentlichen Sektor und Unternehmen zu unterstützen, KI produktiv und verantwortungsvoll einzusetzen, mit einem klaren Fokus auf robuste, auditierbare Systeme.
What You'll Do
- Design von End-to-End AI-Systemarchitekturen (LLM-basiert und klassische ML-Ansätze)
- Aufbau produktionsreifer RAG-Pipelines
- Definition von Modell- und Inferenzstrategien für On-Prem-GPU-Umgebungen
- Konzeption strukturierter, auditierbarer AI-Workflows (keine generischen Chatbots)
- Sicherstellung von Reproduzierbarkeit, Observability und Traceability von AI-Outputs
What We're Looking For
- Mehrjährige praktische Erfahrung in der Entwicklung produktionsreifer AI-/LLM-Systeme
- Fundierte Kenntnisse im Bereich LLM- und NLP-Engineering
- Sehr gute Python-Kenntnisse
- Erfahrung mit Containerisierung (Docker) und Kubernetes
- Praxis in der Implementierung von RAG-Architekturen und Retrieval-Systemen
- Erfahrung mit Vektordatenbanken
- Verständnis für On-Prem-Architekturen und regulatorische Anforderungen
- Fähigkeit, Architekturentscheidungen eigenständig zu treffen
- Sehr gute Deutschkenntnisse (C1/C2, verhandlungssicher)
Nice to Have
- Erfahrung in der Arbeit mit regulierten Branchen (z. B. Public Sector, Finance, Healthcare)
- Erfahrung in der Optimierung von LLM-Inferenz auf GPU-Hardware
- Know-how in Observability- und Monitoring-Setups für AI-Systeme
- Erfahrung in der Zusammenarbeit mit Frontend-, DevOps- und IT-Teams auf Kundenseite
- Fähigkeit, technische Konzepte adressatengerecht zu vermitteln
Technical Stack
- Python
- Docker
- Kubernetes
- Vektordatenbanken
Team & Environment
Du arbeitest eng mit lokalen Teams in Deutschland und internationalen Kolleg:innen zusammen, um skalierbare, sichere und nachvollziehbare AI-Architekturen für anspruchsvolle Kundenumgebungen zu entwickeln.
Work Mode
Diese Position ist vor Ort in Deutschland.



