Senior AI / LLM Engineer (m/w/d)

About

Für den Aufbau und die Weiterentwicklung einer unternehmensweiten GenAI-Plattform suchen wir eine erfahrene technische Fachperson im Bereich Generative AI, RAG-Systeme und Cloud Engineering. Die Rolle ist stark technisch geprägt und kombiniert Software Engineering, Cloud-Architektur sowie MLOps in einer produktionskritischen Umgebung.

Project

Für den Aufbau und die Weiterentwicklung einer unternehmensweiten GenAI-Plattform suchen wir zwei erfahrene technische Fachperson im Bereich Generative AI, RAG-Systeme und Cloud Engineering. Die Rolle ist stark technisch geprägt und kombiniert Software Engineering, Cloud-Architektur sowie MLOps in einer produktionskritischen Umgebung.

Responsibilities

• Entwicklung und Implementierung von produktionsreifen GenAI-Lösungen, insbesondere auf Basis von Retrieval-Augmented Generation (RAG)
• Aufbau, Betrieb und Weiterentwicklung von skalierbaren Datenpipelines, APIs und AI-Services
• Integration von LLM-basierten Anwendungen in bestehende Unternehmenssysteme in Echtzeit
• Zusammenarbeit mit Cloud Engineers, Data Engineers, Data Scientists und DevOps-Teams zur Überführung von Prototypen in produktive Lösungen
• Implementierung von Monitoring-, Observability- und Tracing-Mechanismen (z. B. OpenTelemetry, LLM-Tracing)
• Kontinuierliches Fine-Tuning, Monitoring und Optimierung von GenAI-Modellen im produktiven Umfeld
• Sicherstellung von Skalierbarkeit, Stabilität, Security und Business Alignment

Requirements

• Mindestens 5 Jahre Erfahrung in einer Business-Engineering- oder vergleichbaren Schnittstellenfunktion zwischen Business und IT
• Tiefgehendes Verständnis von Generative AI und RAG-Architekturen sowie Erfahrung in Prompt- und Context Engineering
• Praktische Erfahrung mit AI-Frameworks wie LangChain, LangFuse und NeMo Guardrails (AI von Vorteil)
• Sehr gute Kenntnisse im Cloud Engineering auf Microsoft Azure, insbesondere Azure AI Foundry, Azure AI Search, Azure App Service und Azure Container Apps
• Erfahrung im Aufbau und Betrieb von CI/CD-Pipelines, automatisierten Deployments und DevOps-Prozessen
• Fundierte Erfahrung in der Entwicklung von APIs sowie der Integration von AI/LLM-Modellen in produktive Systeme
• Kenntnisse in LLM Observability, Monitoring und OpenTelemetry
• Erfahrung im Aufbau sicherer und skalierbarer Cloud-Architekturen, inklusive vNET, Firewall, Load Balancer sowie TLS/SSL- und Zertifikatsmanagement
• Sehr gute Programmierkenntnisse in (sehr stark) und Java, ergänzt durch Erfahrung mit NodeJS und Angular (optional) sowie Scripting in Bash und PowerShell
• Erfahrung in Testautomatisierung sowie kontinuierlicher Validierung von AI- und GenAI-Systemen
• Grundverständnis in Statistik, Feature Engineering und Modellbewertung

Languages

• Deutsch: C2
• Englisch: B2

Job Details

• Reference nr: 924945MH
• Job: 2 x Senior AI / LLM Engineer(m/w/d)
• Region: Zürich und Region
• Utilization: 100% (Hybrid only within Switzerland)
• Start:
• End Date:

About Us

ITech Consult is an ISO 9001:2015 certified company with branches in Germany and Ireland. ITech Consult specializes in the placement of IT candidates for contract work. We were founded in 1997 by IT professionals and therefore know how important professional support is when searching for and working on projects.