AI Infrastructure / Platform Engineer

About

Upscale Paris recherche un consultant pour accompagner un client public dans la mise en place d’un LAB IA souverain on-premise.

Votre rôle : analyser, préconiser et donner la direction technique d’une plateforme IA adaptée aux enjeux du client (coûts, performance, souveraineté).

Responsibilities

Vous intervenez sur :

• le cadrage et la définition d’architectures techniques pour l’équipe qui installe le serveur du Lab
• L’accompagnement à l’installation du serveur Lenovo
• la mise en place d’un environnement IA (Proxmox, Kubernetes, GPU)
• le déploiement de solutions d’inférence (vLLM, TGI, Ollama)
• l’intégration de briques RAG (vector DB, embeddings)
• l’optimisation des performances et des coûts

Vous accompagnez également les équipes via documentation, transmission et formation.

Environment

• Proxmox
• Ceph
• Kubernetes
• réseau L2-L7
• NVIDIA/CUDA
• vLLM
• Qdrant
• PostgreSQL
• Prometheus/Grafana
• Terraform

Profile / Requirements

Profil recherché : ingénieur infra / platform senior, avec appétence IA, capable de structurer, expliquer et orienter.

Mission Details

• Mission majoritairement remote, avec ponctuel sur site.
• Contexte secteur public.