Talnivo
Sujet de PFE

AI & ODA - REF 10 - Plateforme de gouvernance et de sécurité pour l’IA générative (AI Gateway et Guardrails)

Ooredoo Tunisie

Type de contrat : Stage

Direction/Track: Technologie — Département: AI & ODA Mission:

• Concevoir une plateforme centrale entre les applications et les LLM pour : point d’accès unique, politiques de sécurité, traçabilité, coûts et qualité :

• Étude des risques de l’IA générative et architecture cible

• Passerelle unique : authentification, routage multi-modèles, quotas, répartition de charge

• Politiques de sécurité : masquage des données sensibles, détection d’injections de prompt, filtrage

• Journalisation et audit des requêtes et réponses

• Suivi des coûts et de la performance par équipe et application

• Évaluation continue de la qualité et red teaming automatisé

• Console d’administration : politiques, clés, budgets, alertes

• Déploiement sur cluster, entièrement automatisé

Compétences/Technologies: Python, vLLM, LiteLLM, FastAPI, Presidio, NeMo Guardrails, Langfuse, Redis, PostgreSQL, Docker, Kubernetes, Vault, Terraform, Ansible. Programme: stage rémunéré avec immersion, mentorat et projets réels.

Source : Hi Talents (hi-talents.com)

Missions

• Concevoir une plateforme centrale entre les applications et les LLM pour : point d’accès unique, politiques de sécurité, traçabilité, coûts et qualité :

• Étude des risques de l’IA générative et architecture cible

• Passerelle unique : authentification, routage multi-modèles, quotas, répartition de charge

• Politiques de sécurité : masquage des données sensibles, détection d’injections de prompt, filtrage

• Journalisation et audit des requêtes et réponses

• Suivi des coûts et de la performance par équipe et application

• Évaluation continue de la qualité et red teaming automatisé

• Console d’administration : politiques, clés, budgets, alertes

• Déploiement sur cluster, entièrement automatisé

Compétences requises

📄 Générer Convention de Stage

Talnivo calcule votre score de compatibilité CV ↔ offre et vous aide à l'améliorer avant de postuler.

Créer un compte gratuit

Voir toutes les offres sur Talnivo

Inscription