Talnivo
Sujet de PFE

Conception et industrialisation d’un système de traitement batch pour requêtes LLM (SaaS et Self-Hosted) avec intégration dans l’écosystème IA de l’entreprise

PwC

PwC en Tunisie propose ce sujet de PFE au sein de sa ligne de services Technology (practice Pole solution / CNO), sous la référence TAC-DIG007/27.

Description du sujet : Dans le cadre de l’industrialisation des usages d’Intelligence Artificielle Générative, les plateformes LLM proposent généralement des modes d’appel synchrones adaptés aux interactions utilisateurs, mais moins optimisés pour les traitements massifs tels que : l’enrichissement de bases documentaires ; la génération de résumés de masse ; la classification de contenus ; l’extraction d’informations structurées ; l’évaluation de jeux de données ; la création de connaissances à partir de référentiels techniques ou métiers. L’objectif du stage est d’étudier, concevoir et mettre en œuvre un système de traitement batch de requêtes LLM capable d’exécuter des milliers, voire des millions de requêtes de manière optimisée, tout en restant indépendant du fournisseur de modèle. Le système devra être capable de fonctionner aussi bien avec des offres SaaS (Azure OpenAI, OpenAI, Anthropic, Mistral, etc.) qu’avec des modèles self-hostés déployés au sein de l’entreprise. Le stagiaire réalisera un Proof of Concept (PoC) permettant : - l’orchestration des traitements batch ; - la gestion des files de requêtes ; - l’optimisation des coûts ; - le contrôle des quotas et limites des fournisseurs ; - la traçabilité des traitements ; - la collecte des métriques d’exécution ; - l’intégration avec les briques d’architecture existantes de la plateforme IA de l’entreprise. Le PoC devra démontrer la capacité de la solution à traiter efficacement un volume important de requêtes tout en garantissant résilience, observabilité et gouvernance.

Objectifs du stage : Les principaux objectifs du stage sont : - Étudier les mécanismes de traitement batch proposés par les différents fournisseurs de LLM. - Comparer les approches SaaS et Self-Hosted d’un point de vue coût, performance et gouvernance. - Concevoir une architecture générique permettant l’abstraction des différents moteurs LLM. - Développer un PoC intégrant les composants existants de la plateforme IA. - Mesurer les gains de performance et d’optimisation financière apportés par le traitement batch. - Identifier les limites techniques, fonctionnelles et opérationnelles de chaque approche. - Produire les éléments permettant une future industrialisation de la solution.

Profil recherché : - Technologies : Azure OpenAI, OpenAI, Anthropic, Mistral, Llama, Python, Rust ou TypeScript, Azure, AKS, Service Bus, Storage, Kubernetes,, Langfuse, OpenTelemetry, Grafana, APIs REST et architectures événementielles - Connaissances théoriques : Intelligence Artificielle Générative et LLM, Architecture distribuée et Cloud Native, Traitements asynchrones et systèmes de files d’attente, APIs et architectures orientées événements, Observabilité et optimisation des performances - Connaissances pratiques : Développement Python, Utilisation d’API REST, Git et gestion de code source, Docker et conteneurisation, Notions de Kubernetes et Cloud Azure, Analyse et résolution de problèmes techniques complexes en équipe

Conditions du stage : - Référence du sujet : TAC-DIG007/27 - Nombre de stagiaires : 1 - Candidature : envoyez votre CV à [email] avec en objet « Candidature PFE – Réf sujet(s) | Ligne de Services–Business Unit ou practice | Votre école | Votre spécialité | Votre nom »

Niveau : Niveau ouvert Mode : Présentiel Source : PFE Book PwC 2026-2027 (pfebooks.com)

Missions

- Réaliser un état de l’art des solutions du marché. - Concevoir l’architecture cible et les flux de traitement. - Développer le moteur de soumission et de suivi des batchs. - Intégrer les briques existantes (gateway, authentification, observabilité, stockage). - Réaliser des tests de charge et produire une analyse des résultats.

Compétences requises

📄 Générer Convention de Stage

Talnivo calcule votre score de compatibilité CV ↔ offre et vous aide à l'améliorer avant de postuler.

Créer un compte gratuit

Voir toutes les offres sur Talnivo

Inscription