IMT Atlantique
Doctorat / PhD Profil chercheur : First Stage Researcher (R1) Type de contrat : Temporary Date limite de candidature : 30 Nov 2026 - 23:00 (Europe/Paris) Date de début : 1 Feb 2027 Programme UE : Not funded by a EU programme Département : Doctoral division Domaine : Computer science » Informatics
Environnement académique - Context IMT Atlantique, grande école d'ingénieurs généralistes, a pour ambition de conjuguer le numérique, l’énergie et l’environnement pour transformer la société et l’industrie par la formation, la recherche et l’innovation. L’établissement qui est présent sur trois campus (Brest, Nantes et Rennes) appartient à l'Institut Mines-Télécom et dépend du ministère l’Économie, des finances et de la souveraineté industrielle et numérique. Reconnue internationalement pour la qualité de sa recherche, les scientifiques d’IMT Atlantique accompagnent environ 300 doctorants. La thèse proposée s’inscrit dans les activités de recherche de l’équipe : SOTERN et de du laboratoire IRISA et du département SRCD. Les activités scientifiques de ce département relèvent de systèmes réseaux, cybersécurité et droit du numérique. Le candidat intégrera un environnement de recherche dynamique, international et interdisciplinaire, à la croisée des domaines suivants : apprentissage automatique cybersécurité systèmes distribués technologies de protection de la vie privée Les travaux de recherche seront menés au sein de l'équipe (nom de l'équipe) au LS2N, et porteront sur l'IA fiable et la cybersécurité des infrastructures critiques . Le doctorant bénéficiera : d'une collaboration étroite avec des partenaires industriels d'un accès à des ensembles de données et à des défis concrets en matière de cybersécurité d'opportunités de publication dans des conférences et revues de premier plan (NeurIPS, IEEE S&P, CCS, NDSS, etc.) d'une excellente ambiance de recherche et d'un encadrement de qualité IMT Atlantique , internationally recognised for the quality of its research, is a leading general engineering school under the aegis of the Ministry of Industry and Digital Technology, ranked in the three main international rankings (THE, SHANGHAI, QS). Located on three campuses, Brest, Nantes and Rennes, IMT Atlantique aims to combine digital technology and energy to transform society and industry through training, research and innovation. It aims to be the leading French higher education and research institution in this field on an international scale. With 290 researchers and permanent lecturers, 1000 publications and 18 M€ of contracts, it supervises 2300 students each year and its training courses are based on cutting-edge research carried out within 6 joint research units: GEPEA, IRISA, LATIM, LABSTICC, LS2N and SUBATECH. The proposed thesis is part of the research activities of the team: SOTERN and of the laboratory IRISA and the department SRCD. The scientific activities of this department are related to Network Systems, Cyber Security and Digital Law. The thesis is embedded in the CyberCNI Chair (Cybersecurity for Critical National Infrastructures) , one of the largest academic–industrial cybersecurity initiatives in France, bringing together major industrial stakeholders and academic experts to address real-world cybersecurity challenges. The candidate will join a dynamic, international, and interdisciplinary research environment at the intersection of: machine learning cybersecurity distributed systems privacy-enhancing technologies The research will be carried out within the (team name) at LS2N, focusing on trustworthy AI and cybersecurity for critical infrastructures . The PhD student will benefit from: close collaboration with industrial partners access to real-world cybersecurity datasets and challenges opportunities to publish in top-tier conferences and journals (NeurIPS, IEEE S&P, CCS, NDSS, etc.) an excellent research atmosphere and supervision Contexte ou état de l’art scientifique : La cybersécurité moderne évolue, passant de défenses isolées à une intelligence collaborative et distribuée. Des techniques telles que l'apprentissage fédéré (FL), l'apprentissage en essaim (SL) et l'apprentissage par transfert permettent aux organisations de former conjointement des modèles sans partager de données brutes sensibles. Cependant, ces approches reposent sur une hypothèse cruciale et largement non vérifiée : celle selon laquelle les modèles formés ne divulguent pas d'informations sensibles concernant leurs données d'entraînement. Des recherches récentes ont montré que cette hypothèse est souvent violée par : • des attaques par inversion de gradient • des attaques par inférence d'appartenance • une mémorisation involontaire Ces attaques démontrent que les modèles peuvent conserver et exposer des données sensibles, ce qui soulève des préoccupations fondamentales pour les applications dans les infrastructures critiques, où la vie privée et la confidentialité sont primordiales. Parallèlement, des techniques émergentes telles que : • la confidentialité différentielle • le désapprentissage automatique • les limites de généralisation issues de la théorie de l'information offrent des solutions partielles, mais manquent de garanties formelles et de vérifiabilité dans les environnements décentralisés. Cette thèse aborde un problème central encore en suspens : Comment définir, mesurer, atteindre et prouver l'indépendance entre les données d'entraînement et les modèles appris dans les systèmes d'apprentissage collaboratif ? Modern cybersecurity is shifting from isolated defenses toward collaborative, distributed intelligence. Techniques such as Federated Learning (FL), Swarm Learning (SL), and Transfer Learning enable organizations to jointly train models without sharing raw sensitive data. However, these approaches rely on a critical and largely unverified assumption: that trained models do not leak sensitive information about their training data. Recent research has shown that this assumption is often violated through: • gradient inversion attacks • membership inference attacks • unintended memorization These attacks demonstrate that models can retain and expose sensitive data, raising fundamental concerns for applications in critical infrastructures, where privacy and confidentiality are paramount. At the same time, emerging techniques such as: • differential privacy • machine unlearning • information-theoretic generalization bounds offer partial solutions but lack formal guarantees and verifiability in decentralized environments. This thesis addresses a central open problem: How can we define, measure, achieve, and prove independence between training data and learned models in collaborative learning systems? Objectifs de la thèse- Expected contributions of the Thesis? Cette thèse vise à établir les fondements d'une confidentialité vérifiable dans l'apprentissage automatique collaboratif, avec des contributions à la croisée de la théorie, des systèmes et de la cybersécurité. Les principales contributions attendues sont les suivantes : 1. Fondements théoriques • Définition formelle de l'indépendance données-modèle • Limites issues de la théorie de l'information (information mutuelle, stabilité) • Analyse des compromis entre confidentialité et utilité 2. Modélisation des attaques et analyse empirique • Mise en œuvre et extension de : o attaques par inversion de gradient o attaques par inférence d'appartenance o métriques de mémorisation • Identification des modes de défaillance dans des ensembles de données réels de cybersécurité 3. Quantification de la dépendance • Métriques basées sur : o fonctions d'influence o valeurs de Shapley o signaux basés sur le gradient • Détection des contributeurs à haut risque dans l'apprentissage collaboratif 4. Mécanismes de confidentialité vérifiables • Conception de protocoles de désapprentissage des machines • Intégration de preuves cryptographiques (par exemple, preuves à divulgation nulle de connaissance) • Garanties formelles de suppression et d'indépendance des données 5. Évaluation des systèmes et de la cybersécurité • Mise en œuvre dans des environnements d'apprentissage fédéré/en essaim • Évaluation sur des ensembles de données de détection d'intrusion et de cybersécurité • Comparaison avec des références en matière de confidentialité différentielle The thesis aims to establish foundations for verifiable privacy in collaborative machine learning, with contributions at the intersection of theory, systems, and cybersecurity. Key expected contributions include: 1. Theoretical Foundations • Formal definition of data–model independence • Information-theoretic bounds (mutual information, stability) • Analysis of privacy–utility trade-offs 2. Attack Modeling and Empirical Analysis • Implementation and extension of: o gradient inversion attacks o membership inference attacks o memorization metrics • Identification of failure modes in real cybersecurity datasets 3. Quantification of Dependence • Metrics based on: o influence functions o Shapley values o gradient-based signals • Detection of high-risk contributors in collaborative learning 4. Verifiable Privacy Mechanisms • Design of machine unlearning protocols • Integration of cryptographic proofs (e.g., zero-knowledge proofs) • Formal guarantees of data removal and independence 5. Systems and Cybersecurity Evaluation • Implementation in federated/swarm learning environments • Evaluation on intrusion detection and cybersecurity datasets • Comparison with differential privacy baselines Profil du candidat – Require skills: Nous recherchons un candidat exceptionnel et très motivé possédant : Exigences : • Master (ou équivalent) en : o Informatique, cybersécurité, apprentissage automatique ou domaine connexe • Solides connaissances en : o apprentissage automatique…
Talnivo calcule votre score de compatibilité CV ↔ offre et vous aide à l'améliorer avant de postuler.
Créer un compte gratuitVoir toutes les offres sur Talnivo