Dynabuy est une centrale d’achats qui négocie des conditions auprès de fournisseurs pour un réseau d’environ 364 000 entreprises adhérentes. Au sein du Pôle IA & Data, nous recherchons une/un élève ingénieure/ingénieur pour un stage de fin d’études ingénieur de 6 mois.
Nous exploitons en production des services d’IA générative : LLM, architectures RAG, embeddings et bases vectorielles, exposés à des utilisateurs et à des agents IA. Ces services ingèrent des contenus que nous ne maîtrisons pas : autant de surfaces d’attaque. La littérature récente montre que la robustesse native des modèles ne suffit pas : les détecteurs d’injection publiés sont contournables, l’empoisonnement d’une base de connaissances réussit avec une poignée de documents, et les outils exposés aux agents peuvent être détournés.
Le stage commence par un état de l’art des vulnérabilités propres aux systèmes LLM et RAG, des techniques d’attaque publiées et des mécanismes de protection existants. Il se poursuit par une campagne de red teaming automatisée et reproductible, exécutée avant puis après la mise en place de protections, pour mesurer objectivement ce que chacune bloque, ce qu’elle laisse passer et ce qu’elle coûte. L’objectif final est de concevoir, implémenter et déployer un dispositif de sécurisation de bout en bout, qui résiste aux attaques connues sans dégrader le service.
Vos missions
- État de l’art et modèle de menace : cartographier les vulnérabilités des systèmes LLM et RAG (injection directe et indirecte, empoisonnement, exfiltration, détournement d’outils et d’agents, fraude documentaire) et les protections publiées, puis établir le modèle de menace de nos services.
- Banc d’essai et red teaming : construire une batterie de scénarios d’attaque couvrant chaque surface exposée, automatisée avec les outils du domaine (promptfoo, garak, PyRIT ou équivalent), et mesurer l’état initial.
- Conception des défenses : combiner plusieurs familles de techniques (détection d’injections dès l’ingestion, validation déterministe des sorties, contrôles de cohérence, durcissement des interfaces, politiques de sortie) et mesurer l’apport de chacune.
- Évaluation adaptative : rejouer les attaques contre le système défendu et les faire évoluer face aux défenses. Indispensable : mesurer la performance du service avant et après chaque protection pour garantir l’absence de dégradation ou la minimiser.
- Déploiement et transfert : intégrer le dispositif retenu dans la chaîne de livraison (tests de sécurité en intégration continue, surveillance), le déployer avec l’équipe et documenter, y compris ce qui n’a pas fonctionné.