Stage - Stage de Fin d'Études - Ingénieur Innovation en Intelligence Artificielle Sciences des Données Ref-Bia-37 H/F Astek

Contexte :

Les récentes avancées en intelligence artificielle sont en train de révolutionner notre rapport à l'informatique, mais introduisent également de nouveaux vecteurs d'attaques.

Les modèles d'IA, dynamiques et évolutifs, sont une nouvelle classe d'outils pouvant être exploités de manière malveillante ; d'où le besoin de stratégies de protection nouvelles. Les systèmes informatiques classiques peuvent être vulnérables à des attaques utilisant les capacités d'extrapolation et de raisonnement de ces IA, et ce dans des domaines aussi divers que l'embarqué, le réseau, en passant par le web.

Les travaux conduits visent à analyser les performances des méthodes d'apprentissage par renforcement pour l'identification de vulnérabilités informatique : cartographie des réseaux, détection d'erreurs de gestion de mémoire. Parallèlement, nous évaluerons les grands modèles de langage orientés vers le code pour anticiper et examiner les vulnérabilités et expositions critiques (CVEs). Enfin, un dernier volet s'intéressera à la sécurisation des modèles d'IA eux-mêmes.

Références

Sang H. O., Jeongyoon K., Jae H. N., et Jongyoul P. 2024. Employing Deep Reinforcement Learning to Cyber-Attack Simulation for Enhancing Cybersecurity.

Xiaotong G., Jing R., Jiangong Z., Jianxin L. et al., 2023. Automated Penetration Testing with Fine Grained Control through Deep Reinforcement Learning.

V. Ashiwal, S. Finster and A. Dawoud, 2024, LLM-based Vulnerability Sourcing from Unstructured Data

Notre apport

- En tant que membre d'une équipe projet composée d'ingénieurs Astek et sous la supervision d'un chercheur-docteur, vous aurez l'opportunité d'approfondir vos compétences en ingénierie à chaque étape du cycle de vie de l'innovation.
- Vous contribuerez à une partie des travaux de recherche et disposerez d'une vision globale de l'ensemble des travaux réalisés.
- Vous appliquerez la méthodologie Astek pour le développement de l'innovation.
- Vous enrichirez votre esprit de synthèse ainsi que votre expertise technologique. De plus, vous perfectionnerez vos compétences en matière de communication, tant à l'oral qu'à l'écrit.