Stagiaire Ingénieur(e) - Détection de Données Hors Distribution (OOD) pour les Modèles de Langage de Grande Taille (LLM)

Réf. 996021 - publié le 15 octobre 2024

Informations générales

Missions

IRT Antoine de Saint Exupéry vous propose une offre de stage dans les domaines Informatique, télécom, Intelligence artificielle à Toulouse.

Au sein de l'équipe Technologies Intelligentes, tu auras pour mission d'adapter et d'étendre des méthodes de détection de données hors distribution (Out-Of-Distribution, OOD) pour les modèles de langage de grande taille (Large Language Models, LLM). Le projet comprendra :

· Réaliser un état de l'art sur les méthodes de détection OOD post-hoc pour les LLM.

· Adapter et étendre les méthodes de détection OOD développées pour la vision par ordinateur aux LLM, en utilisant notamment la librairie OODeel, développée en interne. Tu pourras également contribuer au développement de cette librairie.

· Explorer et proposer de nouvelles techniques basées par exemple sur la décomposition des caractéristiques (features) ou l'analyse par concepts.

· Valider expérimentalement les méthodes proposées sur des jeux de données pertinents.

· Documenter les travaux réalisés et contribuer à la rédaction d'un article scientifique.

Profil

Tu recherches un stage de fin d’études de niveau Bac+5 (Ingénieur, Master) en cursus Machine Learning, Mathématiques Appliquées, Informatique ou une discipline associée. Nous cherchons un.e candidat.e avec les compétences suivantes:
• Connaissances théoriques solides en Machine Learning et Deep Learning, en particulier sur les réseaux
des neurones, la descente du gradient et l’optimisation mathématique.
• Expérience avec les librairies de Deep Learning modernes, en particulier PyTorch et/ou TensorFlow.
• Familiarité avec l’écriture scientifique sur LaTex.
• Être capable de lire, écrire et s’exprimer en anglais.

Rejoins nous !

"Ne prévois pas ton futur, rends-le possible"

Postuler

Nom du recruteur : IRT Antoine de Saint Exupéry