L’objectif de ce cours est de présenter les avancées récentes en linguistique computationnelle rendues possibles par l’essor des grands modèles de langage (LLM). Après une introduction aux bases d’algèbre linéaire et de probabilités nécessaires à la compréhension du fonctionnement de ces modèles, nous étudierons le principe de l’architecture Transformer, brique de base des LLM. Nous verrons ensuite différentes applications de ces modèles sur des cas pratiques, implémentés en Python.
- Enseignant: Sophie Robert