Un système de particules provenant de réseaux de neurones
Date(s) : 23/01/2024 iCal
11h00 - 12h00
Je présenterai un travail conjoint avec Borjan Geshkovski, Yury Polyanskiy et Philippe Rigollet dans lequel nous avons utilisé des outils d’équations différentielles et d’EDP pour étudier un système de particules en interaction provenant de grands réseaux de neurones très performants appelés Transformers. Je démontrerai la formation de clusters de particules quand le temps tend vers l’infini, et j’expliquerai comment des outils de théorie du contrôle géométrique permettent d’expliquer en partie la grande « expressivité » des systèmes de particules.
Emplacement
Saint-Charles - FRUMAM (2ème étage)
Catégories