Calculs de réservoirs à complexité réduite par approches à retards // Reduced-complexity reservoir computing via time-delay approaches
ABG-126543
ADUM-59505 |
Sujet de Thèse | |
29/10/2024 |
Université Paris-Saclay GS Informatique et sciences du numérique
Gif sur Yvette Cedex - France
Calculs de réservoirs à complexité réduite par approches à retards // Reduced-complexity reservoir computing via time-delay approaches
Calculs de réservoir , Réseaux de neurones, Systèmes à retards, Equations aux différences
Reservoir Computing, Neural networks, Time-delay systems, Difference equations
Reservoir Computing, Neural networks, Time-delay systems, Difference equations
Description du sujet
Le calcul de réservoirs est une technique d'apprentissage automatique généralement appliquée pour apprendre des paramètres à
partir de données temporelles, comme la prédiction de séries temporelles ou la reconnaissance vocale. Elle consiste à utiliser le signal
temporel à analyser comme entrée d'un système dynamique non linéaire appelé réservoir. La sortie du réservoir, qui se trouve
généralement dans un espace de dimension supérieure à celle du signal d'entrée, est ensuite utilisée comme entrée d'un processus
d'apprentissage simple, tel qu'une régression linéaire ou un petit réseau neuronal. Les systèmes dynamiques utilisés comme réservoirs
doivent satisfaire à certaines propriétés qualitatives pour être utiles à l'apprentissage : ils doivent être non linéaires, avoir une certaine
forme de 'mémoire à court terme' pour traiter les données temporelles, filtrer efficacement le bruit et être capables de fournir des
sorties suffisamment différentes pour des entrées appartenant à des classes différentes, mais sans être trop sensibles aux variations
d'entrée pour que les sorties des signaux d'une même classe restent similaires. En raison de ces propriétés souhaitées, les 'bons'
réservoirs sont généralement des systèmes qui sont à la 'limite du chaos'. Ainsi, les systèmes à retards sont de bons candidats pour
être des réservoirs, et leur utilisation à cette fin a été exploitée dans certains travaux récents, qui utilisent l'avantage supplémentaire de
leur implémentation en tant que circuits optoélectroniques afin d'éviter le temps de calcul dû aux simulations numériques.
Cette thèse a pour but d'utiliser des techniques issues de l'analyse des systèmes à retards afin de construire des systèmes non
linéaires pouvant être de potentiels réservoirs. Inspirés par l'idée de rechercher des systèmes au 'bord du chaos', nous étudierons des
classes de systèmes non linéaires et adapterons leurs paramètres pour garantir une dynamique suffisamment riche.Nous porterons
une attention particulière aux systèmes à retards de type neutre, et nous nous concentrerons d'abord sur le type le plus simple de
systèmes de type neutres, les équations aux différences.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Reservoir computing is a machine learning technique usually applied in order to learn features from temporal data, such as time series
prediction and voice recognition. It consists of using the time signal to be analyzed as an input to a nonlinear dynamical system called
the reservoir. The output of the reservoir, which is typically in a higher-dimensional space than that of the input signal, is then used as
an input to a simple learning process, such as a linear regression or a small neural network. Dynamical systems used as reservoirs in
reservoir computing must satisfy some qualitative properties in order to be useful for learning: they must be nonlinear, have some form
of ``short-term memory'' to treat temporal data, efficiently filter noise, and be capable of giving sufficiently different outputs for inputs
belonging to different classes, but without being too sensitive to variations in input for the outputs of signals of a same class to remain
similar. Due to these desired properties, ``good'' reservoirs are usually systems that are at the ``edge of chaos''. Time-delay systems
are good candidates for being reservoirs, and their use for this purpose was exploited in some recent works , which make use of the
additional advantage of their implementability as optoelectronic circuits in order to avoid computation time due to numerical simulations .
This thesis aims to use techniques coming from the analysis of time-delay systems in order to build nonlinear time-delay systems that
are well-suited for being reservoirs in reservoir computing. Inspired by the idea of looking for systems at the ``edge of chaos'', we will
study classes of nonlinear systems and adapt their parameters to guarantee sufficiently rich dynamics. We will pay particular attention to
time-delay systems of neutral type, and we will focus first on the simplest type of systems of neutral type, difference equations.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Début de la thèse : 01/10/2025
partir de données temporelles, comme la prédiction de séries temporelles ou la reconnaissance vocale. Elle consiste à utiliser le signal
temporel à analyser comme entrée d'un système dynamique non linéaire appelé réservoir. La sortie du réservoir, qui se trouve
généralement dans un espace de dimension supérieure à celle du signal d'entrée, est ensuite utilisée comme entrée d'un processus
d'apprentissage simple, tel qu'une régression linéaire ou un petit réseau neuronal. Les systèmes dynamiques utilisés comme réservoirs
doivent satisfaire à certaines propriétés qualitatives pour être utiles à l'apprentissage : ils doivent être non linéaires, avoir une certaine
forme de 'mémoire à court terme' pour traiter les données temporelles, filtrer efficacement le bruit et être capables de fournir des
sorties suffisamment différentes pour des entrées appartenant à des classes différentes, mais sans être trop sensibles aux variations
d'entrée pour que les sorties des signaux d'une même classe restent similaires. En raison de ces propriétés souhaitées, les 'bons'
réservoirs sont généralement des systèmes qui sont à la 'limite du chaos'. Ainsi, les systèmes à retards sont de bons candidats pour
être des réservoirs, et leur utilisation à cette fin a été exploitée dans certains travaux récents, qui utilisent l'avantage supplémentaire de
leur implémentation en tant que circuits optoélectroniques afin d'éviter le temps de calcul dû aux simulations numériques.
Cette thèse a pour but d'utiliser des techniques issues de l'analyse des systèmes à retards afin de construire des systèmes non
linéaires pouvant être de potentiels réservoirs. Inspirés par l'idée de rechercher des systèmes au 'bord du chaos', nous étudierons des
classes de systèmes non linéaires et adapterons leurs paramètres pour garantir une dynamique suffisamment riche.Nous porterons
une attention particulière aux systèmes à retards de type neutre, et nous nous concentrerons d'abord sur le type le plus simple de
systèmes de type neutres, les équations aux différences.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Reservoir computing is a machine learning technique usually applied in order to learn features from temporal data, such as time series
prediction and voice recognition. It consists of using the time signal to be analyzed as an input to a nonlinear dynamical system called
the reservoir. The output of the reservoir, which is typically in a higher-dimensional space than that of the input signal, is then used as
an input to a simple learning process, such as a linear regression or a small neural network. Dynamical systems used as reservoirs in
reservoir computing must satisfy some qualitative properties in order to be useful for learning: they must be nonlinear, have some form
of ``short-term memory'' to treat temporal data, efficiently filter noise, and be capable of giving sufficiently different outputs for inputs
belonging to different classes, but without being too sensitive to variations in input for the outputs of signals of a same class to remain
similar. Due to these desired properties, ``good'' reservoirs are usually systems that are at the ``edge of chaos''. Time-delay systems
are good candidates for being reservoirs, and their use for this purpose was exploited in some recent works , which make use of the
additional advantage of their implementability as optoelectronic circuits in order to avoid computation time due to numerical simulations .
This thesis aims to use techniques coming from the analysis of time-delay systems in order to build nonlinear time-delay systems that
are well-suited for being reservoirs in reservoir computing. Inspired by the idea of looking for systems at the ``edge of chaos'', we will
study classes of nonlinear systems and adapt their parameters to guarantee sufficiently rich dynamics. We will pay particular attention to
time-delay systems of neutral type, and we will focus first on the simplest type of systems of neutral type, difference equations.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Début de la thèse : 01/10/2025
Nature du financement
Précisions sur le financement
Contrats ED : Programme blanc GS-ISN*Programme COFUND DeMythif.AI*
Présentation établissement et labo d'accueil
Université Paris-Saclay GS Informatique et sciences du numérique
Etablissement délivrant le doctorat
Université Paris-Saclay GS Informatique et sciences du numérique
Ecole doctorale
580 Sciences et Technologies de l'Information et de la Communication
Profil du candidat
Niveau master en mathématiques appliquées, en automatique ou en traitement du signal avec des compétences en systèmes
dynamiques en dimension infinie. Une connaissance des approches d'apprentissage automatique sera également nécessaire. Une
bonne connaissance du calcul symbolique/numérique avec Python ou des logiciels scientifiques tels que Maple, Matlab/Simulink sera
appréciée.
Master's level Research in Applied Mathematics or Automation or signal processing with skills in dynamic systems in infinite dimension. Knowledge of machine learning approaches will also be necessary . Good knowledge of symbolic/numerical calculation with Python or scientific software such as Maple, Matlab/Simulink.
Master's level Research in Applied Mathematics or Automation or signal processing with skills in dynamic systems in infinite dimension. Knowledge of machine learning approaches will also be necessary . Good knowledge of symbolic/numerical calculation with Python or scientific software such as Maple, Matlab/Simulink.
30/04/2025
Postuler
Fermer
Vous avez déjà un compte ?
Nouvel utilisateur ?
Besoin d'informations sur l'ABG ?
Vous souhaitez recevoir nos infolettres ?
Découvrez nos adhérents
- CASDEN
- Tecknowmetrix
- MabDesign
- Ifremer
- Groupe AFNOR - Association française de normalisation
- TotalEnergies
- SUEZ
- MabDesign
- CESI
- ANRT
- PhDOOC
- Laboratoire National de Métrologie et d'Essais - LNE
- Institut Sup'biotech de Paris
- Nokia Bell Labs France
- Généthon
- Aérocentre, Pôle d'excellence régional
- ADEME
- ONERA - The French Aerospace Lab
- Institut de Radioprotection et de Sureté Nucléaire - IRSN - Siège
-
EmploiCDDRef. ABG126397University of CambridgeCambridge - Royaume-Uni
Postdoctoral Research Associate position in binder display platform development
BiochimieConfirmé -
EmploiCDIRef. ABG125911LVMH GaïaParis 8ème - Ile-de-France - France
Ingénieur Recherche Nouvelles matières maroquinières (F/H)
MatériauxJunior