A Statistical analysis of algorithms dedicated for rare events - IMT - Institut Mines-Télécom
Thèse Année : 2024

A Statistical analysis of algorithms dedicated for rare events

Analyse statistique des algorithmes dédiés aux événements rares

Résumé

This thesis focuses on establishing statistical guarantees for the efficiency of machine learning algorithms in data-scarce environments, particularly within the contexts of extreme value analysis, transfer learning, and imbalanced classification. We develop probability upper bounds that serve as theoretical assurances for the effectiveness of algorithms tailored to these specific scenarios. Our approach begins with a critique of current statistical methods in data-limited set- tings. We identify limitations in existing frameworks and introduce new probability bounds that are specifically designed to provide guarantees for algorithm performance under data scarcity. These bounds are not just theoretically rigorous but are also di- rectly applicable to practical machine learning challenges. We validate our theoretical findings with empirical studies in each of the three focused areas. The results confirm that our derived bounds are effective in certifying the effi- ciency of algorithms in handling extreme values, transferring knowledge in sparse data domains, and classifying imbalanced datasets. Conclusively, the thesis advances the field of statistical learning by providing precise theoretical guarantees for the performance of algorithms in data-scarce situations. This work is particularly relevant for applications where making accurate inferences with limited data is critical.
Cette thèse se concentre sur l'établissement de garanties statistiques pour l'efficacité des algorithmes d'apprentissage automatique dans des environnements pauvres en données, en particulier dans les contextes d'analyse des valeurs extrêmes, d'apprentissage par transfert et de classification déséquilibrée. Nous développons des bornes supérieures de probabilité qui servent de garanties théoriques pour l'efficacité des algorithmes adaptés à ces scénarios spécifiques. Notre approche commence par une critique des méthodes statistiques actuelles dans des contextes limites en données. Nous identifions les limitations dans les cadres existants et introduisons de nouvelles bornes de probabilité spécifiquement conçues pour fournir des garanties de performance d'algorithme sous contrainte de données. Ces bornes ne sont pas seulement rigoureuses sur le plan théorique, mais sont également directement applicables aux défis pratiques de l'apprentissage automatique. Nous validons nos résultats théoriques avec des études empiriques dans chacun des trois domaines cibles. Les résultats confirment que nos bornes dérivées sont efficaces pour certifier l'efficacité des algorithmes dans la gestion des valeurs extrêmes, le transfert de connaissances dans des domaines de données éparses et la classification de jeux de données déséquilibrés. En conclusion, la thèse fait progresser le domaine de l'apprentissage statistique en fournissant des garanties théoriques précises pour la performance des algorithmes dans des situations pauvres en données. Ce travail est particulièrement pertinent pour les applications où il est critique de faire des inférences précises avec des données limitées.
Fichier principal
Vignette du fichier
130165_AGHBALOU_2024_archivage.pdf (3.4 Mo) Télécharger le fichier
Origine Version validée par le jury (STAR)

Dates et versions

tel-04765790 , version 1 (04-11-2024)

Identifiants

  • HAL Id : tel-04765790 , version 1

Citer

Anass Aghbalou. A Statistical analysis of algorithms dedicated for rare events. Data Structures and Algorithms [cs.DS]. Institut Polytechnique de Paris, 2024. English. ⟨NNT : 2024IPPAT004⟩. ⟨tel-04765790⟩
82 Consultations
26 Téléchargements

Partager

More