Sélection de caractéristiques
La sélection de caractéristiques, également appelée sélection de variables, sélection d'attributs ou sélection de variable de sous - ensemble, est le processus de sélection d’un sous - ensemble de caractéristiques pertinentes (variables, facteurs prédictifs) pour une utilisation dans la construction du modèle.
Les techniques de sélection des fonctionnalités sont utilisées pour plusieurs raisons:
- simplification des modèles pour faciliter leur interprétation par les chercheurs / utilisateurs,
- temps d’entraînement plus courts,
- éviter la malédiction de la dimensionnalité,
- généralisation améliorée en réduisant le surajustement (formellement, réduction de la variance )
Le point central lors de l’utilisation d’une technique de sélection de caractéristiques est que les données contiennent des caractéristiques qui sont soit redondants ou non pertinents, et peut donc être enlevé sans encourir beaucoup de perte d'informations. Redondant et non pertinent sont deux notions distinctes, puisqu'un élément pertinent peut être redondant en présence d'un autre élément pertinent avec lequel il est fortement corrélé.
Les techniques de sélection des caractéristiques doivent être distinguées de l’extraction des caractéristiques. L'extraction de caractéristiques crée de nouvelles caractéristiques à partir des fonctions des caractéristiques d'origine, tandis que la sélection de caractéristiques renvoie un sous-ensemble de caractéristiques. Les techniques de sélection des caractéristiques sont souvent utilisées dans des domaines comportant de nombreuses fonctionnalités et relativement peu d'échantillons (ou de points de données). Les cas archétypaux pour l’application de la sélection de caractéristiques comprennent l’analyse de textes écrits et de données de puces à ADN, où il existe plusieurs milliers de caractéristiques et quelques dizaines à des centaines d’échantillons.
