Vidéo: Formation SPSS: Codage et saisie des données 2024
Même si vous avez assez d'exemples pour former des algorithmes d'apprentissage automatique simples et complexes, ils doivent présenter des valeurs complètes dans les caractéristiques, sans toutes les données manquantes. Avoir un exemple incomplet rend impossible la connexion de tous les signaux à l'intérieur et entre les caractéristiques. Les valeurs manquantes rendent également difficile l'apprentissage de l'algorithme pendant l'entraînement. Vous devez faire quelque chose à propos des données manquantes.
Le plus souvent, vous pouvez ignorer les valeurs manquantes ou les réparer en devinant une valeur de remplacement probable. Cependant, trop de valeurs manquantes rendent des prédictions plus incertaines parce que les informations manquantes pourraient masquer n'importe quelle figure possible; par conséquent, plus les valeurs sont manquantes dans les entités, plus les prédictions sont variables et imprécises.
Dans un premier temps, comptez le nombre de cas manquants dans chaque variable. Lorsqu'une variable contient trop de cas manquants, vous devrez peut-être la supprimer de l'ensemble de données de formation et de test. Une bonne règle consiste à supprimer une variable si plus de 90% de ses instances sont manquantes.
Certains algorithmes d'apprentissage ne savent pas gérer les valeurs manquantes et signaler les erreurs dans les phases d'entraînement et de test, tandis que d'autres les traitent comme des valeurs nulles, entraînant une sous-estimation de la valeur prédite (c'est juste comme si une partie de la formule ne fonctionnait pas correctement). Par conséquent, vous devez remplacer toutes les valeurs manquantes dans votre matrice de données par une valeur appropriée pour que l'apprentissage automatique se produise correctement.
De nombreuses raisons existent pour les données manquantes, mais le point essentiel est de savoir si les données manquent de manière aléatoire ou dans un ordre spécifique. Les données manquantes aléatoires sont idéales parce que vous pouvez deviner leur valeur en utilisant une moyenne simple, une médiane ou un autre algorithme d'apprentissage automatique, sans trop de soucis. Certains cas contiennent un fort biais en faveur de certains types d'exemples.
Par exemple, pensez au cas de l'étude du revenu d'une population. Les gens riches (pour des raisons fiscales, vraisemblablement) ont tendance à cacher leur véritable revenu en vous rapportant qu'ils ne savent pas. D'un autre côté, les pauvres peuvent dire qu'ils ne veulent pas déclarer leur revenu par crainte d'un jugement négatif. Si vous manquez des informations provenant de certaines couches de la population, la réparation des données manquantes peut être difficile et trompeuse car vous pourriez penser que ces cas sont comme les autres.
Au lieu de cela, ils sont assez différents. Par conséquent, vous ne pouvez pas simplement utiliser des valeurs moyennes pour remplacer les valeurs manquantes - vous devez utiliser des approches complexes et les ajuster soigneusement.De plus, il est difficile d'identifier les cas qui ne manquent pas de données au hasard parce qu'il faut examiner de plus près comment les valeurs manquantes sont associées à d'autres variables de l'ensemble de données.
Lorsque des données sont manquantes au hasard, vous pouvez facilement réparer les valeurs vides car vous obtenez des indications sur leur vraie valeur à partir d'autres variables. Lorsque les données ne sont pas manquantes au hasard, vous ne pouvez pas obtenir de bons indices d'autres informations disponibles à moins que vous compreniez l'association de données avec le cas manquant.
Par conséquent, si vous devez calculer le revenu manquant dans vos données, et qu'il manque parce que la personne est riche, vous ne pouvez pas remplacer la valeur manquante par une moyenne simple parce que vous la remplacerez par un revenu moyen. Au lieu de cela, vous devriez utiliser une moyenne du revenu des personnes riches en remplacement.
Lorsque les données ne sont pas manquantes au hasard, le fait que la valeur soit manquante est informatif car il permet de retrouver le groupe manquant. Vous pouvez laisser la corvée de recherche de la raison pour laquelle il manque à votre algorithme d'apprentissage automatique en créant une nouvelle fonctionnalité binaire qui signale lorsque la valeur d'une variable est manquante. Par conséquent, l'algorithme d'apprentissage automatique déterminera la meilleure valeur à utiliser en tant que remplacement par lui-même.
