Accueil Finances personnelles Comment nettoyer les données pour l'analyse prédictive - les nuls

Comment nettoyer les données pour l'analyse prédictive - les nuls

Vidéo: Machine Learning 3 - Gérer les données manquantes 2025

Vidéo: Machine Learning 3 - Gérer les données manquantes 2025
Anonim

Avant d'exécuter une analyse prédictive, vous devez vous assurer que les données sont exemptes de tout contenu étranger avant de pouvoir l'utiliser dans votre modèle. Cela inclut la recherche et la correction de tous les enregistrements contenant des valeurs erronées et la tentative de remplissage des valeurs manquantes. Vous devrez également décider si vous souhaitez inclure des enregistrements en double (deux comptes clients, par exemple).

L'objectif général est de garantir l'intégrité des informations que vous utilisez pour créer votre modèle prédictif. Portez une attention particulière à l'exhaustivité, l'exactitude et la ponctualité des données.

Il est utile de créer des statistiques descriptives (caractéristiques quantitatives) pour différents champs, tels que calculer min et max, vérifier distribution de fréquence (fréquence à laquelle quelque chose se produit) et en vérifiant les plages attendues. L'exécution d'une vérification régulière peut vous aider à marquer toutes les données qui sont en dehors de la plage prévue pour une analyse plus approfondie. Tous les dossiers montrant des retraités ayant des dates de naissance dans les années 1990 peuvent être marqués par cette méthode.

De même, il est important de vérifier les informations afin de s'assurer que les données sont exactes. Pour une analyse plus approfondie des caractéristiques des données et l'identification de la relation entre les enregistrements, vous pouvez utiliser profilage des données (analyse de la disponibilité des données et collecte de statistiques sur la qualité des données) et outils de visualisation.

Les données manquantes peuvent être dues au fait que certaines informations n'ont pas été enregistrées. Dans un tel cas, vous pouvez essayer de remplir autant que vous le pouvez; les valeurs par défaut appropriées peuvent facilement être ajoutées pour remplir les espaces de certains champs.

Par exemple, pour les patientes d'une maternité d'hôpital où le champ de genre manque une valeur, l'application peut simplement la remplir en tant que femme. D'ailleurs, pour tout homme qui a été admis dans un hôpital avec un dossier manquant pour le statut de grossesse, ce dossier peut également être rempli comme non applicable.

Un code postal manquant pour une adresse peut être déduit du nom de la rue et de la ville indiquée dans cette adresse.

Dans les cas où l'information est inconnue ou ne peut être inférée, vous devez utiliser des valeurs autres qu'un espace vide pour indiquer que les données sont manquantes sans affecter l'exactitude de l'analyse. Un blanc dans les données peut signifier plusieurs choses, la plupart d'entre elles ne sont pas bonnes ou utiles. Chaque fois que vous le pouvez, vous devez spécifier la nature de ce blanc par un remplissage significatif.

Tout comme il est possible de définir une rose dans un champ de maïs comme une mauvaise herbe, les valeurs aberrantes peuvent avoir différentes significations pour différentes analyses.Il est courant que certains modèles soient construits uniquement pour suivre ces valeurs aberrantes et les signaler.

Les modèles de détection de la fraude et de surveillance des activités criminelles sont intéressés par ces valeurs aberrantes, qui dans de tels cas indiquent quelque chose de non désiré. Il est donc recommandé de conserver les valeurs aberrantes dans l'ensemble de données dans des cas comme ceux-ci. Cependant, lorsque les valeurs aberrantes sont considérées comme des anomalies dans les données - et fausseront seulement les analyses et conduiront à des résultats erronés - retirez-les de vos données.

La duplication dans les données peut aussi être utile ou gênante; certains d'entre eux peuvent être nécessaires, peuvent indiquer une valeur, et peuvent refléter un état précis des données. Par exemple, un enregistrement d'un client avec plusieurs comptes peut être représenté avec plusieurs entrées qui sont (techniquement, de toute façon) dupliquées et répétitives des mêmes enregistrements.

De même, lorsque les enregistrements en double ne contribuent pas à la valeur de l'analyse et ne sont pas nécessaires, leur suppression peut être d'une grande valeur. Cela est particulièrement vrai pour les grands ensembles de données où la suppression des enregistrements en double peut simplifier la complexité des données et réduire le temps nécessaire à l'analyse.

Vous pouvez empêcher préventivement l'entrée de données incorrectes dans vos systèmes en adoptant certaines procédures spécifiques:

  • Installez des contrôles de qualité et la validation des données pour toutes les données collectées.

  • Permettez à vos clients de valider et d'autocorriger leurs données personnelles.

  • Fournissez à vos clients les valeurs possibles et attendues à choisir.

  • Effectuez régulièrement des vérifications sur l'intégrité, la cohérence et l'exactitude des données.

Comment nettoyer les données pour l'analyse prédictive - les nuls

Le choix des éditeurs

Comment envoyer une vidéo et des photos avec Flip Video - Dummies

Comment envoyer une vidéo et des photos avec Flip Video - Dummies

Après avoir pris photos et vidéos d'événements dans votre vie avec votre caméra Flip Video, vous pouvez les envoyer par e-mail à vos amis et aux membres de votre famille. Le partage de films et d'images que vous capturez et créez en envoyant un message e-mail vous permet de toucher et de toucher quelqu'un avec vos créations, même si vous êtes à proximité ...

Comment enregistrer le son séparément pour votre film numérique - Les mannequins

Comment enregistrer le son séparément pour votre film numérique - Les mannequins

Ont parfois besoin d'un réalisateur enregistrer le son en utilisant un appareil séparé de l'appareil photo, enregistrer le son séparément, puis synchroniser le son sur la vidéo plus tard, lors de l'édition. Habituellement, la raison en est d'augmenter la qualité du son enregistré car de nombreuses caméras n'enregistrent pas le son aussi bien que ...

Comment enregistrer une vidéo avec un caméscope Flip - Les nuls

Comment enregistrer une vidéo avec un caméscope Flip - Les nuls

Enregistrant des vidéos avec votre caméra Flip est comme facile comme 1-2-3 (et 4). Avant d'enregistrer une vidéo, vérifiez les indicateurs d'état de votre Flip pour vous assurer que votre caméra est complètement chargée et qu'elle a suffisamment de temps d'enregistrement pour capturer la vidéo que vous voulez filmer. Pour vérifier le niveau de charge de la batterie de votre Flip (ou ...

Le choix des éditeurs

Mot Raccourcis des symboles 2016 - des mannequins

Mot Raccourcis des symboles 2016 - des mannequins

Dans Word 2016 vous pouvez insérer des symboles communs en utilisant ces raccourcis clavier. Utilisez ces raccourcis clavier au lieu de la commande Insérer → Symbole pour insérer des symboles typographiques communs. Symbole Raccourci Tableau de bord Alt + Ctrl + signe moins En tableau Ctrl + signe moins Copyright Alt + Ctrl + C Marque déposée Alt + Ctrl + R Marque Alt + Ctrl + T Ellipsis Alt + Ctrl + période

Mot Raccourcis des symboles 2016 - mannequins

Mot Raccourcis des symboles 2016 - mannequins

En fonction de la manière dont vous choisissez d'utiliser Word 2016, vous risquez de devoir faire face pour un symbole spécial. Avec ces raccourcis clavier, vous pouvez insérer des symboles communs dans Word 2016. Utilisez ces raccourcis clavier au lieu de la commande Insérer → Symbole pour insérer des symboles typographiques communs. Symbole Raccourci Tableau de bord Alt + Ctrl + signe moins En tiret ...

Mot Trucs et astuces pour les tables 2013 - mannequins

Mot Trucs et astuces pour les tables 2013 - mannequins

Dans Word 2013, le texte se déverse dans un tableau sur une cellule base de la cellule. Vous pouvez taper un mot, une phrase ou même un paragraphe. Tout ce texte reste dans la cellule, bien que la cellule change de taille pour accueillir de plus grandes quantités de texte. Vous pouvez mettre en forme la cellule d'une table comme n'importe quel paragraphe de Word, en ajoutant même des marges ...

Le choix des éditeurs

Sexe For Dummies Cheat Sheet - les nuls

Sexe For Dummies Cheat Sheet - les nuls

Que vous vous considériez comme un Don Juan, une Lady Chatterly, ou un novice sexuel , tout le monde peut tirer le meilleur parti du sexe avec un peu plus de connaissances. Vous devriez savoir que les préliminaires sont quelque chose que vous devriez prendre en considération avec chaque interaction que vous et votre partenaire avez, ainsi que la façon de garder les choses ...

Mots et significations liés à la ménopause - mannequins

Mots et significations liés à la ménopause - mannequins

Bien que ce soit loin d'être une liste complète des termes que vous pourriez entendre être utilisé lorsque la ménopause est discutée, les cinq termes essentiels suivants devraient vous aider à comprendre les bases. HRT (hormonothérapie substitutive): Un traitement pour compléter les hormones que vous perdez pendant la ménopause - généralement une combinaison d'œstrogènes, ...

Symptômes qui indiquent que la ménopause est proche - mannequins

Symptômes qui indiquent que la ménopause est proche - mannequins

La plupart des femmes commencent à éprouver des symptômes de ménopause déséquilibrés, alors qu'ils ont encore des règles. Si vous ressentez un ou plusieurs des symptômes suivants, consultez votre médecin - vous pouvez être en train d'aborder le changement. Peau sèche ou cheveux Pensée floue (difficulté à se concentrer) Flutters du cœur (battements de cœur rapides) ...