Accueil Finances personnelles Comment nettoyer les données pour l'analyse prédictive - les nuls

Comment nettoyer les données pour l'analyse prédictive - les nuls

Vidéo: Machine Learning 3 - Gérer les données manquantes 2025

Vidéo: Machine Learning 3 - Gérer les données manquantes 2025
Anonim

Avant d'exécuter une analyse prédictive, vous devez vous assurer que les données sont exemptes de tout contenu étranger avant de pouvoir l'utiliser dans votre modèle. Cela inclut la recherche et la correction de tous les enregistrements contenant des valeurs erronées et la tentative de remplissage des valeurs manquantes. Vous devrez également décider si vous souhaitez inclure des enregistrements en double (deux comptes clients, par exemple).

L'objectif général est de garantir l'intégrité des informations que vous utilisez pour créer votre modèle prédictif. Portez une attention particulière à l'exhaustivité, l'exactitude et la ponctualité des données.

Il est utile de créer des statistiques descriptives (caractéristiques quantitatives) pour différents champs, tels que calculer min et max, vérifier distribution de fréquence (fréquence à laquelle quelque chose se produit) et en vérifiant les plages attendues. L'exécution d'une vérification régulière peut vous aider à marquer toutes les données qui sont en dehors de la plage prévue pour une analyse plus approfondie. Tous les dossiers montrant des retraités ayant des dates de naissance dans les années 1990 peuvent être marqués par cette méthode.

De même, il est important de vérifier les informations afin de s'assurer que les données sont exactes. Pour une analyse plus approfondie des caractéristiques des données et l'identification de la relation entre les enregistrements, vous pouvez utiliser profilage des données (analyse de la disponibilité des données et collecte de statistiques sur la qualité des données) et outils de visualisation.

Les données manquantes peuvent être dues au fait que certaines informations n'ont pas été enregistrées. Dans un tel cas, vous pouvez essayer de remplir autant que vous le pouvez; les valeurs par défaut appropriées peuvent facilement être ajoutées pour remplir les espaces de certains champs.

Par exemple, pour les patientes d'une maternité d'hôpital où le champ de genre manque une valeur, l'application peut simplement la remplir en tant que femme. D'ailleurs, pour tout homme qui a été admis dans un hôpital avec un dossier manquant pour le statut de grossesse, ce dossier peut également être rempli comme non applicable.

Un code postal manquant pour une adresse peut être déduit du nom de la rue et de la ville indiquée dans cette adresse.

Dans les cas où l'information est inconnue ou ne peut être inférée, vous devez utiliser des valeurs autres qu'un espace vide pour indiquer que les données sont manquantes sans affecter l'exactitude de l'analyse. Un blanc dans les données peut signifier plusieurs choses, la plupart d'entre elles ne sont pas bonnes ou utiles. Chaque fois que vous le pouvez, vous devez spécifier la nature de ce blanc par un remplissage significatif.

Tout comme il est possible de définir une rose dans un champ de maïs comme une mauvaise herbe, les valeurs aberrantes peuvent avoir différentes significations pour différentes analyses.Il est courant que certains modèles soient construits uniquement pour suivre ces valeurs aberrantes et les signaler.

Les modèles de détection de la fraude et de surveillance des activités criminelles sont intéressés par ces valeurs aberrantes, qui dans de tels cas indiquent quelque chose de non désiré. Il est donc recommandé de conserver les valeurs aberrantes dans l'ensemble de données dans des cas comme ceux-ci. Cependant, lorsque les valeurs aberrantes sont considérées comme des anomalies dans les données - et fausseront seulement les analyses et conduiront à des résultats erronés - retirez-les de vos données.

La duplication dans les données peut aussi être utile ou gênante; certains d'entre eux peuvent être nécessaires, peuvent indiquer une valeur, et peuvent refléter un état précis des données. Par exemple, un enregistrement d'un client avec plusieurs comptes peut être représenté avec plusieurs entrées qui sont (techniquement, de toute façon) dupliquées et répétitives des mêmes enregistrements.

De même, lorsque les enregistrements en double ne contribuent pas à la valeur de l'analyse et ne sont pas nécessaires, leur suppression peut être d'une grande valeur. Cela est particulièrement vrai pour les grands ensembles de données où la suppression des enregistrements en double peut simplifier la complexité des données et réduire le temps nécessaire à l'analyse.

Vous pouvez empêcher préventivement l'entrée de données incorrectes dans vos systèmes en adoptant certaines procédures spécifiques:

  • Installez des contrôles de qualité et la validation des données pour toutes les données collectées.

  • Permettez à vos clients de valider et d'autocorriger leurs données personnelles.

  • Fournissez à vos clients les valeurs possibles et attendues à choisir.

  • Effectuez régulièrement des vérifications sur l'intégrité, la cohérence et l'exactitude des données.

Comment nettoyer les données pour l'analyse prédictive - les nuls

Le choix des éditeurs

Découvrir les Méditations de Pleine Conscience Formelle - les nuls

Découvrir les Méditations de Pleine Conscience Formelle - les nuls

Pour approfondir votre conscience consciente, vous devez pratiquer une méditation de pleine conscience sur une base quotidienne. Familiarisez-vous avec certaines des médiations suivantes. Avec le temps, vous deviendrez plus conscient de votre vie quotidienne. Body Meditation Meditation - Cette méditation implique de passer environ une demi-heure, en prenant conscience de ...

Démystifier Dan Brown: Les Templiers Royaux - les nuls

Démystifier Dan Brown: Les Templiers Royaux - les nuls

Les Templiers sont presque aussi fictifs dans Dan Brown Le code Da Vinci comme les chevaliers Jedi sont dans Star Wars. Bien que le héros Robert Langdon hésite d'abord à élever les Templiers dans ses cours, parce que la mention même d'eux fait ressortir les amants du complot, Brown n'a aucun problème à les faire participer ...

Démystification des mythes communs sur la franc-maçonnerie - mannequins

Démystification des mythes communs sur la franc-maçonnerie - mannequins

La franc-maçonnerie moderne existe depuis 1717. Les premières contre-vérités concoctées sur l'Ordre sont apparues en impression à peu près en même temps. Les États-Unis étaient consumés par l'hystérie anti-maçonnique à la fin des années 1820, et l'Europe a fait de Mason-bashing un sport populaire pendant deux siècles, le liant souvent à la propagande antisémite. Internet n'a que ...

Le choix des éditeurs

À L'aide de la boîte de dialogue Configurer l'affichage dans PowerPoint 2011 pour Mac - témoins

À L'aide de la boîte de dialogue Configurer l'affichage dans PowerPoint 2011 pour Mac - témoins

Dans la boîte de dialogue Configurer l'affichage dans PowerPoint, cliquez sur le bouton Configurer l'affichage dans l'onglet Diaporama du ruban Office 2011 pour Mac, ou choisissez Diaporama → Configurer l'affichage dans la barre de menus. Dans les deux cas, la boîte de dialogue Configurer l'affichage polyvalent apparaît. Choisir un type de spectacle dans PowerPoint 2011 pour Mac ...

Enregistrement des fichiers dans Office 2011 pour Mac - témoins

Enregistrement des fichiers dans Office 2011 pour Mac - témoins

Enregistrement d'un fichier sur lequel vous travaillez dans Office 2011 pour Mac est aussi simple que de cliquer sur le bouton Enregistrer dans la barre d'outils Standard, en appuyant sur Commande-S ou en choisissant Fichier → Enregistrer. Si votre fichier a été enregistré précédemment, l'enregistrement du fichier remplace la copie existante du fichier par votre version mise à jour. Si votre fichier n'a pas ...

Fonctionnant avec les modèles de diapositives maîtres dans PowerPoint 2011 pour Mac - les nuls

Fonctionnant avec les modèles de diapositives maîtres dans PowerPoint 2011 pour Mac - les nuls

Dans Office 2011 pour Mac, l'ajout d'une nouvelle présentation de diapositive à une diapositive dans la vue Diapositive maître de PowerPoint 2011 est une tâche assez simple à effectuer. Suivez ces étapes pour commencer: Assurez-vous que vous êtes en mode Masque des diapositives. Choisissez Affichage → Maître → Masque de diapositives dans la barre de menus. Cliquez sur l'onglet Masque des diapositives du ruban, ...

Le choix des éditeurs

Sélectionnez PowerPoint 2007 Objects - dummies

Sélectionnez PowerPoint 2007 Objects - dummies

Avant de pouvoir modifier un objet PowerPoint 2007 sur une diapositive, vous devez le sélectionner. Dans les présentations PowerPoint, les objets peuvent être du texte, des graphiques, des images clipart, des formes, etc. Voici quelques instructions pour sélectionner les objets PowerPoint 2007: Objets texte: Pour sélectionner un objet texte PowerPoint 2007, déplacez le point d'insertion sur le texte qui ...

Définir le contour de la forme sur une diapositive PowerPoint 2007 - dummies

Définir le contour de la forme sur une diapositive PowerPoint 2007 - dummies

Le contrôle shapePoint de powerPoint vous permet style des objets de ligne ou la bordure pour les objets de forme solide sur vos diapositives PowerPoint. Le contrôle Shape Outline se trouve dans le groupe Styles de formes de l'onglet Outils de dessin. Vous pouvez modifier les paramètres suivants pour le contour: Couleur: Définit la couleur utilisée pour ...

PowerPoint 2016 pour les nuls Cheat Sheet - les nuls

PowerPoint 2016 pour les nuls Cheat Sheet - les nuls

PowerPoint 2016 est le logiciel de présentation le plus puissant disponible pour créer et éditer la diapositive montrer des présentations pour le travail, la maison ou l'école. PowerPoint 2016 offre un certain nombre de raccourcis clavier utiles pour effectuer des tâches rapidement. Voici quelques raccourcis pour le formatage PowerPoint commun, l'édition et les tâches de fichiers et de documents. De plus, après avoir créé votre chef-d'œuvre, vous ...