Accueil Finances personnelles Comment nettoyer les données pour l'analyse prédictive - les nuls

Comment nettoyer les données pour l'analyse prédictive - les nuls

Vidéo: Machine Learning 3 - Gérer les données manquantes 2025

Vidéo: Machine Learning 3 - Gérer les données manquantes 2025
Anonim

Avant d'exécuter une analyse prédictive, vous devez vous assurer que les données sont exemptes de tout contenu étranger avant de pouvoir l'utiliser dans votre modèle. Cela inclut la recherche et la correction de tous les enregistrements contenant des valeurs erronées et la tentative de remplissage des valeurs manquantes. Vous devrez également décider si vous souhaitez inclure des enregistrements en double (deux comptes clients, par exemple).

L'objectif général est de garantir l'intégrité des informations que vous utilisez pour créer votre modèle prédictif. Portez une attention particulière à l'exhaustivité, l'exactitude et la ponctualité des données.

Il est utile de créer des statistiques descriptives (caractéristiques quantitatives) pour différents champs, tels que calculer min et max, vérifier distribution de fréquence (fréquence à laquelle quelque chose se produit) et en vérifiant les plages attendues. L'exécution d'une vérification régulière peut vous aider à marquer toutes les données qui sont en dehors de la plage prévue pour une analyse plus approfondie. Tous les dossiers montrant des retraités ayant des dates de naissance dans les années 1990 peuvent être marqués par cette méthode.

De même, il est important de vérifier les informations afin de s'assurer que les données sont exactes. Pour une analyse plus approfondie des caractéristiques des données et l'identification de la relation entre les enregistrements, vous pouvez utiliser profilage des données (analyse de la disponibilité des données et collecte de statistiques sur la qualité des données) et outils de visualisation.

Les données manquantes peuvent être dues au fait que certaines informations n'ont pas été enregistrées. Dans un tel cas, vous pouvez essayer de remplir autant que vous le pouvez; les valeurs par défaut appropriées peuvent facilement être ajoutées pour remplir les espaces de certains champs.

Par exemple, pour les patientes d'une maternité d'hôpital où le champ de genre manque une valeur, l'application peut simplement la remplir en tant que femme. D'ailleurs, pour tout homme qui a été admis dans un hôpital avec un dossier manquant pour le statut de grossesse, ce dossier peut également être rempli comme non applicable.

Un code postal manquant pour une adresse peut être déduit du nom de la rue et de la ville indiquée dans cette adresse.

Dans les cas où l'information est inconnue ou ne peut être inférée, vous devez utiliser des valeurs autres qu'un espace vide pour indiquer que les données sont manquantes sans affecter l'exactitude de l'analyse. Un blanc dans les données peut signifier plusieurs choses, la plupart d'entre elles ne sont pas bonnes ou utiles. Chaque fois que vous le pouvez, vous devez spécifier la nature de ce blanc par un remplissage significatif.

Tout comme il est possible de définir une rose dans un champ de maïs comme une mauvaise herbe, les valeurs aberrantes peuvent avoir différentes significations pour différentes analyses.Il est courant que certains modèles soient construits uniquement pour suivre ces valeurs aberrantes et les signaler.

Les modèles de détection de la fraude et de surveillance des activités criminelles sont intéressés par ces valeurs aberrantes, qui dans de tels cas indiquent quelque chose de non désiré. Il est donc recommandé de conserver les valeurs aberrantes dans l'ensemble de données dans des cas comme ceux-ci. Cependant, lorsque les valeurs aberrantes sont considérées comme des anomalies dans les données - et fausseront seulement les analyses et conduiront à des résultats erronés - retirez-les de vos données.

La duplication dans les données peut aussi être utile ou gênante; certains d'entre eux peuvent être nécessaires, peuvent indiquer une valeur, et peuvent refléter un état précis des données. Par exemple, un enregistrement d'un client avec plusieurs comptes peut être représenté avec plusieurs entrées qui sont (techniquement, de toute façon) dupliquées et répétitives des mêmes enregistrements.

De même, lorsque les enregistrements en double ne contribuent pas à la valeur de l'analyse et ne sont pas nécessaires, leur suppression peut être d'une grande valeur. Cela est particulièrement vrai pour les grands ensembles de données où la suppression des enregistrements en double peut simplifier la complexité des données et réduire le temps nécessaire à l'analyse.

Vous pouvez empêcher préventivement l'entrée de données incorrectes dans vos systèmes en adoptant certaines procédures spécifiques:

  • Installez des contrôles de qualité et la validation des données pour toutes les données collectées.

  • Permettez à vos clients de valider et d'autocorriger leurs données personnelles.

  • Fournissez à vos clients les valeurs possibles et attendues à choisir.

  • Effectuez régulièrement des vérifications sur l'intégrité, la cohérence et l'exactitude des données.

Comment nettoyer les données pour l'analyse prédictive - les nuls

Le choix des éditeurs

Conventions de dénomination pour Ruby on Rails - mannequins

Conventions de dénomination pour Ruby on Rails - mannequins

Vous utilisez Ruby on Rails pour créer un site Web application ou application de base de données Web, ce qui est très intelligent de votre part. En fonction de ce que vous utilisez (une application, une relation un-à-plusieurs ou une relation plusieurs-à-plusieurs), vous utilisez différentes variantes des protocoles d'attribution de noms Rails, qui sont expliquées dans les sections suivantes. Ruby Naming for ...

En orbite, panoramique et zoom dans la vue 3D de Blender - mannequins

En orbite, panoramique et zoom dans la vue 3D de Blender - mannequins

En essayant de naviguer dans un espace en trois dimensions à travers un écran bidimensionnel comme un écran d'ordinateur, vous ne pouvez pas interagir avec cet espace 3D virtuel exactement comme vous le feriez dans le monde réel, ou espace de vie. La meilleure façon de visualiser le travail en 3D à travers un programme comme Blender est d'imaginer la vue 3D comme vos yeux ...

Déplacement de clips sur la timeline dans Final Cut Pro HD - Ficelles

Déplacement de clips sur la timeline dans Final Cut Pro HD - Ficelles

Final Cut Pro HD Timeline vous permet d'organiser tous vos clips vidéo et audio afin qu'ils racontent l'histoire que vous voulez raconter. Pour comprendre le fonctionnement de la Timeline, imaginez-la comme une page de partitions, mais plutôt que de placer des notes de musique de différentes durées (noires, demi-notes, ...

Le choix des éditeurs

Contrôle et modification de l'associativité des dimensions dans AutoCAD - Dummies

Contrôle et modification de l'associativité des dimensions dans AutoCAD - Dummies

Lorsque vous ajoutez des dimensions en sélectionnant des objets ou en utilisant l'accrochage aux objets Pour sélectionner des points sur les objets, AutoCAD crée normalement des dimensions associatives, qui sont connectées aux objets et se déplacent avec eux. C'est le cas dans les nouveaux dessins créés à l'origine dans toute version d'AutoCAD à partir de 2002. Si vous ...

Copie de styles de cote existants dans AutoCAD 2008 - mannequins

Copie de styles de cote existants dans AutoCAD 2008 - mannequins

Si vous avez la chance de travailler dans un bureau Quelqu'un a mis en place des styles de cotes qui conviennent à votre secteur d'activité et à votre projet. Vous pouvez le copier et ainsi éviter de devoir créer vos propres styles de cote. (Un style de cote - ou dimstyle pour faire court - est une collection de paramètres de dessin appelée dimension ...

En choisissant un style d'édition AutoCAD -

En choisissant un style d'édition AutoCAD -

Dans AutoCAD vous passez généralement plus de temps à éditer que dessiner des objets. C'est en partie parce que le processus de conception et de rédaction est, par nature, sujet à des changements, et aussi parce que AutoCAD vous permet de modifier facilement les objets proprement. AutoCAD propose trois styles d'édition: Commande-première Sélection-première Objet-direct (poignée) AutoCAD fait référence à l'édition de commandes comme verbe-nom ...

Le choix des éditeurs

Praxis Examen d'éducation élémentaire - Présentations orales - mannequins

Praxis Examen d'éducation élémentaire - Présentations orales - mannequins

Parce que les élèves doivent généralement donner des présentations orales en classe , vous rencontrerez probablement une question sur ce sujet dans l'examen Praxis Elementary Education. Plus formelles que les discussions de groupe, les présentations orales ont leurs propres règles pour le conférencier. Lorsque vous donnez une présentation en classe, il y a plusieurs ...

Praxis Examen d'éducation élémentaire - Littérature et texte d'information - mannequins

Praxis Examen d'éducation élémentaire - Littérature et texte d'information - mannequins

L'examen Praxis Elementary Education sur la littérature et le texte d'information, c'est-à-dire la fiction et la non-fiction. Vous devrez donc vous familiariser avec les différents genres d'écriture. La compréhension du texte est un processus qui se produit au fil du temps.

Praxis Examen d'éducation élémentaire - Connaissance phonologique - mannequins

Praxis Examen d'éducation élémentaire - Connaissance phonologique - mannequins

Vous rencontrerez probablement une ou deux questions qui impliquent des questions phonologiques sensibilisation à l'examen Praxis Elementary Education. La conscience phonologique est une compétence large impliquant la reconnaissance de son. Les lecteurs débutants commencent par apprendre les sons individuels, ou phonèmes, dans des mots parlés. Par exemple, le mot chat a trois phonèmes: / c / / a / / t /. Un lecteur débutant apprend ...