Accueil Finances personnelles ÉVitant les biais d'échantillonnage et les pièges de fuite dans l'apprentissage automatique - nuls

ÉVitant les biais d'échantillonnage et les pièges de fuite dans l'apprentissage automatique - nuls

Vidéo: Marcel Proust, 1. Du côté de chez Swann, Première partie : COMBRAY, À la recherche du temps perdu 2025

Vidéo: Marcel Proust, 1. Du côté de chez Swann, Première partie : COMBRAY, À la recherche du temps perdu 2025
Anonim

L'approche de validation de l'apprentissage automatique est un examen d'un remède possible au biais d'échantillonnage. Un biais d'échantillonnage peut arriver à vos données avant que l'apprentissage automatique soit mis en action, et cela entraîne une forte variance des estimations suivantes. En outre, vous devez être conscient des pièges de fuite qui peuvent se produire lorsque certaines informations de l'échantillon hors-échantillon à des données dans l'échantillon. Ce problème peut survenir lorsque vous préparez les données ou après que votre modèle d'apprentissage automatique est prêt et fonctionne.

Le remède, que l'on appelle ensembling de prédicteurs, fonctionne parfaitement lorsque votre échantillon d'apprentissage n'est pas complètement déformé et sa distribution est différente de l'échantillon hors-échantillon, mais pas d'une manière irrémédiable, comme comme quand toutes vos classes sont présentes mais pas dans la bonne proportion (à titre d'exemple). Dans de tels cas, vos résultats sont affectés par une certaine variance des estimations que vous pouvez éventuellement stabiliser de plusieurs façons: par rééchantillonnage, comme dans le bootstrap; par sous-échantillonnage (prélèvement d'un échantillon de l'échantillon); ou en utilisant des échantillons plus petits (ce qui augmente le biais).

Pour comprendre comment fonctionne si efficacement, visualisez l'image d'un œil de bœuf. Si votre échantillon affecte les prédictions, certaines prédictions seront exactes et d'autres seront erronées de manière aléatoire. Si vous changez votre échantillon, les bonnes prédictions continueront à être correctes, mais les mauvaises prédictions commenceront à être des variations entre différentes valeurs. Certaines valeurs seront la prédiction exacte que vous recherchez; d'autres vont simplement osciller autour de la bonne.

En comparant les résultats, vous pouvez deviner que ce qui est récurrent est la bonne réponse. Vous pouvez également prendre une moyenne des réponses et deviner que la bonne réponse devrait être au milieu des valeurs. Avec le jeu du taureau, vous pouvez visualiser des photos superposées de différents jeux: Si le problème est la variance, vous finirez par deviner que la cible est dans la zone la plus fréquemment touchée ou au moins au centre de tous les tirs.

Dans la plupart des cas, une telle approche s'avère correcte et améliore beaucoup vos prédictions d'apprentissage automatique. Lorsque votre problème est le biais et non la variance, l'utilisation de l'assemblage ne peut réellement causer de dommage que si vous sous-échantillonnez trop peu d'échantillons. Une bonne règle empirique pour le sous-échantillonnage est de prélever un échantillon de 70 à 90% par rapport aux données originales de l'échantillon. Si vous voulez faire du travail en série, vous devriez faire ce qui suit:

  • Itérez un grand nombre de fois à travers vos données et modèles (d'un minimum de trois itérations à idéalement des centaines de fois).
  • Chaque fois que vous itérez, sous-échantillonnez (ou bootstrap) vos données dans l'échantillon.
  • Utilisez l'apprentissage automatique pour le modèle sur les données rééchantillonnées et prédisez les résultats hors échantillon. Conservez ces résultats pour une utilisation ultérieure.
  • A la fin des itérations, pour chaque cas hors échantillon que vous voulez prédire, prenez toutes ses prédictions et faites la moyenne si vous faites une régression. Prenez la classe la plus fréquente si vous faites une classification.

Les pièges à fuites peuvent vous surprendre car ils peuvent s'avérer être une source inconnue et non détectée de problèmes avec vos processus d'apprentissage automatique. Le problème est d'espionner, ou d'observer trop les données hors échantillon et de s'y adapter trop souvent. En bref, l'espionnage est une sorte de surapprentissage - et pas seulement sur les données d'entraînement mais aussi sur les données de test, rendant le problème de sur-apprentissage lui-même plus difficile à détecter jusqu'à ce que vous obteniez de nouvelles données.

Habituellement, vous vous rendez compte que le problème est d'espionnage lorsque vous avez déjà appliqué l'algorithme d'apprentissage automatique à votre entreprise ou à un service pour le public, faisant du problème un problème que tout le monde peut voir.

Vous pouvez éviter de fouiner de deux manières. Tout d'abord, lorsque vous travaillez sur les données, veillez à bien séparer les données de formation, de validation et de test. En outre, lors du traitement, ne prenez jamais aucune information de validation ou de test, même les exemples les plus simples et les plus innocents. Pire encore est d'appliquer une transformation complexe en utilisant toutes les données.

En finance, par exemple, il est bien connu que le calcul de la moyenne et de l'écart-type (qui peuvent réellement vous renseigner sur les conditions et les risques du marché) de toutes les données de formation et de test peut laisser échapper des informations précieuses. En cas de fuite, les algorithmes d'apprentissage automatique effectuent des prédictions sur l'ensemble de test plutôt que sur les données hors échantillon des marchés, ce qui signifie qu'ils n'ont pas fonctionné du tout, entraînant ainsi une perte d'argent.

Vérifiez les performances de vos exemples hors échantillon. En fait, vous pouvez ramener des informations de votre espionnage sur les résultats du test pour vous aider à déterminer que certains paramètres sont meilleurs que d'autres, ou vous amener à choisir un algorithme d'apprentissage automatique au lieu d'un autre. Pour chaque modèle ou paramètre, appliquez votre choix en fonction des résultats de la validation croisée ou de l'échantillon de validation. Ne tombez jamais dans les pièges de vos données hors échantillon ou vous le regretterez plus tard.

ÉVitant les biais d'échantillonnage et les pièges de fuite dans l'apprentissage automatique - nuls

Le choix des éditeurs

Découvrir les Méditations de Pleine Conscience Formelle - les nuls

Découvrir les Méditations de Pleine Conscience Formelle - les nuls

Pour approfondir votre conscience consciente, vous devez pratiquer une méditation de pleine conscience sur une base quotidienne. Familiarisez-vous avec certaines des médiations suivantes. Avec le temps, vous deviendrez plus conscient de votre vie quotidienne. Body Meditation Meditation - Cette méditation implique de passer environ une demi-heure, en prenant conscience de ...

Démystifier Dan Brown: Les Templiers Royaux - les nuls

Démystifier Dan Brown: Les Templiers Royaux - les nuls

Les Templiers sont presque aussi fictifs dans Dan Brown Le code Da Vinci comme les chevaliers Jedi sont dans Star Wars. Bien que le héros Robert Langdon hésite d'abord à élever les Templiers dans ses cours, parce que la mention même d'eux fait ressortir les amants du complot, Brown n'a aucun problème à les faire participer ...

Démystification des mythes communs sur la franc-maçonnerie - mannequins

Démystification des mythes communs sur la franc-maçonnerie - mannequins

La franc-maçonnerie moderne existe depuis 1717. Les premières contre-vérités concoctées sur l'Ordre sont apparues en impression à peu près en même temps. Les États-Unis étaient consumés par l'hystérie anti-maçonnique à la fin des années 1820, et l'Europe a fait de Mason-bashing un sport populaire pendant deux siècles, le liant souvent à la propagande antisémite. Internet n'a que ...

Le choix des éditeurs

À L'aide de la boîte de dialogue Configurer l'affichage dans PowerPoint 2011 pour Mac - témoins

À L'aide de la boîte de dialogue Configurer l'affichage dans PowerPoint 2011 pour Mac - témoins

Dans la boîte de dialogue Configurer l'affichage dans PowerPoint, cliquez sur le bouton Configurer l'affichage dans l'onglet Diaporama du ruban Office 2011 pour Mac, ou choisissez Diaporama → Configurer l'affichage dans la barre de menus. Dans les deux cas, la boîte de dialogue Configurer l'affichage polyvalent apparaît. Choisir un type de spectacle dans PowerPoint 2011 pour Mac ...

Enregistrement des fichiers dans Office 2011 pour Mac - témoins

Enregistrement des fichiers dans Office 2011 pour Mac - témoins

Enregistrement d'un fichier sur lequel vous travaillez dans Office 2011 pour Mac est aussi simple que de cliquer sur le bouton Enregistrer dans la barre d'outils Standard, en appuyant sur Commande-S ou en choisissant Fichier → Enregistrer. Si votre fichier a été enregistré précédemment, l'enregistrement du fichier remplace la copie existante du fichier par votre version mise à jour. Si votre fichier n'a pas ...

Fonctionnant avec les modèles de diapositives maîtres dans PowerPoint 2011 pour Mac - les nuls

Fonctionnant avec les modèles de diapositives maîtres dans PowerPoint 2011 pour Mac - les nuls

Dans Office 2011 pour Mac, l'ajout d'une nouvelle présentation de diapositive à une diapositive dans la vue Diapositive maître de PowerPoint 2011 est une tâche assez simple à effectuer. Suivez ces étapes pour commencer: Assurez-vous que vous êtes en mode Masque des diapositives. Choisissez Affichage → Maître → Masque de diapositives dans la barre de menus. Cliquez sur l'onglet Masque des diapositives du ruban, ...

Le choix des éditeurs

Sélectionnez PowerPoint 2007 Objects - dummies

Sélectionnez PowerPoint 2007 Objects - dummies

Avant de pouvoir modifier un objet PowerPoint 2007 sur une diapositive, vous devez le sélectionner. Dans les présentations PowerPoint, les objets peuvent être du texte, des graphiques, des images clipart, des formes, etc. Voici quelques instructions pour sélectionner les objets PowerPoint 2007: Objets texte: Pour sélectionner un objet texte PowerPoint 2007, déplacez le point d'insertion sur le texte qui ...

Définir le contour de la forme sur une diapositive PowerPoint 2007 - dummies

Définir le contour de la forme sur une diapositive PowerPoint 2007 - dummies

Le contrôle shapePoint de powerPoint vous permet style des objets de ligne ou la bordure pour les objets de forme solide sur vos diapositives PowerPoint. Le contrôle Shape Outline se trouve dans le groupe Styles de formes de l'onglet Outils de dessin. Vous pouvez modifier les paramètres suivants pour le contour: Couleur: Définit la couleur utilisée pour ...

PowerPoint 2016 pour les nuls Cheat Sheet - les nuls

PowerPoint 2016 pour les nuls Cheat Sheet - les nuls

PowerPoint 2016 est le logiciel de présentation le plus puissant disponible pour créer et éditer la diapositive montrer des présentations pour le travail, la maison ou l'école. PowerPoint 2016 offre un certain nombre de raccourcis clavier utiles pour effectuer des tâches rapidement. Voici quelques raccourcis pour le formatage PowerPoint commun, l'édition et les tâches de fichiers et de documents. De plus, après avoir créé votre chef-d'œuvre, vous ...