Accueil Finances personnelles ÉVitant les biais d'échantillonnage et les pièges de fuite dans l'apprentissage automatique - nuls

ÉVitant les biais d'échantillonnage et les pièges de fuite dans l'apprentissage automatique - nuls

Vidéo: Marcel Proust, 1. Du côté de chez Swann, Première partie : COMBRAY, À la recherche du temps perdu 2025

Vidéo: Marcel Proust, 1. Du côté de chez Swann, Première partie : COMBRAY, À la recherche du temps perdu 2025
Anonim

L'approche de validation de l'apprentissage automatique est un examen d'un remède possible au biais d'échantillonnage. Un biais d'échantillonnage peut arriver à vos données avant que l'apprentissage automatique soit mis en action, et cela entraîne une forte variance des estimations suivantes. En outre, vous devez être conscient des pièges de fuite qui peuvent se produire lorsque certaines informations de l'échantillon hors-échantillon à des données dans l'échantillon. Ce problème peut survenir lorsque vous préparez les données ou après que votre modèle d'apprentissage automatique est prêt et fonctionne.

Le remède, que l'on appelle ensembling de prédicteurs, fonctionne parfaitement lorsque votre échantillon d'apprentissage n'est pas complètement déformé et sa distribution est différente de l'échantillon hors-échantillon, mais pas d'une manière irrémédiable, comme comme quand toutes vos classes sont présentes mais pas dans la bonne proportion (à titre d'exemple). Dans de tels cas, vos résultats sont affectés par une certaine variance des estimations que vous pouvez éventuellement stabiliser de plusieurs façons: par rééchantillonnage, comme dans le bootstrap; par sous-échantillonnage (prélèvement d'un échantillon de l'échantillon); ou en utilisant des échantillons plus petits (ce qui augmente le biais).

Pour comprendre comment fonctionne si efficacement, visualisez l'image d'un œil de bœuf. Si votre échantillon affecte les prédictions, certaines prédictions seront exactes et d'autres seront erronées de manière aléatoire. Si vous changez votre échantillon, les bonnes prédictions continueront à être correctes, mais les mauvaises prédictions commenceront à être des variations entre différentes valeurs. Certaines valeurs seront la prédiction exacte que vous recherchez; d'autres vont simplement osciller autour de la bonne.

En comparant les résultats, vous pouvez deviner que ce qui est récurrent est la bonne réponse. Vous pouvez également prendre une moyenne des réponses et deviner que la bonne réponse devrait être au milieu des valeurs. Avec le jeu du taureau, vous pouvez visualiser des photos superposées de différents jeux: Si le problème est la variance, vous finirez par deviner que la cible est dans la zone la plus fréquemment touchée ou au moins au centre de tous les tirs.

Dans la plupart des cas, une telle approche s'avère correcte et améliore beaucoup vos prédictions d'apprentissage automatique. Lorsque votre problème est le biais et non la variance, l'utilisation de l'assemblage ne peut réellement causer de dommage que si vous sous-échantillonnez trop peu d'échantillons. Une bonne règle empirique pour le sous-échantillonnage est de prélever un échantillon de 70 à 90% par rapport aux données originales de l'échantillon. Si vous voulez faire du travail en série, vous devriez faire ce qui suit:

  • Itérez un grand nombre de fois à travers vos données et modèles (d'un minimum de trois itérations à idéalement des centaines de fois).
  • Chaque fois que vous itérez, sous-échantillonnez (ou bootstrap) vos données dans l'échantillon.
  • Utilisez l'apprentissage automatique pour le modèle sur les données rééchantillonnées et prédisez les résultats hors échantillon. Conservez ces résultats pour une utilisation ultérieure.
  • A la fin des itérations, pour chaque cas hors échantillon que vous voulez prédire, prenez toutes ses prédictions et faites la moyenne si vous faites une régression. Prenez la classe la plus fréquente si vous faites une classification.

Les pièges à fuites peuvent vous surprendre car ils peuvent s'avérer être une source inconnue et non détectée de problèmes avec vos processus d'apprentissage automatique. Le problème est d'espionner, ou d'observer trop les données hors échantillon et de s'y adapter trop souvent. En bref, l'espionnage est une sorte de surapprentissage - et pas seulement sur les données d'entraînement mais aussi sur les données de test, rendant le problème de sur-apprentissage lui-même plus difficile à détecter jusqu'à ce que vous obteniez de nouvelles données.

Habituellement, vous vous rendez compte que le problème est d'espionnage lorsque vous avez déjà appliqué l'algorithme d'apprentissage automatique à votre entreprise ou à un service pour le public, faisant du problème un problème que tout le monde peut voir.

Vous pouvez éviter de fouiner de deux manières. Tout d'abord, lorsque vous travaillez sur les données, veillez à bien séparer les données de formation, de validation et de test. En outre, lors du traitement, ne prenez jamais aucune information de validation ou de test, même les exemples les plus simples et les plus innocents. Pire encore est d'appliquer une transformation complexe en utilisant toutes les données.

En finance, par exemple, il est bien connu que le calcul de la moyenne et de l'écart-type (qui peuvent réellement vous renseigner sur les conditions et les risques du marché) de toutes les données de formation et de test peut laisser échapper des informations précieuses. En cas de fuite, les algorithmes d'apprentissage automatique effectuent des prédictions sur l'ensemble de test plutôt que sur les données hors échantillon des marchés, ce qui signifie qu'ils n'ont pas fonctionné du tout, entraînant ainsi une perte d'argent.

Vérifiez les performances de vos exemples hors échantillon. En fait, vous pouvez ramener des informations de votre espionnage sur les résultats du test pour vous aider à déterminer que certains paramètres sont meilleurs que d'autres, ou vous amener à choisir un algorithme d'apprentissage automatique au lieu d'un autre. Pour chaque modèle ou paramètre, appliquez votre choix en fonction des résultats de la validation croisée ou de l'échantillon de validation. Ne tombez jamais dans les pièges de vos données hors échantillon ou vous le regretterez plus tard.

ÉVitant les biais d'échantillonnage et les pièges de fuite dans l'apprentissage automatique - nuls

Le choix des éditeurs

Conventions de dénomination pour Ruby on Rails - mannequins

Conventions de dénomination pour Ruby on Rails - mannequins

Vous utilisez Ruby on Rails pour créer un site Web application ou application de base de données Web, ce qui est très intelligent de votre part. En fonction de ce que vous utilisez (une application, une relation un-à-plusieurs ou une relation plusieurs-à-plusieurs), vous utilisez différentes variantes des protocoles d'attribution de noms Rails, qui sont expliquées dans les sections suivantes. Ruby Naming for ...

En orbite, panoramique et zoom dans la vue 3D de Blender - mannequins

En orbite, panoramique et zoom dans la vue 3D de Blender - mannequins

En essayant de naviguer dans un espace en trois dimensions à travers un écran bidimensionnel comme un écran d'ordinateur, vous ne pouvez pas interagir avec cet espace 3D virtuel exactement comme vous le feriez dans le monde réel, ou espace de vie. La meilleure façon de visualiser le travail en 3D à travers un programme comme Blender est d'imaginer la vue 3D comme vos yeux ...

Déplacement de clips sur la timeline dans Final Cut Pro HD - Ficelles

Déplacement de clips sur la timeline dans Final Cut Pro HD - Ficelles

Final Cut Pro HD Timeline vous permet d'organiser tous vos clips vidéo et audio afin qu'ils racontent l'histoire que vous voulez raconter. Pour comprendre le fonctionnement de la Timeline, imaginez-la comme une page de partitions, mais plutôt que de placer des notes de musique de différentes durées (noires, demi-notes, ...

Le choix des éditeurs

Contrôle et modification de l'associativité des dimensions dans AutoCAD - Dummies

Contrôle et modification de l'associativité des dimensions dans AutoCAD - Dummies

Lorsque vous ajoutez des dimensions en sélectionnant des objets ou en utilisant l'accrochage aux objets Pour sélectionner des points sur les objets, AutoCAD crée normalement des dimensions associatives, qui sont connectées aux objets et se déplacent avec eux. C'est le cas dans les nouveaux dessins créés à l'origine dans toute version d'AutoCAD à partir de 2002. Si vous ...

Copie de styles de cote existants dans AutoCAD 2008 - mannequins

Copie de styles de cote existants dans AutoCAD 2008 - mannequins

Si vous avez la chance de travailler dans un bureau Quelqu'un a mis en place des styles de cotes qui conviennent à votre secteur d'activité et à votre projet. Vous pouvez le copier et ainsi éviter de devoir créer vos propres styles de cote. (Un style de cote - ou dimstyle pour faire court - est une collection de paramètres de dessin appelée dimension ...

En choisissant un style d'édition AutoCAD -

En choisissant un style d'édition AutoCAD -

Dans AutoCAD vous passez généralement plus de temps à éditer que dessiner des objets. C'est en partie parce que le processus de conception et de rédaction est, par nature, sujet à des changements, et aussi parce que AutoCAD vous permet de modifier facilement les objets proprement. AutoCAD propose trois styles d'édition: Commande-première Sélection-première Objet-direct (poignée) AutoCAD fait référence à l'édition de commandes comme verbe-nom ...

Le choix des éditeurs

Praxis Examen d'éducation élémentaire - Présentations orales - mannequins

Praxis Examen d'éducation élémentaire - Présentations orales - mannequins

Parce que les élèves doivent généralement donner des présentations orales en classe , vous rencontrerez probablement une question sur ce sujet dans l'examen Praxis Elementary Education. Plus formelles que les discussions de groupe, les présentations orales ont leurs propres règles pour le conférencier. Lorsque vous donnez une présentation en classe, il y a plusieurs ...

Praxis Examen d'éducation élémentaire - Littérature et texte d'information - mannequins

Praxis Examen d'éducation élémentaire - Littérature et texte d'information - mannequins

L'examen Praxis Elementary Education sur la littérature et le texte d'information, c'est-à-dire la fiction et la non-fiction. Vous devrez donc vous familiariser avec les différents genres d'écriture. La compréhension du texte est un processus qui se produit au fil du temps.

Praxis Examen d'éducation élémentaire - Connaissance phonologique - mannequins

Praxis Examen d'éducation élémentaire - Connaissance phonologique - mannequins

Vous rencontrerez probablement une ou deux questions qui impliquent des questions phonologiques sensibilisation à l'examen Praxis Elementary Education. La conscience phonologique est une compétence large impliquant la reconnaissance de son. Les lecteurs débutants commencent par apprendre les sons individuels, ou phonèmes, dans des mots parlés. Par exemple, le mot chat a trois phonèmes: / c / / a / / t /. Un lecteur débutant apprend ...