Comment tester le modèle d'analyse prédictive - les mannequins

Pour pouvoir tester le modèle d'analyse prédictive que vous avez construit, vous devez diviser votre jeu de données en deux ensembles: les ensembles de données d'apprentissage et de test. Ces ensembles de données devraient être choisis au hasard et devraient être une bonne représentation de la population réelle.

• Des données similaires doivent être utilisées pour les ensembles de données d'apprentissage et de test.

• Normalement, l'ensemble de données d'apprentissage est significativement plus grand que l'ensemble de données de test.

• L'utilisation de l'ensemble de données de test vous aide à éviter les erreurs telles que le sur-ajustement.

• Le modèle entraîné est exécuté par rapport aux données de test pour voir si le modèle fonctionnera correctement.

Certains spécialistes des données préfèrent disposer d'un troisième ensemble de données présentant des caractéristiques similaires à celles des deux premiers: un ensemble de données de validation . L'idée est que si vous utilisez activement vos données de test pour affiner votre modèle, vous devez utiliser un ensemble (tiers) distinct pour vérifier l'exactitude du modèle.

La présence d'un jeu de données de validation, qui n'a pas été utilisé dans le cadre du processus de développement de votre modèle, permet d'assurer une estimation neutre de la précision et de l'efficacité du modèle.

Si vous avez construit plusieurs modèles à l'aide de divers algorithmes, l'exemple de validation peut également vous aider à évaluer quel modèle fonctionne le mieux.

Assurez-vous de vérifier votre travail de développement et de test du modèle. En particulier, soyez sceptique si la performance ou la précision du modèle semble trop belle pour être vraie. Les erreurs peuvent se produire là où vous les attendez le moins. Par exemple, le calcul incorrect de dates pour des données de séries temporelles peut conduire à des résultats erronés.

Comment utiliser la validation croisée

La validation croisée est une technique populaire que vous pouvez utiliser pour évaluer et valider votre modèle. Le même principe d'utilisation de jeux de données distincts pour les tests et la formation s'applique ici: Les données d'apprentissage sont utilisées pour construire le modèle; le modèle est exécuté par rapport à l'ensemble de tests pour prédire des données qu'il n'a pas vues auparavant, ce qui est une façon d'évaluer sa précision.

Dans la validation croisée, les données historiques sont divisées en X nombres de sous-ensembles. Chaque fois qu'un sous-ensemble est choisi pour être utilisé comme données de test, le reste des sous-ensembles sont utilisés comme données d'apprentissage. Ensuite, lors du passage suivant, l'ancien ensemble de test devient l'un des ensembles d'apprentissage et l'un des anciens ensembles d'apprentissage devient l'ensemble de test.

Le processus se poursuit jusqu'à ce que chaque sous-ensemble de ce nombre X d'ensembles ait été utilisé comme ensemble de test.

Imaginons par exemple que vous ayez divisé un jeu de données en 5 jeux numérotés de 1 à 5. Dans la première exécution, vous utilisez le jeu 1 comme jeu de test et utilisez les jeux 2, 3, 4 et 5 comme jeu de formation.Ensuite, lors de la deuxième exécution, vous utilisez le set 2 comme jeu de test et définissez 1, 3, 4 et 5 comme jeu d'apprentissage.

Vous continuez ce processus jusqu'à ce que chaque sous-ensemble des 5 jeux ait été utilisé comme jeu de test.

La validation croisée vous permet d'utiliser chaque point de données de vos données historiques à la fois pour la formation et les tests. Cette technique est plus efficace que de simplement diviser vos données historiques en deux ensembles, en utilisant l'ensemble avec le plus de données pour la formation, en utilisant l'autre ensemble pour les tests, et en le laissant à cela.

Lorsque vous validez vos données de manière croisée, vous vous protégez contre le choix aléatoire de données de test trop faciles à prévoir, ce qui vous donnerait la fausse impression que votre modèle est précis. Ou, s'il vous arrive de choisir des données de test trop difficiles à prévoir, vous pourriez conclure à tort que votre modèle ne fonctionne pas comme vous l'espériez.

La validation croisée est largement utilisée non seulement pour valider la précision des modèles, mais aussi pour comparer les performances de plusieurs modèles.

Comment équilibrer le biais et la variance

Le biais et la variance sont deux sources d'erreurs qui peuvent se produire lorsque vous construisez votre modèle analytique.

Le biais est le résultat de la construction d'un modèle qui simplifie considérablement la présentation des relations entre les points de données dans les données historiques utilisées pour construire le modèle.

La variance est le résultat de la construction d'un modèle explicitement spécifique aux données utilisées pour construire le modèle.

L'atteinte d'un équilibre entre biais et variance - en réduisant la variance et en tolérant certains biais - peut conduire à un meilleur modèle prédictif. Ce compromis conduit généralement à construire des modèles prédictifs moins complexes.

De nombreux algorithmes d'exploration de données ont été créés pour prendre en compte cet arbitrage entre biais et variance.

Comment résoudre les problèmes

Lorsque vous testez votre modèle et que vous ne parvenez à rien, voici quelques idées à prendre en compte pour vous remettre sur les rails:

• Vérifiez toujours votre travail. Vous avez peut-être oublié quelque chose que vous pensiez être correct mais qui ne l'est pas. Ces failles peuvent apparaître (par exemple) parmi les valeurs d'une variable prédictive dans votre jeu de données, ou dans le prétraitement que vous avez appliqué aux données.

• Si l'algorithme choisi ne donne aucun résultat, essayez un autre algorithme. Par exemple, vous essayez plusieurs algorithmes de classification disponibles et en fonction de vos données et des objectifs commerciaux de votre modèle, l'un d'entre eux peut être plus performant que les autres.

• Essayez de sélectionner différentes variables ou de créer de nouvelles variables dérivées. Soyez toujours à l'affût des variables qui ont des pouvoirs prédictifs.

• Consultez fréquemment les experts du domaine métier qui peuvent vous aider à comprendre les données, à sélectionner des variables et à interpréter les résultats du modèle.