Accueil Finances personnelles Hadoop en tant que destination de données d'archives - mannequins

Hadoop en tant que destination de données d'archives - mannequins

Vidéo: How to Build and Install Hadoop on Windows 2025

Vidéo: How to Build and Install Hadoop on Windows 2025
Anonim

Le coût peu élevé du stockage pour Hadoop et la possibilité d'interroger les données Hadoop avec SQL font d'Hadoop la destination principale des données d'archivage. Ce cas d'utilisation a un faible impact sur votre organisation car vous pouvez commencer à développer votre ensemble de compétences Hadoop sur des données qui ne sont pas stockées sur des systèmes critiques en termes de performances.

De plus, vous n'avez pas à travailler dur pour obtenir les données. (Étant donné que les données archivées sont normalement stockées sur des systèmes peu utilisés, il est plus facile d'obtenir des informations que sur des systèmes critiques, tels que les entrepôts de données.) Si vous utilisez déjà Hadoop comme landing zone, vous avez la base de vos archives! Vous gardez simplement ce que vous voulez archiver et effacez ce que vous ne voulez pas.

Si vous pensez à la zone d'atterrissage de Hadoop, l'archive interrogeable, illustrée dans la figure, étend la valeur de Hadoop et commence à intégrer des pièces qui existent probablement déjà dans votre entreprise. C'est un excellent exemple de la recherche d'économies d'échelle et d'opportunités de prise de coûts grâce à Hadoop.

Ici, le composant d'archive connecte la zone d'atterrissage et l'entrepôt de données. Les données archivées proviennent de l'entrepôt et sont ensuite stockées dans le cluster Hadoop, qui provisionne également la zone d'atterrissage. En bref, vous pouvez utiliser le même cluster Hadoop pour archiver des données et agir en tant que zone d'atterrissage.

La technologie Hadoop clé que vous utiliseriez pour effectuer l'archivage est Sqoop, qui peut déplacer les données à archiver depuis l'entrepôt de données vers Hadoop. Vous devrez examiner la forme que vous souhaitez prendre pour les données dans votre cluster Hadoop. En général, les fichiers Hive compressés sont un bon choix.

Vous pouvez, bien sûr, transformer les données des structures d'entrepôt en une autre forme (par exemple, une forme normalisée pour réduire la redondance), mais ce n'est généralement pas une bonne idée. Si vous gardez les données dans la même structure que celle de l'entrepôt, il sera beaucoup plus facile d'exécuter une requête de jeu de données complète sur les données archivées dans Hadoop et les données actives dans l'entrepôt.

Le concept d'interrogation des ensembles de données actifs et archivés soulève une autre question: combien de données devriez-vous archiver? Il y a vraiment deux choix communs: archiver tout lorsque les données sont ajoutées et modifiées dans l'entrepôt de données, ou seulement archiver les données que vous jugez froides.

L'archivage a pour avantage de vous permettre d'émettre facilement des requêtes à partir d'une interface unique sur l'ensemble du fichier. Sans une archive complète, vous devez trouver une solution de requête fédérée dans laquelle vous devez fusionner les résultats. l'archive et l'entrepôt de données actif.

Mais l'inconvénient ici est que les mises à jour régulières des données chaudes de votre entrepôt de données causeraient des maux de tête pour l'archive basée sur Hadoop. En effet, toute modification des données dans des lignes et des colonnes individuelles nécessiterait une suppression et un reclassement en masse des ensembles de données existants.

Maintenant que les données d'archives sont stockées dans votre zone d'atterrissage basée sur Hadoop (en supposant que vous utilisez une option comme les fichiers Hive compressés mentionnés précédemment), vous pouvez l'interroger. C'est là que les solutions SQL sur Hadoop peuvent devenir intéressantes.

Un excellent exemple de ce qui est possible est que les outils d'analyse (à droite sur la figure) permettent d'exécuter directement des rapports ou des analyses sur les données archivées stockées dans Hadoop. Cela ne veut pas remplacer l'entrepôt de données - après tout, Hadoop ne serait pas capable de faire correspondre les caractéristiques de performance de l'entrepôt pour supporter des centaines d'utilisateurs simultanés ou plus qui posent des questions complexes.

Le point ici est que vous pouvez utiliser des outils de reporting contre Hadoop pour expérimenter et trouver de nouvelles questions à répondre dans un entrepôt ou un magasin dédié.

Lorsque vous démarrez votre premier projet basé sur Hadoop pour l'archivage des données d'entrepôt, ne cassez pas les processus en cours avant de les avoir entièrement testés sur votre nouvelle solution Hadoop. En d'autres termes, si votre stratégie d'entreposage actuelle consiste à archiver sur bande, maintenez ce processus en place et archivez les données dans Hadoop et sur bande jusqu'à ce que vous ayez entièrement testé le scénario (ce qui inclut généralement la restauration des données de l'entrepôt). d'un échec d'entrepôt).

Bien que vous conserviez (à court terme) deux référentiels d'archives, vous disposerez d'une infrastructure robuste et testée avant de mettre hors service un processus éprouvé. Ce processus peut vous assurer que vous restez employé - avec votre employeur actuel.

Ce cas d'utilisation est simple car il n'y a aucun changement dans l'entrepôt existant. L'objectif métier reste le même: des coûts de stockage et de licence moins élevés en migrant des données rarement utilisées vers une archive. La différence dans ce cas est que la technologie derrière l'archive est Hadoop plutôt que le stockage hors ligne, comme la bande.

De plus, divers fournisseurs d'archives ont commencé à incorporer Hadoop dans leurs solutions (par exemple, en permettant à leurs fichiers d'archives propriétaires de résider sur HDFS), alors attendez-vous à ce que les fonctionnalités dans ce domaine se développent rapidement.

Au fur et à mesure que vous développez des compétences Hadoop (comme l'échange de données entre Hadoop et des bases de données relationnelles et l'interrogation de données dans HDFS), vous pouvez les utiliser pour résoudre des problèmes plus importants tels que les projets d'analyse.

Hadoop en tant que destination de données d'archives - mannequins

Le choix des éditeurs

Découvrir les Méditations de Pleine Conscience Formelle - les nuls

Découvrir les Méditations de Pleine Conscience Formelle - les nuls

Pour approfondir votre conscience consciente, vous devez pratiquer une méditation de pleine conscience sur une base quotidienne. Familiarisez-vous avec certaines des médiations suivantes. Avec le temps, vous deviendrez plus conscient de votre vie quotidienne. Body Meditation Meditation - Cette méditation implique de passer environ une demi-heure, en prenant conscience de ...

Démystifier Dan Brown: Les Templiers Royaux - les nuls

Démystifier Dan Brown: Les Templiers Royaux - les nuls

Les Templiers sont presque aussi fictifs dans Dan Brown Le code Da Vinci comme les chevaliers Jedi sont dans Star Wars. Bien que le héros Robert Langdon hésite d'abord à élever les Templiers dans ses cours, parce que la mention même d'eux fait ressortir les amants du complot, Brown n'a aucun problème à les faire participer ...

Démystification des mythes communs sur la franc-maçonnerie - mannequins

Démystification des mythes communs sur la franc-maçonnerie - mannequins

La franc-maçonnerie moderne existe depuis 1717. Les premières contre-vérités concoctées sur l'Ordre sont apparues en impression à peu près en même temps. Les États-Unis étaient consumés par l'hystérie anti-maçonnique à la fin des années 1820, et l'Europe a fait de Mason-bashing un sport populaire pendant deux siècles, le liant souvent à la propagande antisémite. Internet n'a que ...

Le choix des éditeurs

À L'aide de la boîte de dialogue Configurer l'affichage dans PowerPoint 2011 pour Mac - témoins

À L'aide de la boîte de dialogue Configurer l'affichage dans PowerPoint 2011 pour Mac - témoins

Dans la boîte de dialogue Configurer l'affichage dans PowerPoint, cliquez sur le bouton Configurer l'affichage dans l'onglet Diaporama du ruban Office 2011 pour Mac, ou choisissez Diaporama → Configurer l'affichage dans la barre de menus. Dans les deux cas, la boîte de dialogue Configurer l'affichage polyvalent apparaît. Choisir un type de spectacle dans PowerPoint 2011 pour Mac ...

Enregistrement des fichiers dans Office 2011 pour Mac - témoins

Enregistrement des fichiers dans Office 2011 pour Mac - témoins

Enregistrement d'un fichier sur lequel vous travaillez dans Office 2011 pour Mac est aussi simple que de cliquer sur le bouton Enregistrer dans la barre d'outils Standard, en appuyant sur Commande-S ou en choisissant Fichier → Enregistrer. Si votre fichier a été enregistré précédemment, l'enregistrement du fichier remplace la copie existante du fichier par votre version mise à jour. Si votre fichier n'a pas ...

Fonctionnant avec les modèles de diapositives maîtres dans PowerPoint 2011 pour Mac - les nuls

Fonctionnant avec les modèles de diapositives maîtres dans PowerPoint 2011 pour Mac - les nuls

Dans Office 2011 pour Mac, l'ajout d'une nouvelle présentation de diapositive à une diapositive dans la vue Diapositive maître de PowerPoint 2011 est une tâche assez simple à effectuer. Suivez ces étapes pour commencer: Assurez-vous que vous êtes en mode Masque des diapositives. Choisissez Affichage → Maître → Masque de diapositives dans la barre de menus. Cliquez sur l'onglet Masque des diapositives du ruban, ...

Le choix des éditeurs

Sélectionnez PowerPoint 2007 Objects - dummies

Sélectionnez PowerPoint 2007 Objects - dummies

Avant de pouvoir modifier un objet PowerPoint 2007 sur une diapositive, vous devez le sélectionner. Dans les présentations PowerPoint, les objets peuvent être du texte, des graphiques, des images clipart, des formes, etc. Voici quelques instructions pour sélectionner les objets PowerPoint 2007: Objets texte: Pour sélectionner un objet texte PowerPoint 2007, déplacez le point d'insertion sur le texte qui ...

Définir le contour de la forme sur une diapositive PowerPoint 2007 - dummies

Définir le contour de la forme sur une diapositive PowerPoint 2007 - dummies

Le contrôle shapePoint de powerPoint vous permet style des objets de ligne ou la bordure pour les objets de forme solide sur vos diapositives PowerPoint. Le contrôle Shape Outline se trouve dans le groupe Styles de formes de l'onglet Outils de dessin. Vous pouvez modifier les paramètres suivants pour le contour: Couleur: Définit la couleur utilisée pour ...

PowerPoint 2016 pour les nuls Cheat Sheet - les nuls

PowerPoint 2016 pour les nuls Cheat Sheet - les nuls

PowerPoint 2016 est le logiciel de présentation le plus puissant disponible pour créer et éditer la diapositive montrer des présentations pour le travail, la maison ou l'école. PowerPoint 2016 offre un certain nombre de raccourcis clavier utiles pour effectuer des tâches rapidement. Voici quelques raccourcis pour le formatage PowerPoint commun, l'édition et les tâches de fichiers et de documents. De plus, après avoir créé votre chef-d'œuvre, vous ...