Accueil Finances personnelles Image Classification avec Hadoop - mannequins

Image Classification avec Hadoop - mannequins

Vidéo: Hadoop Tutorial For Beginners | Apache Hadoop Tutorial | Hadoop Training | Edureka 2025

Vidéo: Hadoop Tutorial For Beginners | Apache Hadoop Tutorial | Hadoop Training | Edureka 2025
Anonim

une quantité importante de ressources de traitement de données, cependant, ce qui a limité l'ampleur des déploiements. La classification des images est un sujet brûlant dans le monde Hadoop, car aucune technologie traditionnelle n'était capable - jusqu'à ce que Hadoop arrive - d'ouvrir la porte à ce genre de traitement coûteux sur une échelle aussi massive et efficace.

La classification des images commence avec la notion que vous construisez un ensemble de formation et que les ordinateurs apprennent à identifier et classifier ce qu'ils regardent. De la même manière que le fait d'avoir plus de données permet de mieux construire la détection de la fraude et les modèles de risque, cela aide aussi les systèmes à mieux classer les images.

Dans ce cas d'utilisation, les données sont appelées ensemble d'apprentissage et les modèles sont des classificateurs. Les classificateurs reconnaissent les caractéristiques ou les motifs du son, de l'image ou de la vidéo et les classifient de manière appropriée. Les classificateurs sont construits et raffinés itérativement à partir des ensembles d'apprentissage de sorte que leurs scores de précision (une mesure de l'exactitude) et les scores de rappel (une mesure de la couverture) sont élevés.

Hadoop convient parfaitement à la classification d'images car il fournit un environnement de traitement massivement parallèle non seulement pour créer des modèles de classeurs (itérer sur des ensembles de formation), mais aussi pour offrir une évolutivité quasi illimitée pour traiter et exécuter ces classificateurs sur des volumes massifs de données non structurées.

Tenez compte des sources multimédia telles que YouTube, Facebook, Instagram et Flickr. Toutes ces sources sont des sources de données binaires non structurées. La figure montre une façon dont vous pouvez utiliser Hadoop pour mettre à l'échelle le traitement de gros volumes d'images et de vidéos stockées pour la classification sémantique multimédia.

Vous pouvez voir comment tous les concepts relatifs au framework de traitement Hadoop sont appliqués à ces données. Notez comment les images sont chargées dans HDFS. Les modèles de classificateurs, construits au fil du temps, sont maintenant appliqués aux composants d'image supplémentaire dans la phase Map de cette solution. Comme vous pouvez le voir dans le coin inférieur droit, la sortie de ce traitement consiste en des classifications d'images allant des dessins animés aux sports et aux lieux, entre autres.

Hadoop peut aussi être utilisé pour l'analyse audio ou vocale. Un client de l'industrie de la sécurité avec lequel nous travaillons crée un système de classification audio pour classer les sons qui sont entendus à l'aide de câbles à fibres optiques enrichis acoustiquement disposés autour du périmètre des réacteurs nucléaires.

Par exemple, ce système sait classer presque instantanément le murmure du vent par rapport au chuchotement d'une voix humaine ou distinguer le bruit des pas humains qui courent dans les parcs périphériques de ceux de la faune.

Cette description peut avoir une certaine sensation Star Trek , mais vous pouvez maintenant voir des exemples en direct. En effet, IBM rend public l'un des plus grands systèmes de classification d'images au monde, via le système IMARS (IBM Multimedia Analysis and Retrieval System).

Voici le résultat d'une recherche IMARS pour le terme ski alpin. En haut de la figure, vous pouvez voir les résultats des classificateurs mappés à l'ensemble d'images traité par Hadoop, ainsi qu'un nuage de tags associé.

Notez le classificateur parent plus grossièrement défini, par opposition au plus granulaire. En fait, notez les multiples niveaux de classification: rolls into, qui s'introduit dans - tous générés automatiquement par le modèle de classificateur, construits et notés en utilisant Hadoop.

Aucune de ces images n'a de métadonnées ajoutées. Personne n'a ouvert iPhoto et étiqueté une image comme un sport d'hiver pour la faire apparaître dans cette classification. C'est le classificateur de sports d'hiver qui a été construit pour reconnaître les attributs d'image et les caractéristiques des sports qui sont joués dans un décor d'hiver.

La classification d'images a de nombreuses applications, et être capable d'effectuer cette classification à grande échelle en utilisant Hadoop ouvre davantage de possibilités d'analyse car d'autres applications peuvent utiliser les informations de classification générées pour les images.

Regardez cet exemple de l'industrie de la santé. Une grande agence de santé en Asie s'est concentrée sur la fourniture de soins de santé via des cliniques mobiles à une population rurale répartie sur une grande superficie. Un problème important auquel l'agence a été confrontée était le défi logistique de l'analyse des données d'imagerie médicale générées dans ses cliniques mobiles.

Un radiologue est une ressource rare dans cette partie du monde, il est donc logique de transmettre électroniquement les images médicales à un point central et de les faire examiner par une armée de médecins. Les médecins examinant les images ont été rapidement surchargés, cependant.

L'agence travaille actuellement sur un système de classification pour aider à identifier les conditions possibles afin de fournir efficacement des suggestions à vérifier aux médecins. Les premiers tests ont montré cette stratégie pour aider à réduire le nombre de diagnostics manqués ou inexacts, en économisant du temps, de l'argent et, surtout, des vies.

Image Classification avec Hadoop - mannequins

Le choix des éditeurs

Conventions de dénomination pour Ruby on Rails - mannequins

Conventions de dénomination pour Ruby on Rails - mannequins

Vous utilisez Ruby on Rails pour créer un site Web application ou application de base de données Web, ce qui est très intelligent de votre part. En fonction de ce que vous utilisez (une application, une relation un-à-plusieurs ou une relation plusieurs-à-plusieurs), vous utilisez différentes variantes des protocoles d'attribution de noms Rails, qui sont expliquées dans les sections suivantes. Ruby Naming for ...

En orbite, panoramique et zoom dans la vue 3D de Blender - mannequins

En orbite, panoramique et zoom dans la vue 3D de Blender - mannequins

En essayant de naviguer dans un espace en trois dimensions à travers un écran bidimensionnel comme un écran d'ordinateur, vous ne pouvez pas interagir avec cet espace 3D virtuel exactement comme vous le feriez dans le monde réel, ou espace de vie. La meilleure façon de visualiser le travail en 3D à travers un programme comme Blender est d'imaginer la vue 3D comme vos yeux ...

Déplacement de clips sur la timeline dans Final Cut Pro HD - Ficelles

Déplacement de clips sur la timeline dans Final Cut Pro HD - Ficelles

Final Cut Pro HD Timeline vous permet d'organiser tous vos clips vidéo et audio afin qu'ils racontent l'histoire que vous voulez raconter. Pour comprendre le fonctionnement de la Timeline, imaginez-la comme une page de partitions, mais plutôt que de placer des notes de musique de différentes durées (noires, demi-notes, ...

Le choix des éditeurs

Contrôle et modification de l'associativité des dimensions dans AutoCAD - Dummies

Contrôle et modification de l'associativité des dimensions dans AutoCAD - Dummies

Lorsque vous ajoutez des dimensions en sélectionnant des objets ou en utilisant l'accrochage aux objets Pour sélectionner des points sur les objets, AutoCAD crée normalement des dimensions associatives, qui sont connectées aux objets et se déplacent avec eux. C'est le cas dans les nouveaux dessins créés à l'origine dans toute version d'AutoCAD à partir de 2002. Si vous ...

Copie de styles de cote existants dans AutoCAD 2008 - mannequins

Copie de styles de cote existants dans AutoCAD 2008 - mannequins

Si vous avez la chance de travailler dans un bureau Quelqu'un a mis en place des styles de cotes qui conviennent à votre secteur d'activité et à votre projet. Vous pouvez le copier et ainsi éviter de devoir créer vos propres styles de cote. (Un style de cote - ou dimstyle pour faire court - est une collection de paramètres de dessin appelée dimension ...

En choisissant un style d'édition AutoCAD -

En choisissant un style d'édition AutoCAD -

Dans AutoCAD vous passez généralement plus de temps à éditer que dessiner des objets. C'est en partie parce que le processus de conception et de rédaction est, par nature, sujet à des changements, et aussi parce que AutoCAD vous permet de modifier facilement les objets proprement. AutoCAD propose trois styles d'édition: Commande-première Sélection-première Objet-direct (poignée) AutoCAD fait référence à l'édition de commandes comme verbe-nom ...

Le choix des éditeurs

Praxis Examen d'éducation élémentaire - Présentations orales - mannequins

Praxis Examen d'éducation élémentaire - Présentations orales - mannequins

Parce que les élèves doivent généralement donner des présentations orales en classe , vous rencontrerez probablement une question sur ce sujet dans l'examen Praxis Elementary Education. Plus formelles que les discussions de groupe, les présentations orales ont leurs propres règles pour le conférencier. Lorsque vous donnez une présentation en classe, il y a plusieurs ...

Praxis Examen d'éducation élémentaire - Littérature et texte d'information - mannequins

Praxis Examen d'éducation élémentaire - Littérature et texte d'information - mannequins

L'examen Praxis Elementary Education sur la littérature et le texte d'information, c'est-à-dire la fiction et la non-fiction. Vous devrez donc vous familiariser avec les différents genres d'écriture. La compréhension du texte est un processus qui se produit au fil du temps.

Praxis Examen d'éducation élémentaire - Connaissance phonologique - mannequins

Praxis Examen d'éducation élémentaire - Connaissance phonologique - mannequins

Vous rencontrerez probablement une ou deux questions qui impliquent des questions phonologiques sensibilisation à l'examen Praxis Elementary Education. La conscience phonologique est une compétence large impliquant la reconnaissance de son. Les lecteurs débutants commencent par apprendre les sons individuels, ou phonèmes, dans des mots parlés. Par exemple, le mot chat a trois phonèmes: / c / / a / / t /. Un lecteur débutant apprend ...