Réalisation d'un système de traitement de données de type "Big Data" sur un cluster « mobile »
La ferme est hébergée dans des cubes en plexiglass transparent pour être visible de l'extérieur. Des ventilateurs la refroidissent en permanence.
Les données sont remontées du cluster via SSH et JMX, puis affichées sur une console de supervision.
Les données utilisées pour la démonstration sont les informations concernant les positions de satellites au cours du temps fournies par le NORAD.
Elles sont importées brutes dans un lac primaire de données Cassandra, puis transformées pour être rangées en tables métiers suivant les besoins. Les calculs sont réalisés dessus par Spark au bout de la chaîne de traitement.
Avec Spark: