📘 Fiche de cours
L'essentiel du cours
Le Big Data se définit par les 5V : Volume, Vitesse, Variété, Véracité et Valeur. Un système distribué permet de traiter ces données en répartissant la charge sur plusieurs nœuds (nœuds de calcul). L'architecture repose sur le modèle Maître-Esclave (Master-Slave). Le framework Hadoop utilise HDFS (Hadoop Distributed File System) pour le stockage et MapReduce pour le traitement.
Méthodes à maîtriser
- Calculer le facteur de réplication : $R = \frac{T_{total}}{T_{original}}$.
- Appliquer l'algorithme MapReduce : Mapper (clé, valeur) $\rightarrow$ Shuffle $\rightarrow$ Reducer (clé, liste de valeurs).
- Évaluer la scalabilité horizontale (ajout de nœuds) par rapport à la verticale (ajout de puissance).
Exemples corrigés
Exemple : Si on a 100 Go de données et un facteur de réplication de 3, l'espace disque nécessaire est $100 \times 3 = 300$ Go. MapReduce : Pour compter les mots "A" et "B" dans deux fichiers, le Mapper génère (A,1), (B,1). Le Reducer somme les valeurs par clé : (A, 2), (B, 1).
Erreurs fréquentes
- Confondre scalabilité verticale et horizontale.
- Oublier que dans un système distribué, la cohérence forte est difficile à maintenir (Théorème CAP).