Incident critique d'erreur CRC dans un environnement Kafka
Problème initial
En production, le système d'un client a commencé à recevoir de manière intermittente des exceptions liées au CRC dans Apache Kafka. L'erreur suivante apparaît :
Record batch for partition skywalking-traces-0 at offset 292107075 is invalid, cause: Record is corrupt (stored crc = 1016021496, compute crc = 1981017560)
Cette erre ...
Publié le 28 juillet à 04h30
Configuration d'un Cluster Kafka avec Docker
1. Téléchargement de Zookeeper
Obtenez les fichiers d'installation de Zookeeper à partir des sources suivantes :
http://apache.org/dist/zookeeper/
http://mirrors.hust.edu.cn/apache/zookeeper/zookeeper-3.4.9/zookeeper-3.4.9.tar.gz
2. Téléchargement de Kafka
Téléchargez les archives de Kafka via ces liens :
http://apache.org/dist/kafka/
http://m ...
Publié le 2 juillet à 16h26
Analyse en temps réel pour la prise de décision : Implémentation pratique avec Apache Flink
La transformation de flux de données massifs en informations exploitables constitue un avantage concurrentiel majeur. Les systèmes traditionnels par lots introduisent des délais critiques. Apache Flink permet de construire des pipelines de traitement en temps réel robustes.
Construire un système d'analyse en temps réel avec Flink
Notre objectif ...
Publié le 1 juillet à 21h43
Architecture et Mise en Œuvre d'Apache Kafka pour le Traitement de Flux d'Événements
Introduction à Apache Kafka
Apache Kafka se définit comme une plateforme distribuée de gestion de flux d'événements. Ses capacités fondamentales reposent sur trois piliers :
La publication et l'abonnement en temps réel à des flux de données, facilitant l'intégration continue entre systèmes hétérogènes.
Le stockage persistant et tolérant aux pa ...
Publié le 28 juin à 03h20
Commandes Kafka pour l'administration et la gestion des données
Vérifier l'identifiant des brokers
Pour récupérer les ID des brokers dans un cluster Kafka, exécutez cette commande :
kafka-broker-api-versions.sh --bootstrap-server kafka-broker:9092 | grep "id"
Lister et décrire les topics
Pour afficher tous les topics disponibles :
kafka-topics.sh --bootstrap-server kafka-broker:9092 --list
Pour ...
Publié le 22 juin à 23h33