Data Integration · Event Streaming · Kafka

Kappa-Architektur:
Real-Time und Analytics mit Kafka vereint

Mit der Kappa-Architektur bedienst du Echtzeit-Anwendungen und Analytics aus einem einzigen Datenstrom, statt zwei getrennte Pipelines zu pflegen.

In diesem Beitrag zeigen wir dir, wie das Prinzip funktioniert, worin es sich von der Lambda-Architektur unterscheidet und mit welchem Stack du Kappa heute umsetzt: von Apache Kafka über Apache Flink bis zu offenen Tabellenformaten für dein Data Warehouse.

Schema der Kappa-Architektur: Quellen schreiben in eine Real-Time-Schicht mit Kafka, die gleichzeitig Echtzeit-Abnehmer und einen dauerhaften Speicher für Analytics beliefert
Ausgangslage

Batch und Real-Time: zwei Welten integrieren

Pipelines in Form von ETL und ELT gehören im Data Engineering längst zum Alltag. Dabei entsteht Datenintegration in vielen Varianten: mit Low-Code-Plattformen wie Qlik Talend, mit eigenem Python-Code oder mit Microservices in Java. Die Pipelines laufen zum Beispiel alle paar Stunden oder Minuten, oder sie werden über einen Webhook ausgelöst. Damit bleibst du allerdings in der Welt der Batches, und das ist völlig in Ordnung, wenn die Anforderung oder die Quelle es so vorgibt.

Auf der anderen Seite gibt es jedoch Quellen, die Daten eventbasiert bereitstellen, und Ziele, die sie in Echtzeit oder nahezu in Echtzeit brauchen. Oft hast du außerdem beides gleichzeitig. Deshalb stellt sich die Frage: Wie bringst du diese beiden Integrationsformen zusammen, ohne zwei Welten parallel zu betreiben?

Die Antwort: mit einer Kappa-Architektur.

Prinzip

Was ist die Kappa-Architektur?

Die Kappa-Architektur geht auf Jay Kreps zurück, einen der Erfinder von Apache Kafka, der sie 2014 als Gegenentwurf zur Lambda-Architektur beschrieben hat. Der Kerngedanke: Echtzeit- und Batch-Anforderungen werden mit nur einem Technologie-Stack bedient. Entscheidend ist die Real-Time-Schicht. Sie beliefert zwei Ziele unabhängig voneinander: Echtzeit-Abnehmer wie Stream-Processing-Anwendungen oder Microservices und einen dauerhaften Speicher für analytische Zwecke, etwa ein Data Warehouse oder Lakehouse.

Muss eine Auswertung neu berechnet werden, spielst du die Ereignisse einfach erneut aus dem Log ab, statt eine separate Batch-Strecke zu pflegen.

Die Vorteile auf einen Blick:

  • Du bedienst beide Welten, Echtzeit und Batch, aus derselben Quelle.
  • Es gibt nur eine Real-Time-Infrastruktur und nur einen Code-Pfad.
  • Keine Inkonsistenzen zwischen Echtzeit-Abnehmern und dem dauerhaften Speicher.
  • Auch wenn Quellen teils per Batch, teils eventbasiert liefern, laufen alle Daten durch dieselbe Schicht: ein klarer Single Point of Truth.
  • Die Architektur ist leicht erweiterbar: Speicher und Abnehmer lassen sich ergänzen oder austauschen.
Vergleich

Lambda vs. Kappa: die Unterschiede

Die Lambda-Architektur verdoppelt hingegen die Integrationsschichten: Neben der Real-Time-Schicht gibt es nämlich eine separate Batch-Schicht. Im Zweifel pflegst du daher zwei Codebasen, zwei Technologien und zwei Infrastrukturen. Außerdem musst du dafür sorgen, dass beide Datenflüsse dieselben Ergebnisse liefern.

KriteriumLambda-ArchitekturKappa-Architektur
VerarbeitungsschichtenBatch- und Speed-Layer paralleleine Streaming-Schicht
Code und Betriebzwei Codepfade, zwei Infrastrukturenein Codepfad, eine Infrastruktur
KonsistenzAbgleich zwischen Batch und Real-Time nötigeine Quelle der Wahrheit
Neuberechnungüber den Batch-Layerdurch erneutes Abspielen des Event-Logs
Geeignet fürsehr große historische Neuberechnungen, gewachsene Batch-Landschafteneventgetriebene Prozesse, Echtzeit plus Analytics
Stack 2026

Kappa heute umsetzen: Kafka, Flink und offene Tabellen

Das Herz jeder Kappa-Architektur ist ein Event-Log. In der Praxis ist das fast immer Apache Kafka, der De-facto-Standard für Data Event Streaming. Seit Kafka 4.0 läuft Kafka vollständig ohne ZooKeeper im KRaft-Modus, was Betrieb und Skalierung deutlich vereinfacht.

  • Ereignisse erfassen: Quellsysteme schreiben direkt nach Kafka oder werden über Source-Connectors und Change Data Capture angebunden.
  • Ereignisse verarbeiten: Für Filtern, Anreichern, Aggregieren und Joinen ist heute Apache Flink die erste Wahl, auch als vollständig verwalteter Dienst in Confluent Cloud. Kafka Streams bleibt für Verarbeitung direkt in Java-Anwendungen eine gute Option.
  • Dauerhaft speichern: Über Sink-Connectors landen die Daten in Data Warehouse oder Lakehouse, etwa Snowflake oder Databricks. Mit Tableflow stellt Confluent Kafka-Topics zudem direkt als Apache-Iceberg- oder Delta-Lake-Tabellen bereit.

Den Betrieb kannst du selbst übernehmen oder an eine verwaltete Plattform wie Confluent abgeben. Gerade beim Einstieg spart das viel Aufwand für Infrastruktur, Skalierung und Sicherheit.

Markt

Was die Übernahme von Confluent durch IBM bedeutet

Am 17. März 2026 hat IBM die Übernahme von Confluent abgeschlossen. Dabei will IBM die Streaming-Plattform mit eigenen Produkten wie watsonx.data, MQ und webMethods verbinden, um so Echtzeitdaten für KI-Anwendungen bereitzustellen.

Für deine Architektur ändert sich am Prinzip jedoch nichts: Apache Kafka bleibt ein offenes Projekt der Apache Software Foundation, und eine Kappa-Architektur bleibt deshalb unabhängig vom Anbieter umsetzbar. Was die Übernahme für Bestandskunden konkret bedeutet, haben wir in unserem Beitrag Confluent ist Teil von IBM zusammengefasst.

Praxis

Beispiel: Ordertracking für Webshop und Data Warehouse

Stell dir ein ERP-System vor, in dem Aufträge, Lieferungen und Rechnungen verwaltet werden, teils von vielen Anwendern, teils automatisiert. Diese Daten sollen dem Kunden im Webshop für das Ordertracking schnell angezeigt werden. Gleichzeitig sollen dieselben Daten für Auswertungen im Data Warehouse bereitstehen.

Mit Kappa schließt sich hier der Kreis:

  1. Events erfassen: Die Änderungen im ERP fließen eventbasiert nach Kafka, zum Beispiel in vier Topics für Auftragskopf, Auftragspositionen, Lieferung und Rechnung.
  2. Für den Shop aufbereiten: Mit Flink oder Kafka Streams werden die Topics angereichert, gefiltert und zu einem Ordertracking-Stream zusammengeführt. Der Shop erhält fertig vorbereitete Daten in kürzester Zeit.
  3. Das Data Warehouse beliefern: Ein vollständig verwalteter Sink-Connector schreibt dieselben Topics in Snowflake, Databricks oder als Iceberg-Tabelle. Key, Value und Header inklusive technischer Zeitstempel stehen automatisch zur Verfügung, die Modellierung bleibt beim DWH-Team.

Eine Technologie bedient so zwei Abnehmer, ohne dass einer vom anderen abhängt: konforme, aufbereitete Daten für den Webshop und quellnahe Rohdaten für das Data Warehouse.

Grenzen

Wann Kappa nicht die richtige Wahl ist

Kappa ist allerdings kein Allheilmittel. Prüfe deshalb vor der Entscheidung vor allem diese Punkte:

  • Sehr lange Historien: Wenn regelmäßig Jahre an Daten neu berechnet werden müssen, kann das erneute Abspielen des Event-Logs teuer und langsam werden.
  • Reine Batch-Quellen: Liefert eine Quelle ohnehin nur tägliche Vollexporte, bringt eine Streaming-Schicht dagegen wenig Mehrwert.
  • Know-how und Betrieb: Stream Processing erfordert außerdem andere Fähigkeiten als klassisches ETL. Ohne Erfahrung im Team lohnt sich daher ein verwalteter Dienst oder externe Begleitung.

In vielen Unternehmen entsteht deshalb eine Mischform: Kappa für eventgetriebene Prozesse und klassische Batch-Integration für den Rest.

Einstieg

So startest du mit der Kappa-Architektur

Ein pragmatischer Einstieg gelingt in wenigen Schritten:

  1. Einen Anwendungsfall wählen, der wirklich von Echtzeit profitiert, etwa Ordertracking, Bestandsinformationen oder Benachrichtigungen.
  2. Quellen eventfähig machen, zum Beispiel per Change Data Capture aus der Datenbank.
  3. Kafka-Plattform aufsetzen, selbst betrieben oder als verwalteter Dienst.
  4. Erste Verarbeitung und einen Sink für das Data Warehouse einrichten.
  5. Betrieb und Governance klären: Schemas, Berechtigungen, Monitoring und Aufbewahrungsfristen.
FAQ

Häufige Fragen zur Kappa-Architektur

Alle Daten laufen als Ereignisse durch ein zentrales Log wie Apache Kafka. Von dort werden sie sowohl an Echtzeit-Abnehmer als auch an einen dauerhaften Speicher für Analytics geliefert. Echtzeit- und Batch-Anforderungen werden so mit einer einzigen Streaming-Schicht bedient.
Lambda betreibt eine Batch- und eine Echtzeit-Schicht parallel, mit zwei Codepfaden und zwei Infrastrukturen. Kappa kommt mit einer Streaming-Schicht aus und berechnet Ergebnisse bei Bedarf neu, indem das Event-Log erneut abgespielt wird.
Nicht zwingend, aber Kafka ist der verbreitetste Standard für das zentrale Event-Log. Entscheidend ist ein dauerhaftes, wiederabspielbares Log, aus dem mehrere Abnehmer unabhängig lesen können.
Ja. Über Sink-Connectors oder offene Tabellenformate wie Apache Iceberg landen die Daten in Snowflake, Databricks oder einem anderen Data Warehouse. Dort stehen sie für Analytics und Batch-Belieferung zur Verfügung.
Am Prinzip nichts. Apache Kafka bleibt ein offenes Apache-Projekt, und Kappa ist anbieterunabhängig umsetzbar. Confluent wird als Plattform unter dem Dach von IBM weitergeführt.
Fazit

Eine Schicht für Echtzeit und Analytics

Mit der Kappa-Architektur bedienst du Echtzeit-Anwendungen und Analytics aus einem Datenstrom, ohne zwei Welten parallel zu pflegen. Real-Time und Analytics sind damit in einer Schicht vereint. Mit Kafka im KRaft-Modus, Flink für die Verarbeitung und offenen Tabellenformaten für das Data Warehouse ist der Stack heute außerdem reifer und einfacher zu betreiben als noch vor wenigen Jahren. Wenn du prüfen möchtest, ob Kappa zu deiner Landschaft passt, sprich uns gern an. Mehr zu unserer Beratung für Apache Kafka und Confluent findest du auf unserer Themenseite.

Autor: Sven Landmann

Hinweis: Dieser Beitrag wurde mit Unterstützung von KI erstellt oder überarbeitet. Inhalte, Struktur und fachliche Bewertung stammen aus der Projektpraxis von cimt; redaktionelle Prüfung und Freigabe erfolgen durch die Autorinnen und Autoren.

Kontakt

Michael Schwarz, cimt
Michael SchwarzHead of Business Enablement & Customer Relations

Event Streaming mit Kafka und Confluent

Du planst eine Kappa-Architektur oder willst Echtzeitdaten in dein Data Warehouse bringen? Wir begleiten dich von der Architektur über die Kafka-Plattform bis zum Betrieb.

Das könnte dich interessieren

Nach oben scrollen