Logo

Data Warehouse

Wie verteilte Systeme ihren Platz fanden – Baustein für Baustein.

Viele Daten, wenig Übersicht: Was vorher nur bruchstückhaft erkennbar war, wurde in einem zentralen Data Warehouse zusammengeführt – systemübergreifend, nachvollziehbar und jederzeit auswertbar. Weil die Informationen flüchtig und die Anforderungen im Wandel waren, setzten wir auf robuste ETL-Strecken, modulare Komponenten und ein flexibles Reporting. Heute reicht ein Blick – live oder rückblickend – um zu sehen, was im System wirklich läuft.

Eckdaten auf einen Blick

Aufgaben

NeuentwicklungOutsourcingSupport

Rollen

ArchitektRequirements EngineerProjektleitungEntwicklerScrum MasterTest EngineersDevOps-Experten

Produkte

Web AppGUIClient-Server EntwicklungDatenbank

Herausforderung

Unser Kunde arbeitete mit einem System, das sich aus mehreren Subsystemen zusammensetzte – jedes für sich komplex, im Zusammenspiel noch komplexer. Was fehlte: der Überblick.

Gesucht war ein zentrales Cockpit, das zeigt:

  • Wie hängen die Subsysteme zusammen?
  • Wie gesund ist jedes einzelne davon?
  • Wie schnell wandern Meldungen durchs System?
  • Welche Daten fallen, wo an – und was lässt sich daraus ableiten?

Und das Ganze nicht nur in Echtzeit, sondern auch rückblickend – als Grundlage für Reports, Analysen und neue Use Cases.

Der Knackpunkt:
Die Subsysteme waren ursprünglich nicht dafür gebaut, ihre Daten weiterzugeben – schon gar nicht an ein zentrales System. Und viele der „interessanten“ Informationen waren nur für kurze Zeit sichtbar, bevor sie wieder verschwanden.

Die technische Herausforderung:
Daten, die flüchtig waren. Anforderungen, die sich laufend veränderten. Und Systeme, die nicht miteinander sprechen wollten.

Unsere Aufgabe:
Daten dauerhaft erfassen, sinnvoll strukturieren – und zugänglich machen für alles, was noch kommen sollte.

Visualisierung einer Überwachungskammera im High Key Foto-Stil

Erfolg

Es wurde ein Datawarehouse entwickelt, welches via Webinterface die gesammelten Daten zur Verfügung stellt. Es bietet die gewünschte Möglichkeit, um den Einblick in das System zu erhalten und dies – bei Bedarf – bis ins Detail des Subsystems.

Ein Knackpunkt war, dass alle Daten gespeichert werden mussten, um diese später im Datawarehouse auswerten zu können.

Für den Datentransfer wurden spezifische konfigurierbare Software-Komponenten (ETL’s) entwickelt, welche die Daten (meist von Log-Files) an das DWH lieferten. Das Herzstück ist die Aufbereitung der Daten, welche mit Logik soweit verlinkt wurden, dass basierend auf den Daten der einzelnen Subsysteme am Schluss eine Übersicht durch das gesamte System, also über die Grenzen der Subsysteme hinweg möglich ist.

Damit auf dem Web-UI nicht jeder Report einzeln ausprogrammiert werden musste, verwendete man einen generiesch Ansatz, um Reports mit Filtermöglichkeiten schnell zusammenzustellen, was den Aufwand bei der Web-Entwicklung reduzierte und «nur» definiert werden musste, was eigentlich der Report anzeigen soll.

Das Datewarehouse unterstützt natürlich die Möglichkeit die Daten für bestimmte User eingeschränkt darzustellen, dies bezieht sich nicht nur auf die Funktionen sondern auch auf die eigentlichen Datensätze, welche nicht für jeden User frei verfügbar sein sollen. Stichwort: Datenschutz

Arbeitsweise

Agil statt auf Verdacht

Da der genaue Umfang zu Beginn noch nicht absehbar war, haben wir auf einen agilen Entwicklungsprozess gesetzt.


Der Vorteil: Der Kunde konnte als Product Owner aktiv mitsteuern – Prioritäten anpassen, neue Anforderungen einbringen und die Richtung laufend mitgestalten.

Entwickelt wurde in klar strukturierten Sprints. So entstanden funktionierende Features Schritt für Schritt – von der Datenquelle bis zur Web-Oberfläche.
Vertikal gedacht, voll einsatzfähig. Und jederzeit erweiterbar.

Tech Stack

Methoden & Paradigmen

Server-Technologie

Datenbanktechnologien

Sprachen & Frameworks

Kommunikationstechnologien

Webentwicklungstechnologien

Kommunikation/ Protokolle