Der Datentransformationsprozess folgt einer klar strukturierten Abfolge von Schritten. Wird ein Schritt übersprungen, entstehen nachgelagerte Fehler, die oft erst dann sichtbar werden, wenn Unternehmensentscheidungen auf Basis fehlerhafter Daten getroffen werden. Konkrete Beispiele für jeden einzelnen Schritt in der Praxis finden sich in unserer Übersicht zu Datentransformationsbeispielen.
Bevor Transformationsregeln erstellt werden, prüfen Analytikerinnen und Analytiker die eingehenden Daten auf Nullwerte, Duplikate, Typinkonsistenzen und Ausreißer. Eine Profilierungsanalyse eines CRM-Exports kann beispielsweise ergeben, dass bei 12 % der Datensätze keine E-Mail-Adresse vorhanden ist, dass das Feld „state“ sowohl Abkürzungen als auch vollständige Namen enthält und dass vereinzelte Datensätze Erstellungsdaten aus dem Jahr 1900 aufweisen. Profiling legt den Umfang des Problems offen und zeigt auf, welche Transformationstypen erforderlich sind.
Ingenieurinnen und Ingenieure sowie Analytikerinnen und Analytiker legen gemeinsam fest, wie „gute“ Daten aussehen. Die Regeln werden dokumentiert, damit sie bei jeder Pipeline-Ausführung konsistent angewendet werden – und nicht von verschiedenen Teammitgliedern unterschiedlich ausgelegt werden. Eine Regel könnte beispielsweise lauten: "Alle Datumsfelder müssen im ISO-8601-Format (YYYY-MM-DD) in UTC konvertiert werden. Datensätze mit leeren E-Mail-Adressen werden beibehalten, aber mit dem Feld data_quality_warning mit dem Wert ‚missing_email‘ gekennzeichnet." In diesem Schritt werden Datenmodellierungsentscheidungen getroffen, da das Zielschema definiert sein muss, bevor entsprechende Regeln erstellt werden können.
Die Regeln werden per Code (SQL, Python), über ein visuelles ETL- oder ELT-Tool oder mithilfe eines deklarativen Transformations-Frameworks ausgeführt. In diesem Schritt werden die Rohdaten in das Zielformat überführt.
Transformierte Daten werden auf erwartete Zeilenanzahlen, Wertebereiche und referenzielle Integritätsprüfungen getestet. Sinkt die Zeilenanzahl um mehr als einen definierten Schwellenwert, sollte dies einen Alarm auslösen, bevor die Daten das Warehouse erreichen. Erst durch Datenvalidierung in diesem Schritt lässt sich eine zuverlässige Pipeline von einer unterscheiden, die nachgelagerte Berichte unbemerkt verfälscht.
Der Prozess verläuft in der Praxis selten linear. Validierungsfehler führen zurück zu Schritt 2, wo die Regeln überarbeitet werden. Unternehmen, die die Transformation als einmaliges Projekt statt als kontinuierliche Pipeline-Disziplin betrachten, erleben regelmäßig, wie die Datenqualität mit der Zeit sinkt – wenn sich Quellsysteme ändern und neue Felder ohne entsprechende Transformationsregeln eingeführt werden.
Das Wichtigste in Kürze: Die Qualität der Transformation wird in der Phase der Regeldefinition festgelegt – nicht bei der Ausführung. Wer in Schritt 2 investiert, senkt die Fehlerkosten in Schritt 4.