Data Platform Generator

Data ontsluiting sneller, beter en goedkoper 

Het data platform bestaat grofweg uit drie delen: Het ontsluiten van data uit applicaties, het verrijken van die data en tenslotte het visualiseren. De eerste stap is een omvangrijke en vooral technische taak. Met de Data Platform Generator kan dit sneller, beter en goedkoper.

Handmatig bouwen van bronontsluiting

Bij het bouwen van het eerste deel van het data platform wordt de data uit bronapplicaties vaak een-op-een overgenomen. Voor elke tabel wordt een ETL flow gebouwd die elke nacht nieuwe records toevoegt en bestaande en verwijderde records bijwerkt. Dit proces kent geen business logica, maar is een kwestie van simpel en secuur ontwikkelen. In het geval van enkele tabellen is dat prima te doen, maar wat als meer dan honderd tabellen moeten worden ontsloten? Dat wordt dan heel veel handmatig werk, waarin ook onherroepelijk foutjes worden gemaakt. Veel werk dat een lange doorlooptijd heeft, aanzienlijk test- en herstelwerk kent en daardoor veel geld kost.

Masterclass-data-engineer-overleg-code

Wat doet de Data Platform Generator?

De ETL flow wordt met de Data Platform Generator niet geprogrammeerd maar gegenereerd. Op basis van beschrijvingen van de brondata (meta data) wordt de data op een eenduidige manier in het eerste gedeelte van het data platform gezet. Data warehouse best practices als slowly changing dimensions, full loads, delta loads, herstartbare laadprocessen: ze zitten allemaal in de tool. En verandert er wat in de bron? Dan pas je gewoon de meta data aan: je data platform wijzigt dan eenvoudig mee.

Resultaat

Met de Data Platform Generator beschik je over een krachtige tool voor standaard data ontsluiting:
• Genereren gaat vele malen sneller dan programmeren. Hierdoor verkort je de doorlooptijden van het ontwikkelproces.
• Minder fouten door standaardisatie levert minder incidenten op in productie.
• Hoge kwaliteit data platform door toepassing van data warehouse best practices
• Doordat genereren minder inzet kost dan programmeren, bespaar je flink op de ontwikkelkosten van het initieel ontwikkelen van je data platform, maar ook daarna op het onderhouden.

Jeroen-spanjaard

Meer weten? Neem vrijblijvend contact op met