Piloot aansluiters richting lancering Verenigingsloket

Methode om data te migreren: Excel migratie

In deze methode wordt de data vanuit de huidige gegevensbronnen overgezet naar de Excel template zoals die voorzien wordt door DV (1). Vervolgens wordt deze Excel op een veilige manier verzonden naar DV (2). DV laadt de data via een speciaal daarvoor ontworpen migratietool op in het verenigingsregister (3). Tenslotte wordt de data ingelezen in het eigen masterdata systeem op basis van een initiële leesoperatie in het verenigingsregister (via MAGDA).

Overzicht en tijdslijjn

Uitleg per fase

Betrokken partijen:

• Piloot: de piloot aansluiters

• DV: Digitaal Vlaanderen

STAP 1 van 4 - Voorbereiden van de gegevens

Oct 9, 2023 → Nov 10, 2023

Documenteren van de oorsprong van de gegevens

Piloten geven aan op welke manier zij de migratie-Excels hebben opgemaakt (zie vragenlijst). Hierin staat van waar de gegevens komen, hoe de actualiteit en correctheid wordt ingeschat, etc.

Vullen van de Excelbestanden

De Excel templates zijn hier terug te vinden: Verenigingsgegevens voorbereiden | Voorbereidingskit . We verwachten uiteindelijk 2 Excel bestanden (een voor de feitelijke verenigingen en een andere voor de KBO verenigingen)

De piloot zorgt er voor dat de migratie Excels ingevuld worden met de gegevens van ALLE verenigingen die ze wensen op te laden.

Hierbij is het niet de bedoeling om gegevens te gaan opzoeken die op dit moment niet gekend zijn (zoals bijvoorbeeld de website van de vereniging). Het is WEL de bedoeling om verplichte gegevens te gaan opzoeken of opvragen (zoals bijvoorbeeld het rijksregisternummer van de vertegenwoordigers, of andere gevens om te voldoen aan de minimum dataset)

Wanneer de Excels klaar zijn, worden deze doorgegeven naar DV en dit ten laatste op Nov 10, 2023. Om deze data door te sturen vragen wij elke piloot om een gedeelde folder te maken op zijn eigen SharePoint omgeving Die folder wordt dan gedeeld met DV door te delen met volgende e-mail adressen:

• frank.wambacq@vlaanderen.be

• evelien.dheer@vlaanderen.be

Gelieve ons via e-mail te contacteren:

• telkens een nieuwe set van bestanden klaar staat.

• indien u hulp nodig hebt om deze gedeelde folder op te zetten of wanneer u niet zou beschikken over SharePoint, of een gelijkaardige functionaliteit.

STAP 2 van 4 - Eerste validatie ronde

Nov 10, 2023 → Nov 24, 2023

Controleren van de Excelbestanden

Zodra de eerste versie van het migratiebestand klaar is, zal DV deze nakijken en valideren. Er wordt vooral gecontroleerd op:

• Is voor elke vereniging voldaan aan de minimum dataset ?

• Zijn de verplichte velden allemaal aanwezig?

• Hebben alle velden een plausibele waarde?

• Ziet het formaat van de velden er uit zoals we dat zouden verwachten?

• Zijn er dubbels binnen de verenigingen?

Van zodra het bestand gevalideerd is, koppelt DV de bevindingen terug naar de piloot die deze kan verwerken tot een verbeterde versie. Deze validatie kan itereren tot ten laatste Nov 24, 2023.

STAP 3 van 4 - Tweede validatie ronde

Nov 24, 2023 → Dec 6, 2023

Deze fase eindigt op Dec 6, 2023, wanneer de effectieve productie-omgeving wordt klaargezet.

Documenteren van de nieuwe manier van beheren en synchroniseren na migratie van de gegevens

Vooraleer gegevens opgeladen worden in productie, beschrijven de piloten op welke manier zij na migratie gegevens actueel gaan houden en gaan hergebruiken (zie vragenlijst).

De antwoorden op deze vragenlijst woorden bij de start van deze validatieronde naar DV verstuurd. DV zal de piloten contacteren bij onduidelijkheden of vragen.

Opladen van de Excelbestanden voor validatie

Ten laatste op Nov 24, 2023 ontvangt DV van de piloot de 2 Excel bestanden die gebruikt gaan worden in deze validatie ronde.

In deze ronde zal DV de gegevens effectief opladen, maar wel in een gescheiden omgeving. DV maakt hierbij gebruik van de tools en de validaties zoals dit ook voor productie zal gebeuren. Na het opladen wordt een rapport bezorgd met de resultaten:

• Welke verenigingen zijn correct opgeladen

• Voor welke verenigingen waren er nog fouten in de op te laden data

• Welke verenigingen werden gemarkeerd als een potentiële dubbel met andere verenigingen

DV bezorgt dit rapport aan de piloot die deze kan verwerken tot een verbeterde versie. In deze versie zijn:

• de fouten verbeterd

• de gemarkeerde dubbels gecontroleerd. Wanneer het om een effectieve dubbel ging, wordt de vereniging uit het bestand gehaald. Wanneer de vereniging toch uniek blijkt te zijn, dan wordt aangeduid in het bestand dat deze geverifieerd is.

Wanneer alle piloten een eerste versie opgeladen hebben, bestaat er de mogelijkheid om het verbeterde bestand op te laden. Dit bestand kan met of zonder de reeds correct opgeladen verenigingen zijn. Wanneer deze er nog in aanwezig zijn, dan zullen deze als potentiële dubbel (van zichzelf) naar boven komen.

STAP 4 van 4 - Opladen van de gegevens (+ plan van aanpak)

Dec 8, 2023 → Dec 22, 2023

Opladen van de bestanden in de productie-omgeving

Ten laatste op Dec 8, 2023 is DV in het bezit van de gevalideerde bestanden met verenigingen die mogen opgeladen worden in de productie omgeving.

Deze bestanden worden opgeladen zoals bij de vorige ronde. Eventuele validatie issues worden teruggekoppeld en kunnen nog verbeterd worden. Door de dry-run in validatie ronde 2 zou dit al sterk beperkt moeten zijn. DV kan alsnog gecorrigeerde bestanden ontvangen en verwerken tot Dec 22, 2023. Vanaf dan stopt de migratie ronde.

Streefdoel voor opladen data in productie

We streven er naar om tegen dan >=80% van de initiële data opgeladen te hebben. Dit cijfer houdt rekening met o.a.

• verplichte, ontbrekende data die niet tijdig kon opgevraagd worden

• verenigingen die als potentiële dubbel gemarkeerd zijn en ofwel niet geverifieerd zijn ofwel erkend als dubbel.

Na migratie: beheer via MAGDA

Vanaf Dec 22, 2023

Van zodra de data van een piloot opgeladen is in de productie omgeving, wordt deze piloot geacht om de data van deze verenigingen up-to-date te houden met behulp van de MAGDA interface.