Versions Compared

Key

  • This line was added.
  • This line was removed.
  • Formatting was changed.
Comment: draw.io diagram "Migratiemethoden VR.drawio" bewerkt
Info

Deze pagina beschrijft het stappenplan om

...

bestaande

...

verenigingsgegevens op te laden in de productie

...

-omgeving voor de eerste piloot-aansluiters voor de lancering van het loket (30/01/23). De concrete partijen worden hieronder benoemd.

Voor alle andere aansluiters, na de lancering van het Verenigingsloket, zal er in een gelijkaardig traject opgezet worden (met lessen die we leren uit de piloten). We bekijken nog hoeveel aansluiters we kunnen ondersteunen binnen welke tijdsspanne.

Table of Contents

Piloot aansluiters

...

We identificeren momenteel de volgende piloot aansluiters.

...

richting lancering Verenigingsloket

Organisatie

SPOC

Aalst

Bregt Van Den Bergh

Evergem

Marc Goethals

ULDK (Departement CJM)

Didier Claessens

VSVW

Eva Hambach

Kiosk (Departement CJM)

Johan Daniëls

Methode om data te migreren

...

Er bestaan 2 manieren om de initiële set van data op te laden in het verenigingsregister en uiteindelijk ook in jouw eigen master data systeem voor verenigingsgegevens.

: Excel migratie

Drawio
mVer2
zoom1
simple0
zoominComment10
inCommentcustContentId06464243843
pageId6462081637
custContentIdlbox64642438431
diagramDisplayNameMigratiemethoden VR.drawiolbox1
contentVer24
revision24
baseUrlhttps://vlaamseoverheid.atlassian.net/wiki
diagramNameMigratiemethoden VR.drawio
pCenter0
width1001871
links
tbstyle
height721

Migratie via API

In deze methode wordt de data vanuit de huidige gegevensbronnen opgeladen naar het masterdatasysteem (1). Van daaruit zal een initiële synchronisatie tussen masterdata systeem en het verenigingsregister (over MAGDA) de gegevens opladen in het verenigingsregister (2).

Migratie via Excel

331

In deze methode wordt de data vanuit de huidige gegevensbronnen overgezet naar de Excel template zoals die voorzien wordt door DV (1). Vervolgens wordt deze Excel op een veilige manier verzonden naar DV (2). DV laadt de data via een speciaal daarvoor ontworpen migratietool op in het verenigingsregister (3). Tenslotte wordt de data ingelezen in het eigen masterdata systeem op basis van een initiële leesoperatie in het verenigingsregister (via MAGDA).

Note

Wat wordt wel/niet ondersteund in deze methode

Deze migratie via Excel ondersteunt het eenmalig toevoegen van verenigingsdata aan het verenigingsregister (in naam van de piloot aansluiter) op basis van gegevens ingevuld in een daarvoor bestemd Excel document.

Deze migratie methode ondersteunt niet het wijzigen, toevoegen of verwijderen van gegevens van een vereniging eens deze is opgeladen.

Overzicht en tijdslijjn

Drawio
mVer2
zoom1
simple0
inComment0
custContentId6463258806
pageId6462081637
lbox1
diagramDisplayNameStappenplanMigratiePilotenVR.drawio
contentVer45
revision45
baseUrlhttps://vlaamseoverheid.atlassian.net/wiki
diagramNameStappenplanMigratiePilotenVR.drawio
pCenter0
width720.5
links
tbstyle
height381

Uitleg per fase

Betrokken partijen:

  • Piloot: de piloot aansluiters

  • DV: Digitaal Vlaanderen

STAP 1 van 4 - Voorbereiden van de gegevens

05

...

Documenteren van de oorsprong van de gegevens

Piloten geven aan op welke manier zij de migratie-Excels hebben opgemaakt (zie vragenlijst). Hierin staat van waar de gegevens komen, hoe de actualiteit en correctheid wordt ingeschat, etc.

Vullen van de Excelbestanden

De Excel templates zijn hier terug te vinden: https://vlaamseoverheid.atlassian.net/wiki/spaces/AGB/pages/6305743459/Verenigingsgegevens+voorbereiden#Voorbereidingskit . We verwachten uiteindelijk 2 Excel bestanden (een voor de feitelijke verenigingen en een andere voor de KBO verenigingen)

De piloot zorgt er voor dat de migratie Excels (zie sjablonen) ingevuld worden met de gegevens van ALLE verenigingen die ze wensen op te laden.

...

Wanneer de Excels klaar zijn, worden deze opgeladen doorgegeven naar DV en dit ten laatste op . DV zoekt momenteel nog naar het beste mechanisme om deze gegevens beveiligd door te sturen. Ten laatste wordt deze methode beschreven.

Migratie via API

Indien dit nog niet is gebeurd, worden de huidige gegevens bronnen overgezet naar het master data systeem voor verenigingsdata.

Beide methoden

Piloten geven aan op welke manier zij de migratie-Excels hebben opgemaakt (zie sjablonen). Hierin staat van waar de gegevens komen, hoe de actualiteit en correctheid wordt ingeschat, etc.

Om deze data door te sturen vragen wij elke piloot om een gedeelde folder te maken op zijn eigen SharePoint omgeving Die folder wordt dan gedeeld met DV door te delen met volgende e-mail adressen:

  • frank.wambacq@vlaanderen.be

  • evelien.dheer@vlaanderen.be

Gelieve ons via e-mail te contacteren:

  • telkens een nieuwe set van bestanden klaar staat.

  • indien u hulp nodig hebt om deze gedeelde folder op te zetten of wanneer u niet zou beschikken over SharePoint, of een gelijkaardige functionaliteit.

STAP 2 van 4 - Eerste validatie ronde

Migratie via Excel

Note

In deze ronde zijn de INSZ nummers van de vertegenwoordigers NIET aanwezig. Als ze in het interne bestand al ingevuld zijn, dan worden deze eerst leeg gemaakt vooraleer ze naar DV verstuurd worden ter validatie.

Controleren van de Excelbestanden

Zodra de eerste versie van het migratie bestand migratiebestand klaar is, zal DV deze nakijken en valideren. Er wordt vooral gecontroleerd op:

  • Is voor elke vereniging voldaan aan de minimum dataset ?

  • Zijn de verplichte velden allemaal aanwezig?

  • Hebben alle velden een plausibele waarde?

  • Ziet het formaat van de velden er uit zoals we dat zouden verwachten?

  • Zijn er dubbels binnen de verenigingen?Zijn alle afdelingen en feitelijke verenigingen opgedeeld in de juiste groep? Zitten hier geen KBO verenigingen tussen? Of afdelingen die eigenlijk een feitelijke vereniging onder koepel zijn?

Van zodra het bestand gevalideerd is, koppelt DV de bevindingen terug naar de piloot die deze kan verwerken tot een verbeterde versie. Deze validatie kan itereren tot ten laatste

Migratie via API

DV neemt contact op met de piloot om de data te valideren die aanwezig is in het masterdata systeem.

Indien mogelijk genereert de piloot reeds de API calls die zullen uitgevoerd worden voor de initiële synchronisatie (JSON formaat van de request bodies).

DV controleert deze data met dezelfde criteria als bij de Excel migratie.

Tweede validatie ronde

.

STAP 3 van 4 - Tweede validatie ronde

Deze fase eindigt op , wanneer de effectieve productie-omgeving wordt klaargezet.

Documenteren van de nieuwe manier van beheren en synchroniseren na migratie van de gegevens

Vooraleer gegevens opgeladen worden in productie, beschrijven de piloten op welke manier zij na migratie gegevens actueel gaan houden en gaan hergebruiken (zie vragenlijst).

De antwoorden op deze vragenlijst woorden bij de start van deze validatieronde naar DV verstuurd. DV zal de piloten contacteren bij onduidelijkheden of vragen.

Opladen van de Excelbestanden voor validatie

Ten laatste op ontvangt DV van de piloot de 2 Excel bestanden die gebruikt gaan worden in deze validatie ronde.

...

Wanneer alle piloten een eerste versie opgeladen hebben, bestaat er de mogelijkheid om het verbeterde bestand op te laden. Dit bestand kan met of zonder de reeds correct opgeladen verenigingen zijn. Wanneer deze er nog in aanwezig zijn, dan zullen deze als potentiële dubbel (van zichzelf) naar boven komen.

Deze fase eindigt op , wanneer de effectieve productie omgeving wordt klaargezet.

STAP 4 van 4 - Opladen van de gegevens (+ plan van aanpak)

Opladen van de bestanden in de productie-omgeving

Ten laatste op is DV in het bezit van een gevalideerd bestand de gevalideerde bestanden met verenigingen die mogen opgeladen worden in de productie omgeving.

Dit bestand wordt Deze bestanden worden opgeladen zoals bij de vorige ronde. Eventuele validatie issues worden teruggekoppeld en kunnen nog verbeterd worden. Door de dry-run in validatie ronde 2 zou dit al sterk beperkt moeten zijn. DV kan alsnog gecorrigeerde bestanden ontvangen en verwerken tot . Vanaf dan stopt de migratie ronde.

Streefdoel voor opladen data in productie

We streven er naar om tegen dan >=80% van de initiële data opgeladen te hebben. Dit cijfer houdt rekening met o.a.

  • verplichte, ontbrekende data die niet tijdig kon opgevraagd worden

  • verenigingen die als potentiële dubbel gemarkeerd zijn en ofwel niet geverifieerd zijn ofwel erkend als dubbel.

Bij het opladen van de gegevens vragen we aan de piloten op welke manier zij na migratie gegevens actueel gaan houden en gaan hergebruiken (zie sjablonen). De aanpak wordt gevalideerd door DV.

...

Na migratie: beheer via MAGDA

Vanaf

Van zodra de data van een piloot opgeladen is in de productie omgeving, wordt deze piloot geacht om de data van deze verenigingen up-to-date te houden met behulp van de MAGDA interface.

Sjabloons voor aan te leveren data

Migratie Excels

De Excel templates zijn hier terug te vinden: https://vlaamseoverheid.atlassian.net/wiki/spaces/AGB/pages/6305743459/Verenigingsgegevens+voorbereiden#Voorbereidingskit . We verwachten uiteindelijk 2 Excel bestanden (een voor de feitelijke verenigingen & afdelingen en een andere voor de KBO verenigingen)

Oorsprong van de gegevens

Om een idee te krijgen van de oorsprong van de gegevens alsook actualiteit en correctheid, voorziet de piloot een antwoord op volgende vragen:

...

Hoe zijn deze migratie Excels tot stand gekomen?

...

Zijn jullie zeker dat alle verenigingen nog steeds bestaan?

...

Hebben jullie deze data voorgelegd aan de verenigingen om deze te valideren?

...

Welke data was al aanwezig en welk is omwille van deze migratie opgezocht en aangevuld?

...

Is er intern al gecontroleerd dat er geen dubbels aanwezig zijn in de data?

Beschrijving plan van aanpak voor de beheersfunctie

Na de initiële migratie nemen de piloten hun taak op als gegevens initiator. Een onderdeel van deze taak is het meewerken aan het actueel houden van de verenigingsdata op een correct en veilige manier. Om dit te evalueren, vragen we aan de piloten om een antwoord te geven op de volgende vragen.

Note

DV zal pas data opladen in productie wanneer de antwoorden ontvangen zijn en DV geoordeeld heeft dat de piloot de taak van initiator op een afdoende manier opneemt startende van het moment van migratie.

...

Hoe hebben jullie de verenigingen geïnformeerd dat hun gegevens overgezet gaan worden naar het verenigingsregister?

...

Hoe hebben jullie de verenigingen de kans gegeven om deze gegevens te actualiseren vooraleer de finale data aangeleverd werd?

...

Hoe kunnen jullie verenigingen ook na migratie de wijzigingen van hun gegevens doorgeven?

...

In welke toepassingen worden deze gegevens verzameld ?

...

Op welke manier worden deze gegevens vanuit deze toepassingen gesynchroniseerd van en naar het verenigingsregister?

...

Welke acties voorzien jullie om er voor te zorgen dat jullie steeds in het bezit zijn van de meest actuele gegevens?

...

Zijn er eventueel proactieve acties voorzien om de huidge gegevens regelmatig te laten controleren?

...

Voorzien jullie maatregelen die er voor zorgen dat het voordelig is voor jullie verenigingen om de gegevens actueel te houden?

...

In hoeverre worden deze gegevens beschermd voor oneigenlijk gebruik?

...

In het bijzonder: Zijn de persoons gegevens voldoende afgeschermd voor oneigenlijk gebruik buiten de bevoegde ambtenaren?

...

Op welke manier worden de aangeleverde gegevens gevalideerd dat ze wel correct zijn?

...

Welke toepassingen maken gebruik van verenigingsgegevens? Geef voor elk van deze toepassingen aan op welke manier zij de data uit het verenigingsregister gaan herbruiken en of deze de data uit het verenigingsregister ook zal actualiseren. Geef ook een tijdsindicatie aan vanaf wanneer deze toepassing dit zal doen.

...

.