DEDA geeft zicht op de andere kant van data

'Ethiek is van iedereen'

Door: Quita Hendrison

Data, algoritmes, blockchain, artificial intelligence; gemeenten zetten deze nieuwe technologieën steeds vaker in om hun dienstverlening slimmer, sneller en effectiever te maken. Maar dat brengt nieuwe vragen met zich mee. Over regelgeving en privacy, maar óók over ethische kwesties. De Ethische Data Assistent (DEDA) helpt om ethische vraagstukken in dataprojecten, datamanagement en databeleid tijdig te herkennen.

De Utrecht Data School (UDS), onderdeel van de Universiteit Utrecht, doet onder meer onderzoek naar dataficatie bij gemeenten en in hoeverre dat ons begrip van burgerschap en democratie bepaalt. Projectleider en universitair hoofddocent Mirko Tobias Schäfer: 'We doen dat altijd schouder aan schouder met mensen uit het onderzoeksveld. Met de gemeente Utrecht zijn we al in 2013 gaan kijken wat datagedreven bestuur betekent voor de burgers. Dan kom je automatisch ook bij ethische kwesties terecht. Mag je voor de bestrijding van armoede data gebruiken, zo ja welke en welke beslissingen mag je op basis van die data nemen? Natuurlijk, de wet reguleert, maar zijn je beslissingen ook moreel verantwoord? En in hoeverre wordt de keuze voor een algoritme bepaald door de politieke kleur van de raad? We zien in deze kwesties veel professionele integriteit bij ambtenaren, maar ook gebrek aan houvast.'

Ook politiek

Om dat houvast te bieden heeft de Utrecht Data School De Ethische Data Assistent, kortweg DEDA ontwikkeld, een model waarmee teams bij de start en bij evaluatiemomenten van een dataproject kunnen nadenken over alle implicaties en mogelijke complicaties. Schäfer: 'Ethisch bewustzijn is bij een dataproject net zo belangrijk als wet- en regelgeving. Datagestuurd bestuur bepaalt immers meer en meer hoe we met elkaar leven. Een dataproject is niet alleen techniek, maar ook politiek. Je wilt als gemeente een verantwoorde datapraktijk voeren. Ik ben van mening dat de raad een duidelijk standpunt moet formuleren over data; de stem van het volk zit immers in de raad. Maar dat zie je nog vrijwel nergens, terwijl de samenleving daar onvermijdelijk steeds luider om zal gaan vragen.'

Schäfer en de UDS zijn niet alleen geïnteresseerd in de onderzoekskant maar ook in de impact van DEDA op de gemeentelijke praktijk. Hij ziet duidelijk de voordelen voor gemeenten 'Met DEDA zeg je 'wat kan er misgaan en wat doen we dan?' in plaats van 'help, we hebben een datalek!'. Het leidt op alle terreinen tot betere dataprojecten, bijvoorbeeld doordat het je kan behoeden voor commerciële blackboxes of technologische lock-ins. Het maakt beslisprocessen transparant en zorgt voor accountability. En dat kun je vervolgens allemaal delen met andere gemeenten. Niet alleen met de data-specialisten. Juist niet. Kennis van en aandacht voor data is voor elke ambtenaar van belang. Onder elk rapport en elke beslissing liggen immers data. Dus om beleid te maken moet je kunnen bepalen, of in elk geval kunnen laten bepalen, hoe je een dataproject inricht.'

Project laten leven

VNG Realisatie heeft de ethische kant van data met verve opgepakt en heeft een licentie om DEDA-workshops aan te bieden. Zo'n twintig gemeenten zijn al langs geweest op de Data Awareness Dagen van de Data Science Hub, onderdeel van VNG Realisatie. Projectleider en mathematicus Auke Mollema: 'Gemeenten kunnen niet meer om het werken met data heen; voor sommigen een relatief nieuw terrein, zeker voor niet-specialisten. Je merkt dat de discussies bij het opzetten van een dataproject al snel over de juridische aspecten gaan. Belangrijk en noodzakelijk, maar ook erg theoretisch; dat slaat discussies dood en gooit deuren direct dicht. En dat maakt het lastig om zo'n project te laten leven, laat staan op te starten. Dat lukt veel beter als je in het projectteam de al even noodzakelijke ethische discussie aangaat. Dan blijkt namelijk dat iedereen aan tafel er wel wat van vindt. We hebben immers allemaal ideeën over wat wel en niet kan. Over hoe je rekening houdt met de belangen van de organisatie én die van de inwoners van wie je data verzamelt en gebruikt. En dat gaat over de grenzen van functies heen; je stapt al snel uit je ambtelijke functie en bekijkt het vanuit (je eigen) inwonersperspectief. Niet alleen de dataspecialist is dan expert, maar ook de beleidsadviseur en de communicatieadviseur.'

Voor de eerder genoemde privacyaspecten hebben gemeenten onder meer de PIA (Privacy Impact Assessment) om een dataproject aan te toetsen. Voor de ethische kant is er nu DEDA. Mollema: 'DEDA is een vragenlijst, vormgegeven als een grote poster, die je met het team afloopt. Dat gaat van heel breed (wie kunnen door dit dataproject worden beïnvloed?) tot specifiek (hoe wordt toegang gemonitord?). Door deze vragen te beantwoorden komen er vraagstukken naar boven die anders wellicht niet belicht zouden worden. Met alle mogelijke gevolgen van dien. Een helder voorbeeld van zo'n vraag: is er iemand in het team die het gebruikte algoritme kan uitleggen? Heel belangrijk vóór transparantie en tégen de argwaan die bij het publiek nog weleens leeft als het om data gaat. Met DEDA identificeer je problemen en kun je ze voorkomen. Maar het is meer dan een vragenlijst. Het ethisch beslismodel “dwingt” collega's om samen hun gedachten te vormen; het dicht de kloof tussen data en beleid. En omdat ethiek van iedereen is - iedereen “vindt er wat van” - mag je praten als persoon in plaats van als ambtenaar. Dat geeft de ruimte en rust om ingewikkelde kwesties te doorgronden.'

Aandacht en oefenen

Nadja Wiss, beleidsadviseur gegevensmanagement bij de gemeente Stichtse Vecht, heeft ervoor geijverd zoveel mogelijk mensen naar de Data Awareness Dag van de Data Science Hub te krijgen. 'Ik ben via VNG Realisatie en Utrechtse Data School in aanraking gekomen met DEDA en zag meteen het belang ervan in. Elke gemeente moet vroeg of laat aan slag met datagestuurd werken. En elk datavraagstuk richt zich uiteindelijk op de inwoners. Maar je moet eerst alles intern op orde hebben voordat je naar buiten kunt met een project. Wat wil je precies, wat kun je met de data, hoe vertel je het je inwoners? De Data Awareness Dag is de eerste belangrijke stap. Vooral omdat je tijdens de bijeenkomst met echte casussen aan de slag kunt. De dag begint met aandacht voor bewustwording en bewust zijn. Niet per se alleen rondom data, maar in het algemeen; zien we wel wat we moeten zien? Daarna ga je oefenen met DEDA.'

'Ik vond het belangrijk om met de hele breedte aan disciplines te gaan; van de applicatiebeheerder tot de beleidsadviseur en de data-analist die iedereen aan elkaar verbindt. Iedereen komt verrijkt van zo'n bijeenkomst terug. De mensen die nog niks snapten van data, maar ook de specialisten die extra handvatten aangereikt kregen. Ik raad elke gemeente aan om zo veel mogelijk collega's te mobiliseren. Het is een kleine moeite - je kunt het bovendien in eigen huis organiseren - met groot resultaat. En het is enorm leuk. Het heeft ons de energie gegeven om flink door te pakken met dataprojecten. Als eerste met onze casus rond schuldhulpverlening. We gaan kijken welke dataset we hebben, wat we ermee willen en vooral ook naar de ethische aspecten. Mag je data bijvoorbeeld inzetten voor vroegsignalering van schulden? Met DEDA halen we op een grondige manier de juiste vragen naar boven.'