'Zoeken naar balans tussen innovatie en regulering'

Interview Microsoft-directeur Jochem de Groot

Door: Quita Hendrison

Dat innovatie impact heeft op de samenleving is niets nieuws; dat was al zo met de komst van de stoommachine. Maar we constateren ook dat de digitale transformatie voor de snelste omwenteling ooit zorgt. Juist daarom is het van belang dat industrie en overheid samen optrekken om de kaders te bepalen. Jochem de Groot is directeur Corporate Affairs bij Microsoft, een van de grootste spelers in de markt. Tijdens het symposium 'Smart society meets smart design' dat VNG Realisatie organiseert tijdens de Dutch Design Week (26 oktober in Eindhoven) vertelt hij hoe Microsoft aankijkt tegen data-innovatie. Het symposium is onderdeel van een breder programma dat de VNG organiseert op de DDW, met naast het symposium een ideeëncompetitie en 'innovatiekabinet'.

De Groot heeft een verleden in de politiek en de publieke sector en is dus goed bekend met de overheidsarena. Dat maakt hem de juiste man op de juiste plek. Hij is namens Microsoft het aanspreekpunt voor politiek, overheid en maatschappelijk middenveld als het gaat om technologische innovatie in al haar facetten. Microsoft ziet het als een grote verantwoordelijkheid om bij te dragen aan het debat over de rol van technologische innovatie en kunstmatige intelligentie (AI) in de samenleving. "We zijn een mondiale speler en bovendien al bijna 45 jaar; dat is oud in onze industrie. Wellicht dat we daarom die verantwoordelijkheid zo sterk voelen. Wij hebben bovendien een wereldwijde aanwezigheid en kunnen daardoor van invloed zijn. Dat doen we door aan te geven hoe technologie in haar design, implementatie en compliantie verantwoord ingezet kan worden. Maar over wetgeving gaan we uiteraard niet; we willen met onze bijdrage vooral een stimulans geven aan het debat."

"Innovatie snelt altijd vooruit op wetgeving. Dat was al zo toen de auto in opmars raakte en er alleen nog maar regulering rond treinverkeer was. Meer recent zien we hoe platforms als Spotify en Uber juridische antwoorden eisen. Dat de markt een voorsprong heeft is op zich niet erg is want die innovatiekracht hebben we nodig. Maar er moet een goede balans zijn tussen innovatie en regulering. Zelfs de industrie vraagt daar om. Als voorbeeld geef ik de software voor gezichtsherkenning; een ontwikkeling die een extreme vlucht neemt en een enorme impact heeft op onze grondrechten. Laat het niet aan de industrie over om te bepalen wat wel en wat niet mag. Nee, het is aan de overheid om de kaders te bepalen. Wel willen wij van onze kant aangeven wat wij verantwoord gedrag vinden. Ik gebruik expres de term 'verantwoord' en niet het veelgehoorde 'ethisch', want dat laatste impliceert een waardeoordeel, een mening over goed en slecht. Dat waardeoordeel is niet aan ons, een niet-democratisch gekozen bedrijf, maar aan de samenleving en haar gekozen regeringen."

Het gebeurt in de gemeenten

"Onze CEO, Satya Nadella - pas de derde CEO na Bill Gates en Steve Ballmer – geeft onze filosofie goed weer: alle nieuwe technologie moet mensen verbeteren, niet vervangen! Zeker nu de tijd van human parity voorbij is, dat wil zeggen dat technologie steeds intuïtiever wordt en allerlei taken beter kan uitvoeren dan wij mensen, is het cruciaal dat technologie en met name AI human-centered is. Want als dat zo is, kan AI op allerlei vlakken worden ingezet om een betere wereld te creëren. Maar dan moet die verkramping die je nog vaak ziet als er wat misgaat, bijvoorbeeld bij een datalek, eruit. Dat kan alleen als het vertrouwen er is dat ontwikkelingen de ruimte krijgen in een omgeving van vertrouwen en rugdekking. Een lastige balans, waarin de overheid haar rol moet pakken. Ook, en misschien wel vooral de lokale overheid. Nederland loopt wereldwijd voorop met innovatie in de publieke ruimte. Dat komt doordat wij een unieke mix hebben van ondernemerschap, innovatiekracht en de poldercultuur. Waarin uiteenlopende stakeholders van even uiteenlopende disciplines bij elkaar komen.Gemeenten zijn leidend in die ontwikkelingen, want dáár gebeurt het. Niet in Den Haag of in Brussel. Ook gemeenten zullen dus heel bewust over de kaders na moeten denken."

De zes principes

Microsoft heeft zes leidende principes geformuleerd die samen het kader bieden waarmee kunstmatige intelligentie op een verantwoordelijke manier haar rol in samenleving kan pakken. Deze principes worden uitgebreid uiteengezet in de publicatie The Future Computed: Artificial Intelligence and its Role in Society. In het kort:

  1. Eerlijkheid
    Algoritmes zijn niet neutraal; ze zijn afhankelijk van degenen die het algoritme bouwen en de data verzamelen, waardoor niet iedereen gelijk wordt behandeld. Daarom is het goed om het 'bouwteam' divers samen te stellen en om proactief vooroordelen te kunnen identificeren.
  2. Betrouwbaarheid en veiligheid
    De mens moet de baas blijven in design, beheer en verantwoording van AI-technologie. Dat betekent onder meer dat menselijke evaluatie van de trainingsdata gewaarborgd is: vooraf, tijdens en achteraf. Algoritmes moeten dus adaptief zijn.
  3. Privacy en beveiliging van persoonsgegevens
    In Nederland hebben we de Algemene verordening gegevensbescherming en de toezichthouder Autoriteit Persoonsgegevens, maar het is nog wachten op jurisprudentie. De technologie biedt wel grote kansen om compliant te zijn aan de AVG. Anonimiseren en pseudonimiseren zijn belangrijk in de omgang met persoonsgegevens.
  4. Inclusiviteit
    AI moet toegankelijk en ondersteunend zijn voor ieder mens. Dat betekent dat nieuwe technologie niet (al dan niet onbedoeld) groepen mag uitsluiten. 1 op de 6 mensen op de wereld heeft een beperking waarmee bij de ontwikkeling van software rekening gehouden moet worden. Jongeren bijvoorbeeld bellen niet meer, maar appen elkaar. Wat als je slechtziend bent of dyslectisch?

    Tot slot formuleert Microsoft twee onderliggende principes die ook bij de eerste vier principes moeten gelden.
  5. Transparantie
    Het moet altijd duidelijk zijn welke keuzes er zijn gemaakt binnen de context van het gebruik van AI. Die keuzes moeten uitgelegd kunnen worden en openstaan voor tegenspraak.
  6. Verantwoordelijkheid
    Er moeten normen komen waarbinnen bouwers van AI-systemen verantwoording kunnen afleggen over de manier waarop AI-systemen werken en ingezet worden. Dat kan bijvoorbeeld door het instellen van ethische commissies. Ook de principes voor de digitale stad zoals de VNG die promoot zijn een voorbeeld van een normenkader.

Jochem de Groot is op 26 oktober een van de sprekers op het VNG-mini-symposium tijdens de Dutch Design Week in Eindhoven. Samen met andere deskundigen zal hij ingaan op het thema 'Verantwoordelijke data-innovatie'. U kunt daar bij zijn.

Aanmelden en programma-informatie:
vngrealisatie.nl/agenda/symposium-smart-society-meets-smart-design