Brief regering; Kabinetsreactie op het ROB-advies 'Sturen of gestuurd worden' - Informatie- en communicatietechnologie (ICT) - Hoofdinhoud

Deze brief is onder nr. 806 toegevoegd aan dossier 26643 - Informatie- en communicatietechnologie (ICT).

Officiële titel	Informatie- en communicatietechnologie (ICT); Brief regering; Kabinetsreactie op het ROB-advies 'Sturen of gestuurd worden'
Document­datum	16-12-2021
Publicatie­datum	16-12-2021
Nummer	KST26643806
Kenmerk	26643, nr. 806
Commissie(s)	Digitale Zaken (DIZA)
Externe link	origineel bericht
Originele document in PDF

Tweede Kamer der Staten-Generaal

Vergaderjaar 2021-2022

kst-26643-806 ISSN 0921 - 7371 's-Gravenhage 2021

Samenvatting van het advies

Kern van het advies van de Raad is om de publieke verantwoording over sturen met data beter te organiseren. De Raad constateert namelijk dat er sprake is van een «verantwoordingskloof»: een kloof tussen de politieke besluitvorming over sturen met data en de impact van sturen met data in de praktijk. Deze kloof kan ertoe leiden dat maatregelen in overheidsbeleid ongewenste effecten hebben. Ook ziet de Raad het gevaar dat deze kloof kan leiden tot onvoldoende tegenmacht tegen de toenemende sturing van techbedrijven in het alledaagse leven van burgers.

De Raad stelt voor om de verantwoordingskloof te dichten door:

• 1. 

  De «transparantie-paradox»¹ te doorbreken door de focus te verleggen van het verzamelen van data over burgers naar het verzamelen van data over partijen die sturen met data;

• 2. 

  De «black box»² te openen door de focus te verleggen van inzicht in de motieven en overwegingen van burgers naar inzicht in de motieven en overwegingen van partijen die sturen met data;

• 3. 

  De kans op ontsporing te verkleinen door de focus te verleggen van burgers die worden gestuurd met data naar burgers behoeden voor risico's van data-sturing en hen het beleid te laten mee- en bijsturen.

De Raad ziet hierbij een belangrijke rol weggelegd voor het openbaar bestuur³ om publieke verantwoording over sturen met data beter te organiseren. De Raad onderscheidt vier rollen die bestuurders en volksvertegenwoordigers zouden moeten vervullen:

• 1. 

  Bestuurders dienen zelf verantwoording af te leggen over hun beleid en dat van de organisaties die onder hun verantwoordelijkheid vallen. Volksvertegenwoordigers roepen op hun beurt de bestuurders ter verantwoording.

• 2. 

  In hun rol als opdrachtgever dienen bestuurders private partijen met wie de overheid samenwerkt ter verantwoording te roepen.

• 3. 

  Bestuurders hebben een regulerende functie ten opzichte van private partijen en moeten wetten en regels stellen voor de markt. Door duidelijke grenzen en normen te stellen kunnen kaders worden gecreëerd waarbinnen partijen die sturen met data kunnen bewegen.

• 4. 

  Bestuurders dienen een vertegenwoordigende of emanciperende rol te vervullen ten aanzien van burgers door de maatschappelijke veerkracht en weerbaarheid te versterken.

Om bestuurders en volksvertegenwoordigers hierbij te helpen en de verantwoordingskloof te dichten heeft de Raad het «Data Debat Denkkader» opgesteld, waarin 25 vragen zijn opgenomen die het openbaar bestuur zouden moeten helpen om het proces van data-sturing transparant te maken en de black box te openen. Maar ook om mogelijke ontsporing in het proces van data-sturing in beeld te brengen, zodat tijdig kan worden gecorrigeerd en bijgestuurd.

Om ervoor te zorgen dat het openbaar bestuur een sterke gesprekspartner is op het terrein van data-sturing, en gezaghebbend kan optreden waar nodig, doet de Raad negen aanbevelingen, waar hieronder dieper op wordt ingegaan.

Kabinetsreactie op de hoofdconclusie

Het kabinet vindt, met de Raad, dat het gebruik van data kan helpen bij het oplossen van maatschappelijke opgaven en dat publieke waarden daarbij centraal dienen te staan. Maar het kabinet erkent ook dat er veel mis kan gaan wanneer organisaties sturen met data. Digitalisering biedt kansen als middel dat kan bijdragen aan slimmer beleid en aan betere dienstverlening. Maar rechtmatigheid moet daarbij wel voorop staan: de grondbeginselen van de rechtsstaat en alle vereisten die voortvloeien uit het juridisch kader, onder meer neergelegd in de Grondwet en de Algemene verordening gegevensbescherming (AVG), moeten door de overheid worden nageleefd. Wanneer er wordt gestuurd met data moeten organisaties daarover verantwoording afleggen. Alleen zo kan worden voorkomen dat de keerzijden van digitalisering gaan overheersen, zoals extra controle, wantrouwen, complexiteit of de schending van rechten. Omdat het ook mis kan gaan, zijn transparantie en (intern) toezicht van groot belang om organisaties ter verantwoording te roepen.

Bij de inzet van data moeten de grondrechten van burgers worden gerespecteerd, en moet er democratische verantwoording worden afgelegd. Het kabinet deelt dan ook de opvatting van de Raad dat het van belang is om in beginsel transparant te zijn over de keuzes en afwegingen bij de inzet van data, om zo de verantwoordingskloof te dichten.

Het kabinet werkt samen met gemeenten, provincies en waterschappen langs diverse sporen⁴ aan het beter organiseren van de publieke verantwoording over sturen met data.⁵ Een mogelijk eerste spoor zijn de voorstellen uit de Interbestuurlijke Datastrategie.⁶ Daarin wordt beoogd betere sturing op dataprocessen interbestuurlijk mogelijk te maken. Door de inzet op innovatie van datatoepassingen bij overheden is een grote rijkdom aan mogelijkheden ontstaan, maar ook meer behoefte aan transparantie, toezicht en publieke verantwoording over bijvoorbeeld legitimiteit en inzet van bepaalde technologie.

Er zijn reeds bestaande kaders voor het verwerken van gegevens en voor het handelen op basis van rechtsgronden, maar technische ontwikkelingen gaan snel, en ook ethische overwegingen kunnen van waarde zijn. Dit gaat in de praktijk niet altijd even goed. Daarom ondersteunt de Interbestuurlijke Datastrategie overheidsorganisaties bij het maken van afwegingen over wat technisch kan, juridisch mag en ethisch wenselijk is. Bijvoorbeeld door een juridische en technische adviesfunctie aan te bieden en toe te werken naar gedragen basisprincipes voor verantwoord datagebruik. Interbestuurlijk worden in een lerende aanpak aan de hand van praktijkervaringen ook stappen gezet om «systeemfuncties» te ontwikkelen, zoals een gemeenschappelijk toegangssysteem dat verwerkingen beter traceerbaar maakt, privacy waarborgt en toegang enkel verstrekt voor zover deze rechtmatig is.

Een tweede spoor betreft het versterken van de verantwoording over de inzet van algoritmische datatoepassingen. Op 10 juni jl. is een beleidsagenda naar uw Kamer gestuurd waarin staat welke concrete acties het kabinet onderneemt om een verantwoorde inzet van algoritmen te borgen die burgers de noodzakelijke bescherming moeten bieden.⁷ Deze acties stellen zeker dat er een consistent en toepasbaar kader is voor de inzet van algoritmen en dat daarop voldoende toezicht bestaat. Ook zijn in deze beleidsagenda concrete acties ter bevordering van transparantie en verantwoording opgenomen.

Een derde spoor betreft de totstandkoming van voorliggende Europese conceptverordeningen voor digitale dienstverleners (Digital Services Act (DSA), mededinging in digitale markten (Digital Markets Act (DMA), voor artificiële intelligentie (AI Act) en voor data portabiliteit, interoperabiliteit en data tussenpersonen (Data Governance Act (DGA) en de verwachte Data Act). Het kabinet onderschrijft in haar beoordeling van deze voorstellen onder meer nieuwe verplichtingen voor grote techbedrijven met een poortwachtersfunctie op Europees niveau⁸, om transparantie en verantwoording te versterken bij online platforms en in AI-systemen, om grip op data door burgers te vergroten, en om burgers te beschermen tegen onrechtmatige en onverantwoorde praktijken. Het beter afleggen van verantwoording over het sturen met data staat centraal in de inzet van het kabinet bij deze Europese wetgevingstrajecten.⁹

Aan de hand van de acties die langs deze sporen zijn ingezet zal het kabinet reageren op de negen aanbevelingen van de Raad.

Reactie op de aanbevelingen

Strategie I Versterk de kennispositie van bestuurders, volksvertegenwoordigers, ambtenaren en burgers

• 1. 

  Zorg voor inhoudelijke expertise en strategie ten aanzien van data-technologie op het hoogste politiek-bestuurlijke niveau

De Raad stelt dat er bij bestuurders en op diverse niveaus van beleid veel inhoudelijke kennis over digitalisering verloren is gegaan, omdat gezocht is naar generalisten en procesmanagers.

Zoals geschreven in de Kamerbrief over de I-strategie Rijk 2021-2025¹⁰ wordt de komende jaren fors geïnvesteerd in de mensen, de organisaties en de cultuur om digitalisering vorm te geven. Rijksambtenaren hebben steeds meer digitale kennis en vaardigheden nodig om hun werk goed te kunnen uitvoeren; in alle functies, in alle domeinen en op alle opleidingsniveaus. Bewustwording, aandacht en goed aanbod van trainingen en opleidingen zijn noodzakelijk. Niet alleen op digitaal vlak, maar ook wat het effect van technologie is op de rechten van burgers. Het Rijk heeft daarnaast meer I-professionals nodig die beschikken over actuele kennis en vaardigheden.¹¹ Dat doet het kabinet door nieuw talent aan te trekken, de samenwerking met onderwijs en wetenschap te versterken (I-Partnerschap) en door te investeren in onze eigen medewerkers (I-vakmanschap).

Ook de Rijksacademie voor Digitalisering en Informatisering Overheid (RADIO) heeft zich het afgelopen jaar op verschillende manieren specifiek gericht op bestuurders en op de ambtelijke top. Voor de rechtspraak is de leergang «Informatievoorziening voor bestuurders» ontwikkeld, waar veel belangstelling voor is. Ook is recent het webinar «Algoritmes voor bestuurders» georganiseerd. Voor de leden van de topmanagement groep (TMG) is begin juli 2021 het eerste deel van de «intensieve IT-cursus» van start gegaan. Het tweede deel is gestart in september. Het verwerven van kennis over digitalisering en data-technologie vormt een belangrijk onderdeel van deze cursus.

Daarnaast wordt, in samenspraak met de Algemene Bestuursdienst (ABD), bekeken of de bewustwording van topambtenaren van de Algemene verordening gegevensbescherming (AVG) vergroot kan worden in de vorm van een opleiding of cursus. Dit kan bijdragen aan het vergroten van de vaardigheden om de digitale transitie beter te kunnen uitvoeren.

• 2. 

  Werk samen met kennisinstellingen aan een gemeenschappelijke onderzoeksagenda

De Raad beveelt aan dat bestuurders en volksvertegenwoordigers meer dienen samen te werken met kennisinstellingen aan een gemeenschappelijke onderzoeksagenda.

Het kabinet werkt met kennisinstellingen, bedrijven en andere overheden op verschillende manieren samen aan een gemeenschappelijke onderzoeksagenda, bijvoorbeeld via coalities zoals de Nederlandse AI Coalitie. De Nederlandse AI Coalitie, een consortium met meer dan 400 private en publieke partijen waaronder kennisinstellingen, heeft bijvoorbeeld het meerjarige AiNed programma ontwikkeld. Dit programma versnelt de ontwikkeling en toepassing van verantwoorde AI en beoogt de positie van Nederland internationaal te versterken. Onderzoek, ontwikkeling en implementatie krijgen ook een plek in dit programma. Op 1 juli 2021 is door NWO met steun van het kabinet de synergiecall¹² mensgerichte AI gelanceerd, naar toepassingen van AI die publieke waarden en mensenrechten kunnen versterken. In de ELSA (ethical, legal, societal aspects) Labs, waar het programma onderzoek in faciliteert, wordt met de inzet van data bij mensgerichte AI geëxperimenteerd.

• 3. 

  Maak werk van democratisch en digitaal burgerschap

De Raad beveelt aan om te investeren in democratisch en digitaal burgerschap. Hiervoor moet volgens de Raad al vroeg in het onderwijs aandacht worden besteed aan het begrijpen van data-technologie en het bewust gebruik maken van de digitale mogelijkheden.

Om democratisch en digitaal burgerschap te bewerkstelligen, is het volgens het kabinet belangrijk om over de rol van data en privacy aandacht te besteden in zowel het primair en voortgezet onderwijs, als ook buiten het onderwijs.

Al eerder is in verschillende rapporten (bv. Rathenau in «Opwaarderen», 2017)¹³ gewezen op het belang van kennis van burgers over (recente) technologieën. Het Rathenau Instituut noemt dit «het technologisch burgerschap». In het project «de Maatschappelijke dialoog» is de stand van kennis bij burgers in kaart gebracht en is beleid ontwikkeld om de kennispositie van burgers te verbeteren. Verder werken gemeenten hieraan via de inzet van lokale bibliotheken (cursussen Klik&Tik en Digisterker, en Informatiepunten Digitale Overheid), de aanpak van (digitale) laaggeletterdheid en het programma Democratie in Actie. Op dit moment wordt daarnaast een vervolg op de Nationale AI cursus ontwikkeld.

De burgerschapsopdracht, waarbij scholen leerlingen de basiswaarden van de democratische samenleving bijbrengen, is in het basis- en voortgezet onderwijs ook verduidelijkt en aangescherpt. Het wetsvoorstel daartoe trad op 1 augustus jl. in werking.¹⁴ Van scholen wordt verwacht dat hun burgerschapsonderwijs bijdraagt aan het bevorderen van sociale cohesie en actief burgerschap. Ook worden burgerschap en digitale geletterdheid als nieuwe leergebieden toegevoegd aan het bij te stellen curriculum in het basis- en voortgezet onderwijs. Onderdeel van deze leergebieden zijn digitaal burgerschap en digitaal samenleven en de kritische houding die daarbij hoort. Met de invoering van het nieuwe curriculum zullen deze thema's een nadrukkelijkere plek krijgen in het basis- en voortgezet onderwijs, met bijbehorende kerndoelen en eindtermen.

In het Netwerk Mediawijsheid¹⁵ wordt ook gewerkt aan het vergroten van digitaal burgerschap. In het recent bijgewerkte competentiemodel komt het belang van de door de Raad genoemde vaardigheden terug. Het kabinet onderstreept dat belang en het belang om daar in de hele samenleving werk van te maken. Precies dat doet het Netwerk in samenwerking met ruim 1000 netwerkpartners, waarvan Kennisnet, Beeld en Geluid, ECP, de KB en Omroep HUMAN de kernpartners vormen.

Strategie II Vertaal publieke waarden naar een samenhangend beleid voor data-technologie

• 4. 

  Zorg voor een consistent juridisch kader dat publieke doelen en waarden centraal stelt

De Raad beveelt aan om het juridisch kader te versterken om hiermee transparantie en een open cultuur van verantwoording af te dwingen. Hierbij dient volgens de Raad aansluiting gezocht te worden bij de Europese wet- en regelgeving die in voorbereiding is. De Raad noemt de DSA en de DMA. Daarnaast zijn ook de AI Act en de DGA van belang. Deze verordeningen hebben na onderhandelingen en inwerkingtreding rechtstreekse werking in alle Europese lidstaten.

Het kabinet is verheugd dat de Raad de AVG aanhaalt als kader waarmee het reguleren van data-sturing mogelijk is gemaakt. Hoewel het kabinet eerder heeft aangegeven dat de AVG naar haar oordeel op een aantal punten gewijzigd zou kunnen worden, heeft het geen concrete signalen ontvangen dat het juridisch kader voor de verwerking van persoonsgegevens door de overheid grote lacunes bevat. Dit is ook niet gebleken uit de evaluatie van de AVG die door de Europese Commissie is uitgevoerd.¹⁶

Wél wordt door het kabinet gewerkt aan een wijziging van de Nederlandse Uitvoeringswet AVG (UAVG). Het kabinet heeft haar voornemens met betrekking tot de AVG en UAVG eerder met uw Kamer gedeeld.¹⁷ Het kabinet signaleert op basis van het advies van de Raad geen concrete punten op grond waarvan het bestaande juridisch kader omtrent gegevensverwerkingen door de overheid onvoldoende toereikend of consistent zou zijn. Het is vooral zaak dat overheidsorganisaties de bestaande wetgeving goed naleven.

Het kabinet heeft de afgelopen jaren diverse onderzoeken laten verrichten om vast te stellen hoe specifieke technologieën en toepassingen zich verhouden tot juridische kaders. Dit betreft onder meer onderzoeken naar de juridische aspecten en ongewenste effecten van algoritmen, algoritmen en grondrechten, big data en het procesrecht en blockchain en het recht. Waar deze onderzoeken daartoe aanleiding geven onderneemt het kabinet actie om de juridische kaders aan te vullen of beter toepasbaar te maken.¹⁸

Wetgeving is doorgaans technologieneutraal geformuleerd en ziet daarom ook toe op nieuwe technologie. Zo heeft het kabinet bijvoorbeeld ten aanzien van het juridisch kader van algoritmen al geconcludeerd dat algoritmen niet in een juridisch vacuüm vallen.¹⁹ Dit laat onverlet dat verdere inkadering van ingrijpende systemen wat het kabinet betreft kan worden overwogen. Zo heeft het kabinet in het BNC-fiche over de concept AI-verordening benadrukt zich in te zetten voor goede aansluiting van de voorziene nieuwe wetgeving bij de bestaande juridische kaders. Tevens heeft het kabinet in de BNC-Fiche aangegeven dat het positief staat tegenover additionele verplichtingen of verboden voor AI-systemen met een zogeheten »hoog risico» op schendingen van fundamentele rechten.

Ook in de door de Raad aangedragen voorstellen voor wetgeving in EU-verband zet het kabinet zich in voor de totstandkoming van consistente wetgeving waarmee publieke doelen en waarden worden gediend.²⁰

• 5. 

  Dwing transparantie af door de positie van onafhankelijke waakhonden te versterken

De Raad geeft als aanbeveling om het gezag en de capaciteit van onafhankelijke toezichthouders te vergroten, zodat deze daadkrachtig kunnen optreden en partijen verantwoording kunnen laten afleggen over privacygevoelige zaken. Zo kan een transparante politieke discussie worden afgedwongen over de publieke waarden die worden beoogd met sturen met data.

Het kabinet onderschrijft dit advies en vindt het van belang dat er onderzoek wordt gedaan naar, en intern en extern goed toezicht is op, dataverwerking en algoritmische systemen.²¹ Binnen de rijksoverheid is het mogelijk om algoritmen en de organisatorische inrichting hiervan onafhankelijk te laten auditen door de Auditdienst Rijk (ADR). De ADR heeft gelijk aan de Algemene Rekenkamer (ARK) een normenkader ontwikkeld om de inzet van algoritmen te onderzoeken. Beide normenkaders komen nagenoeg overeen en op verzoek van het kabinet zal worden samengewerkt om te komen tot één normenkader. Het huidige ADR normenkader wordt toegepast in een onderzoek bij vijf verschillende departementen met als doel inzicht te geven in de kwaliteit en beheersing van algoritmen teneinde hiermee eventuele verbeteringen door te voeren op stelselniveau. Binnen de overheid wordt verkend of een algoritmere-gister kan bijdragen aan transparantie over de inzet van algoritmen waardoor intern/extern onderzoek naar algoritmen kan worden vergemakkelijkt.²²

Op het terrein van data en algoritmen zijn er diverse externe toezichthouders actief. Voor effectief toezicht is het belangrijk dat toezichthouders ieder vanuit hun eigen expertise en toezichtsdomein toezicht houden. Toezicht op data en algoritmen vereist wel kennis en samenwerking. Met het oprichten van de werkgroep Toezicht op AI in het voorjaar van 2020 heeft de samenwerking tussen toezichthouders een meer structurele vorm gekregen. Het generieke, sector overstijgende toezicht voor zowel overheid als private sector kan wel nog verder worden versterkt. In aanvulling op reeds lopende acties is blijvende aandacht nodig voor het versterken van capaciteit van toezichthouders en de samenwerking tussen toezichthouders. In dit licht zal het kabinet zoals aangekondigd in de voortgangsbrief AI en algoritmen, in 2022 opnieuw een evaluatie doen van het toezichtslandschap. Zoals uiteengezet in de brief van de Minister voor Rechtsbescherming aan uw Kamer van 1 maart 2021²³ is het aan het volgende kabinet om te besluiten over eventuele uitbreiding van de capaciteit van de Autoriteit Persoonsgegevens (AP).

• 6. 

  Haal expertise van buiten het openbaar bestuur naar binnen met een open cultuur van verantwoording

De Raad beveelt aan om expertise van buiten het openbaar bestuur naar binnen te halen. Dit kan helpen om mogelijk onwenselijke bijeffecten van algoritmen in beeld te brengen.

Het kabinet onderschrijft deze aanbeveling van de Raad en haalt steeds vaker op verschillende manieren expertise van buiten naar binnen. Via publiek-private samenwerking in bijvoorbeeld de Nederlandse AI coalitie, via het uitzetten van onderzoeken maar ook door het bedrijfsleven uit te dagen om met oplossingen te komen voor vraagstukken van de overheid. Daarvoor zet het kabinet uiteenlopende instrumenten in: hackathons, Startup in Residence, de DigiCampus, Small Business Innovation Research (SBIR) onderzoek van PUBLIC naar GovTech in Nederland en de Aanpak begeleidingsethiek.²⁴ Daaruit blijkt dat het kabinet al de nodige initiatieven onderneemt.

Strategie III Benut huidige verantwoordingsstructuren beter, pas deze zo nodig aan of creëer nieuwe structuren

• 7. 

  Creëer bestuurlijke en politieke portefeuilles voor digitalisering en datahuishouding

De Raad beveelt aan om bestuurlijke en politieke portefeuilles voor digitalisering en datahuishouding te creëren. De Raad noemt als voorbeeld een permanente commissie in de Tweede Kamer voor digitale zaken en een Minister voor digitale zaken en datahuishouding. De Raad stelt verder dat dergelijke verantwoordingsstructuren nog onvoldoende benut worden, onder druk staan of soms zelfs ontbreken.

De oproep van de Raad om de portefeuilleverdeling tegen het licht te houden is glashelder. Het is echter aan een volgend kabinet om hier invulling aan te geven.

Inmiddels is er een vaste Kamercommissie voor Digitale Zaken (DiZa) in de Tweede Kamer, zoals de Raad aanbeveelt. DiZa heeft als doel overzicht te creëren en voor verbinding te zorgen in de behandeling van diverse digitaliserings-vraagstukken.

• 8. 

  Werk vanuit de rol als opdrachtgever aan een (wettelijk) ordeningskader voor techbedrijven

De Raad beveelt aan om in het contracteren van private marktpartijen, zoals techbedrijven en/of sociale media bedrijven, afspraken vast te leggen over zowel het proces als de inhoud van verantwoording. Deze afspraken kunnen volgens de Raad bijvoorbeeld betrekking hebben op hoe, wanneer en wie vanuit de gecontracteerde partij verantwoording aflegt.

Het kabinet zet via het Rijksbrede inkoopstelsel in op het borgen van grondrechten publieke waarden in de ontwikkeling en inzet van data-technologie. Met de inrichting van Strategisch leveranciersma-nagement Rijk is de sturing op een aantal grote techbedrijven waarmee de rijksoverheid zaken doet, de afgelopen jaren effectiever en efficiënter georganiseerd. Ten aanzien van een zestal techbedrijven zijn Rijksbrede leveranciersmanagers benoemd, die namens de Rijksdienst richting deze techbedrijven optreden. Bijvoorbeeld door zicht te houden op het nakomen van Rijksbrede afspraken of op naleving van gegevensverwer-kingsovereenkomsten die privacy van burgers beschermen. Hiermee is de positie van het Rijk ten aanzien van deze leveranciers verstevigd. Daarnaast zijn binnen het Rijksinkoopstelsel Rijksbrede categorieën voor de inkoop, aanbesteding en contractmanagement van generieke ICT samengebracht. Dit heeft het onder andere mogelijk gemaakt het contractmanagement te verbeteren.

Momenteel vindt daarnaast een herziening van de ARBIT (Algemene Rijksinkoopvoorwaarden bij IT-overeenkomsten) plaats, waarin ruimte is voor nieuwe ontwikkelingen.

Ook wordt momenteel uitvoering gegeven aan de motie van het lid Kröger²⁵. Dit betekent dat de mogelijkheden worden verkend om het kabinetsbeleid «Open, tenzij»²⁶ te borgen in de aanbestedingspraktijk.

Verder is er vanuit de rijksoverheid een samenwerkingsverband met andere overheden, zoals uitvoeringsinstellingen, provincies en gemeenten om instrumenten te ontwikkelingen die transparantie en betrouwbaarheid van algoritmen beter moeten maken wanneer die door publieke organisaties ingezet worden. Een van de instrumenten die in deze samenwerking is ontwikkeld, is een set heldere contractvoorwaarden om afspraken te maken met de leveranciers van algoritmen. Deze voorwaarden stellen eisen aan welke informatie leveranciers moeten delen over onder meer de werking van het algoritme en aan welke maatregelen moet worden voldaan om mogelijke risico's tegen te gaan. Ook worden er in de contractvoorwaarden afspraken gemaakt over wie de eigenaar is van de gebruikte data.

• 9. 

  Bied tegenmacht aan techbedrijven door nauw samen te werken met de Europese Commissie, de media en burgers

De Raad beveelt aan om samen te werken met media, burgers en de Europese Commissie om tegenmacht te creëren tegen techbedrijven én om burgers te betrekken bij het ter verantwoording roepen van partijen die sturen met data.

Zoals de Raad in zijn advies aangeeft, creëren de Europese wetsvoorstellen zoals AI Act, DSA, DGA en DMA nieuwe kaders om tegenmacht aan techbedrijven te creëren. Het kabinet steunt het doel van deze voorstellen, en heeft op deze voorstellen al een eerste appreciatie gegeven.²⁷ Uit deze appreciaties blijkt hoe het kabinet zich in Europees verband inzet voor nieuwe verplichtingen voor techbedrijven met een poortwachtersfunctie, om transparantie en verantwoording te verbeteren bij online platforms en in bepaalde AI-systemen, en om grip van burgers op sturen met data te vergroten.

Een multi-stakeholder aanpak is naast regulering ook belangrijk. Een goed voorbeeld is European Digital Media Observatory (EDMO) waarin onafhankelijke media, fact-checkers en wetenschappers samenwerken om desinformatiecampagnes te analyseren, activiteiten rond mediawijsheid te organiseren en lokale media en autoriteiten te ondersteunen. Aan het overkoepelende Europese platform zijn ook nationale/regionale hubs gelinkt, waaronder een Belgisch/Nederlandse desinformatie hub. Via deze hubs kan op regionaal niveau onderzoek gedaan worden en kennis opgebouwd worden. Een aandachtspunt bij dergelijke samenwerkingen blijft de toegang voor onderzoekers tot data van techbedrijven. Dit is voor het kabinet een belangrijk punt aangezien dit deze partijen in staat stelt om techbedrijven ter verantwoording te roepen.

Conclusie

Het kabinet onderschrijft het belang dat de overheid de legitimiteit van het sturen met data moet borgen door de publieke verantwoording goed te organiseren, en levert daartoe diverse inspanningen. Data en de partijen die sturen met data zullen een belangrijk onderwerp blijven. Data biedt immers grote kansen om bij te dragen aan maatschappelijke opgaven, maar daarbij mag niet uit het oog verloren worden dat het gebruik ervan verantwoord en transparant moet zijn. Daarom is het goed om aandacht voor datavraagstukken te houden, nu en voor volgende kabinetten.

De Minister van Binnenlandse Zaken en Koninkrijksrelaties,

K.H. Ollongren

De Minister voor Rechtsbescherming,

• S. 

  Dekker

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,

R.W. Knops

Tweede Kamer, vergaderjaar 2021-2022, 26 643, nr. 806 10

¹

   De Raad: Partijen die sturen met data weten steeds meer over burgers, maar omgekeerd weten burgers steeds minders over partijen die sturen met data.

²

   De Raad: Moeilijk te doorgronden en te begrijpen systemen die beslissingen nemen.

³

   De Raad verstaat onder «openbaar bestuur» vooral bestuurders en volksvertegenwoordigers. Op nationaal niveau zijn dit de regering en Staten-Generaal, op provinciaal niveau de gedeputeerden en provinciale staten en op lokaal niveau de colleges en gemeenteraden.

⁴

   Het kabinet werkt langs verschillende lijnen aan het vergroten van de mogelijkheden om verantwoording af te leggen, en aan het versterken van de dienstverlening bij alle onderdelen van de overheid, in aanvulling op de acties die worden genomen in relatie tot de aanbevelingen hieronder. Dienstverlening moet toegankelijk en eenvoudig zijn. Ook juist de mogelijkheid om altijd contact te kunnen hebben met iemand van vlees en bloed is hierbij van belang. In informatievoorziening aan parlement en samenleving moet openheid de standaard zijn, en worden onderliggende stukken actief openbaar gemaakt op het platform open overheidsinformatie (PLOOI). Met een generiek actieplan zal de komende jaren de informatiehuishouding van de overheid worden verbeterd. Voor een overzicht van aanvullende acties die verantwoording vergroten en dienstverlening versterken, zie ook: Kamerstuk 35 510, nr. 4

⁵

   Zie ook de reactie van de VNG op het advies van de Raad: https://vng.nl/artikelen/reactie-op-rob-advies-sturen-of-gestuurd-worden-over-de-legitimiteit-van-sturen-met-data.

⁶

   Kamerstuk 26 643, nr. 797

⁷

   Kamerstuk 26 643, nr. 765

⁸

   https://ecer.minbuza.nl/7commissie-presenteert-nieuwe-regels-voor-digitale-platforms

⁹

   Kamerstuk 22 112, nrs. 3049, 3050, 3016 en 3128

¹⁰

   Kamerstuk 26 643, nr. 779.

¹¹

   Er is momenteel echter een tekort aan specialisten wat ervoor zorgt dat het tekort niet snel kan worden ingelopen.

¹²

Het doel van het programma is het verwerven van kennis en inzichten die bijdragen aan de ontwikkeling en toepassing van mensgerichte AI. Met het onderzoek wordt een bijdrage geleverd aan een «ecosysteem van vertrouwen». Uiteindelijk worden in de call 10 ELSA labs geselecteerd die gedurende 5 jaar onderzoek doen naar een specifiek toepassingsgebied. Zie ook: https://www.nwo.nl/onderzoeksprogrammas/nationale-wetenschapsagenda-nwa/ thematische-programmering-nwa/synergiethema.

¹³

   https://www.rathenau.nl/nl/digitale-samenleving/opwaarderen.

¹⁴

   https://www.eerstekamer.nl/behandeling/20201117/gewijzigd_voorstel_van_wet_9.

¹⁵

   https://www.netwerkmediawijsheid.nl.

¹⁶

   https://ec.europa.eu/commission/presscorner/detail/en/ip_20_1163.

¹⁷

   Kamerstuk 32 761, nr. 151

¹⁸

   Zie kabinetsreacties: Kamerstuk 34 926, nr. 11, Kamerstuk 26 643, nr. 726, Kamerstuk 26 643, nr. 653.

¹⁹

   Kamerstuk 26 643, nr. 726.

²⁰

   Bijvoorbeeld de DSA en DMA waar het kabinet proactief aan heeft bijgedragen. Kamerstuk 22 112, nrs. 3049 en 3050

²¹

   Zie ook in dit verband: https://www.rijksoverheid.nl/documenten/richtlijnen/2021/09/24/ richtlijnen-voor-het-toepassen-van-algoritmen-door-overheden-en-publieksvoorlichting-over-data-analyses.

²²

   Dit n.a.v. Motie Klaver over het opzetten van een algoritmeregister - Parlementaire ondervraging kinderopvangtoeslag Kamerstuk 35 510, nr. 16 - Motie van het lid Klaver c.s.

²³

   Kamerstuk 25 268, nr. 197.

²⁴

   11 maart 2021, GovTech in the Netherlands. https://www.digitaleoverheid.nl/nieuws/hoe-staat-het-met-govtech-in-nederland/.

²⁵

   Kamerstuk, 27 529, nr. 245.

²⁶

   Kamerstuk 26 643, nr. 676. Hierin introduceerde het kabinet de beleidslijn «Open, tenzij». Het leidende principe is dat software die met publieke middelen is ontwikkeld, zoveel mogelijk aan de samenleving wordt teruggegeven. Het publiceren van de broncode komt ten goede aan algemene belangen, zoals minder verspilling (o.a. door hergebruik), innovatie, meer economische bedrijvigheid, transparantie en informatieveiligheid. Overheden worden opgeroepen om de broncode vrij te geven en hier slechts van af te wijken indien er gegronde redenen zijn.

²⁷

Kamerstuk 22 112, nrs. 3016, 3049, 3050 en 3128