EU bereikt akkoord om AI te beteugelen - Hoofdinhoud

Na een uitputtingsslag van ruim 36 uur onderhandelen, bereikten het Europarlement en de EU-landen vannacht een akkoord op de wet op kunstmatige intelligentie (AI). De wet stelt strenge regels voor AI-systemen met een ‘hoog risico’ voor gezondheid, veiligheid of mensenrechten. Ook komen er regels voor grote systemen als ChatGPT of Google Bard.

Kim van Sparrentak @kimvsparrentak

Europarlementariër

Europarlementariër Kim van Sparrentak is namens de Groenen onderhandelaar op deze wet: “Europa neemt wereldwijd de leiding en kiest met sterke regels voor AI die mensen, maatschappij en milieu centraal zet. Met strenge voorwaarden zijn AI systemen in Europa voortaan altijd betrouwbaar, ethisch en veilig.”

De onderhandelingen waren ongekend moeizaam: woensdagmiddag begonnen deze en met een kleine pauze kwam men vrijdagnacht pas tot een akkoord. De grootste knelpunten bleken te liggen al dan niet bindende regels voor de allergrootste systemen als ChatGPT en welke AI-systemen werden verboden. Van Sparrentak: “De ongekende big techlobby tegen bindende regels voor grote systemen als ChatGPT zorgde voor veel vertraging. Er stond veel op het spel, maar we hebben de strijd gewonnen: Europa stelt bindende voorwaarden aan deze technologieën, zodat we straks niet opgezadeld zitten met grote systemen die complottheorieën uitspuwen, grove fouten maken of onze privacy of intellectuele eigendomsrechten schenden.”

Deze systemen, zogenaamde “general purpose AI” moeten straks transparant zijn over hoe ze getraind zijn, hoe ze werken en rapporteren over hun energieverbruik. De allergrootste systemen (zoals ChatGPT) worden straks ook getest op risico’s. Van Sparrentak streed daarnaast met succes dagenlang achter elkaar voor een verplichte mensenrechtentoets voor de inzet van AI door autoriteiten, in publieke diensten en door banken en verzekeringen. Op de verboden werd het langst onderhandeld. Van Sparrentak vocht voor een verbod op profileren om zogenaamd criminaliteit te ‘voorspellen’ op basis van je persoonsgegevens, zoals gebruikt door de Belastingdienst in het toeslagenschandaal.

Van Sparrentak is blij dat dit in de wet zit: “Als de politie puur en alleen op basis van je nationaliteit, waar je woont, in welke auto je rijdt of hoeveel kinderen je hebt voorspellingen doet dat je een crimineel kan zijn is het einde zoek. Dit werkt vaak discriminerend, treft vooral minderheden en de meest kwetsbaren en holt de rechtsstaat uit. Verbieden dus.”

Voor GroenLinks was een verbod op systemen die op basis van je gezicht zogenaamd aan ‘seksualiteitsherkenning’, ‘rassenherkenning’ en ‘herkenning van je politieke voorkeur’ doen ook erg belangrijk. Hierop is nu inderdaad een verbod.

De deal legt ook het gebruik van ‘real-time’ gezichtsherkenning in de publieke ruimte aan banden. Van Sparrentak: “Europa kiest haar eigen weg en gaat geen Chinese surveillancestaat achterna. Na een enorme strijd met de EU-landen hebben we het gebruik van dit soort systemen aan banden gelegd. In een vrije en democratische samenleving moet je over straat kunnen, zonder dat de overheid je zomaar constant volgt op straat, op festivals of in voetbalstadions.” Nu er een akkoord ligt, moeten de EU-landen en het Europarlement nog een laatste keer instemmen. Dat gebeurt begin volgend jaar. Na zes maanden zullen de verboden gaan gelden. Na een jaar gaan de regels voor de allergrootste modellen als ChatGPT in en de rest van de AI-wet zal na twee jaar ingaan.

https://groenlinks.nl/chatgpt-slimme-cameras-en-deepfakes-de-europese-ai-wet