Toelichting bij COM(2022)414 - Machtiging tot het openen van onderhandelingen over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat - Hoofdinhoud
Dit is een beperkte versie
U kijkt naar een beperkte versie van dit dossier in de EU Monitor.
| dossier | COM(2022)414 - Machtiging tot het openen van onderhandelingen over een verdrag van de Raad van Europa inzake artificiële intelligentie, ... |
|---|---|
| bron | COM(2022)414   |
| datum | 18-08-2022 |
Artificiële intelligentie (AI) biedt grote kansen voor de samenleving, het milieu en de economie. Tegelijkertijd kan bepaalde AI, afhankelijk van de omstandigheden waarin deze wordt toegepast en gebruikt, materiële of immateriële schade veroorzaken en risico’s opleveren voor de algemene belangen en de grondrechten en fundamentele vrijheden van personen. Een samenhangend rechtskader voor AI, dat dergelijke algemene belangen en grondrechten beschermt en tegelijkertijd vertrouwen en innovatie bevordert, is daarom van cruciaal belang om deze uitdagingen aan te pakken en het potentieel van AI te benutten.
In april 2021 heeft de Europese Commissie een alomvattende verordening betreffende AI voorgesteld die de regels voor AI-systemen in alle 27 EU-lidstaten zou harmoniseren 1 . Het Europees Parlement en de Raad onderhandelen momenteel volgens de gewone wetgevingsprocedure over het voorstel. Diverse internationale organisaties, waaronder de Raad van Europa, hebben ook hun inspanningen op dit gebied opgevoerd en erkennen dat AI een grensoverschrijdend karakter heeft en dat internationale samenwerking noodzakelijk is om de gemeenschappelijke uitdagingen aan te pakken.
Inhoudsopgave
Op weg naar een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat
Op 11 september 2019 besloot het Comité van Ministers van de Raad van Europa tot de oprichting van een ad-hoccomité inzake artificiële intelligentie (CAHAI) 2 . Het CAHAI had tot taak onderzoek te doen naar de haalbaarheid en de mogelijke elementen van een rechtskader voor de ontwikkeling, het ontwerp en de toepassing van AI, rekening houdend met de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat en met de bestaande internationale rechtsinstrumenten 3 . De werkzaamheden van het CAHAI waren gebaseerd op een haalbaarheidsstudie 4 en op een raadpleging van meerdere belanghebbenden in het voorjaar van 2021 5 . Op 3 december 2021 heeft het CAHAI zijn taak afgerond en een slotdocument overgelegd waarin de mogelijke elementen van een dergelijk rechtskader worden genoemd 6 . Volgens het document is een rechtsinstrument dat fundamentele beginselen inzake de bescherming van de menselijke waardigheid en de eerbiediging van de mensenrechten, de democratie en de rechtsstaat bevat, noodzakelijk voor de ontwikkeling, het ontwerp en de toepassing van AI-systemen. Het instrument moet voorzien in de invoering van een methode voor de risico-indeling van AI-systemen, met de categorieën “laag risico”, “hoog risico” en “onaanvaardbaar risico”. AI-toepassingen die een “onaanvaardbaar” risico opleveren, moeten worden verboden 7 . Om onterechte vertekening te voorkomen, moet een bepaling over de eerbiediging van gelijke behandeling en non-discriminatie worden opgenomen. Wettelijke waarborgen moeten ten minste het recht op een doeltreffende voorziening in rechte voor een nationale instantie, het recht op informatie over de toepassing van een AI-systeem in een besluitvormingsproces, het recht om te kiezen voor interactie met een mens en het recht om te weten dat er interactie is met een AI-systeem garanderen. Specifieke kwesties zoals de manipulatie van inhoud (“deepfakes”) moeten echter in andere sectorale instrumenten worden behandeld. Er moet worden nagedacht over een eis om nalevingsmechanismen en nationale toezichthoudende autoriteiten op te zetten. Een niet-bindend effectbeoordelingsmodel zou het rechtsinstrument kunnen aanvullen.
Voor de periode 2022-2024 werd een opvolger van het CAHAI — het Comité inzake artificiële intelligentie (CAI) — opgericht. Volgens zijn taakomschrijving 8 heeft het CAI de opdracht een internationaal onderhandelingsproces op te zetten om een rechtskader voor de ontwikkeling, het ontwerp en de toepassing van AI tot stand te brengen. Het kader moet worden gebaseerd op de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, en moet bevorderlijk zijn voor innovatie. Het kader moet uiterlijk op 15 november 2023 zijn opgesteld en tegen de tijd dat het CAI in 2024 wordt opgeheven, zijn voltooid. Om zijn opdracht te vervullen, moet het CAI zijn werkzaamheden coördineren met andere intergouvernementele comités en entiteiten van de Raad van Europa, zijn werkzaamheden baseren op overtuigend feitenmateriaal en op een inclusief raadplegingsproces, onder meer met internationale en supranationale partners, en rekening houden met het slotdocument van het CAHAI.
Op 4-6 april 2022 heeft het CAI zijn oprichtingsvergadering gehouden, waarbij een voorzitter, vicevoorzitter en bureau werden gekozen. Op 30 juni 2022 heeft het Comité van Ministers van de Raad van Europa het CAI opgedragen snel een juridisch bindend instrument van transversale aard (“verdrag”/“kaderverdrag”) inzake artificiële intelligentie uit te werken op basis van de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, overeenkomstig zijn taakomschrijving, dat gericht is op algemene gemeenschappelijke beginselen, bevorderlijk is voor innovatie en openstaat voor deelname door derde landen, rekening houdend met andere desbetreffende bestaande of in ontwikkeling zijnde internationale rechtskaders 9 .
Vervolgens heeft de voorzitter van het CAI een “nulontwerp” van het toekomstige (kader)verdrag verspreid, waarin fundamentele beginselen en regels zijn vastgelegd om ervoor te zorgen dat het ontwerp, de ontwikkeling en de toepassing van AI-systemen consistent zijn met de eerbiediging van de mensenrechten, de werking van de democratie en de naleving van de beginselen van de rechtsstaat. Het toekomstige (kader)verdrag moet worden uitgevoerd in de respectieve rechtsgebieden van de partijen. Het toepassingsgebied omvat zowel openbare als particuliere aanbieders en gebruikers van AI-systemen, maar AI-systemen die verband houden met nationale defensie zijn ervan uitgesloten. In het nulontwerp wordt voorgesteld de volgende bepalingen op te nemen:
·doel en toepassingsgebied van het (kader)verdrag;
·definities van een AI-systeem, levenscyclus, aanbieder, gebruiker en “AI-betrokkene”;
·bepaalde fundamentele beginselen, waaronder procedurele waarborgen en rechten voor AI-betrokkenen die van toepassing moeten zijn op alle AI-systemen, ongeacht het risiconiveau ervan;
·aanvullende maatregelen voor de overheidssector en voor AI-systemen die een “onaanvaardbaar” of “significant” risiconiveau opleveren, te bepalen op basis van een risico- en effectbeoordelingsmethode (die later in een bijlage bij het verdrag moet worden opgenomen);
·follow-up- en samenwerkingsmechanisme tussen de partijen;
·slotbepalingen, met inbegrip van de mogelijkheid voor de EU-lidstaten om het EU-recht in hun onderlinge betrekkingen toe te passen op aangelegenheden die onder het verdrag vallen, en de mogelijkheid voor de Unie om tot het verdrag toe te treden.
Het nulontwerp zal worden besproken tijdens de plenaire vergaderingen van het CAI in Straatsburg, die gepland zijn voor 21-23 september en 23-25 november 2022. Daarnaast zijn er vier vergaderingen gepland in 2023 en één in 2024.
• Motivering en doel van het voorstel
Deze aanbeveling voor een besluit wordt aan de Raad voorgelegd op grond van artikel 218 van het Verdrag betreffende de werking van de Europese Unie (VWEU). In het besluit zou machtiging worden verleend om namens de Unie onderhandelingen over een toekomstig verdrag van de Raad van Europa inzake AI, mensenrechten, democratie en de rechtsstaat op te starten, onderhandelingsrichtsnoeren vast te stellen en de Commissie als onderhandelaar van de Unie aan te wijzen.
In artikel 3, lid 2, VWEU wordt bepaald dat de Unie exclusief bevoegd is “een internationale overeenkomst te sluiten […] wanneer die sluiting gemeenschappelijke regels kan aantasten of de strekking daarvan kan wijzigen”. Een internationale overeenkomst kan gevolgen hebben voor gemeenschappelijke regels of de strekking daarvan wijzigen als het toepassingsgebied van de overeenkomst overlapt met het recht van de Unie of daar grotendeels onder valt 10 .
In dit verband voorziet het EU-recht in een uitgebreide reeks gemeenschappelijke regels voor de eengemaakte markt voor producten 11 en diensten 12 waarvoor AI-systemen kunnen worden gebruikt. Voorts kunnen de ontwikkeling en toepassing van bepaalde AI-systemen afbreuk doen aan de uitoefening van de grondrechten die zijn verankerd in het Handvest van de grondrechten van de EU 13 en het afgeleide EU-recht, waaronder bijvoorbeeld het recht op lichamelijke en geestelijke integriteit 14 , bescherming van persoonsgegevens 15 , privacy 16 , non-discriminatie 17 , vrijheid van meningsuiting en informatie 18 , het vermoeden van onschuld 19 , een eerlijk proces en een doeltreffende voorziening in rechte 20 . Een dergelijke ontwikkeling en toepassing kunnen ook gevolgen hebben voor de waarden waarop de Unie is gebaseerd, zoals de menselijke waardigheid, de democratie en de rechtsstaat 21 .
Om te beoordelen of een gebied grotendeels onder het EU-recht valt, moet overigens niet alleen rekening worden gehouden met de huidige stand van het EU-recht op het betrokken gebied, maar ook met de verwachte ontwikkeling ervan wanneer die ten tijde van deze beoordeling voorspelbaar is 22 . Het gebied waarop het toekomstige verdrag van de Raad van Europa inzake AI betrekking heeft, is van rechtstreeks belang voor dergelijke verwachte ontwikkelingen, rekening houdend met het voorstel van de Commissie voor een AI-verordening (“de wet op de AI”) 23 , dat in april 2021 is gepresenteerd en waarover momenteel wordt onderhandeld door het Europees Parlement en de Raad.
De onderhandelingen over het toekomstige (kader)verdrag van de Raad van Europa inzake AI hebben wel degelijk betrekking op aangelegenheden die onder de bevoegdheid van de Unie vallen en er is een zeer aanzienlijke overlapping tussen het nulontwerpverdrag en de voorgestelde wet op de AI wat betreft het toepassingsgebied, de aard en de inhoud ervan. Daarom is het belangrijk dat er zodanig namens de Unie wordt onderhandeld dat de consistentie en uniformiteit van de EU-regels voor AI en de goede werking van het daarbij ingestelde systeem niet worden ondermijnd en dat het toekomstige verdrag van de Raad van Europa volledig in overeenstemming is met het bestaande en toekomstige EU-recht op dit gebied.
• Verenigbaarheid met bestaande bepalingen op het beleidsterrein
Op 21 april 2021 heeft de Commissie een voorstel ingediend voor een verordening tot vaststelling van geharmoniseerde regels voor het in de handel brengen, in gebruik stellen en gebruiken van AI-systemen in de Unie. Het voorstel heeft als tweeledig doel een eengemaakte markt tot stand te brengen om de ontwikkeling en toepassing van AI te bevorderen, en tegelijkertijd de risico’s voor de veiligheid, de gezondheid en de grondrechten aan te pakken. Het is een horizontaal voorstel dat van toepassing is op aanbieders en gebruikers van AI-systemen, ongeacht of zij openbare of particuliere entiteiten zijn. AI-systemen die uitsluitend voor militaire doeleinden worden ontwikkeld of gebruikt, zijn van het toepassingsgebied uitgesloten.
Het voorstel bevat evenredige eisen en verplichtingen die beperkt zijn tot het minimum dat vereist is om de risico’s voor de gezondheid, de veiligheid en de grondrechten aan te pakken, zonder de technologische ontwikkeling van AI te belemmeren of de financiële en administratieve lasten voor exploitanten onevenredig te verhogen. Daartoe wordt in het voorstel een risicogebaseerde aanpak gehanteerd waarbij AI-systemen in verschillende categorieën worden ingedeeld, te weten “onaanvaardbaar”, “hoog”, “transparantiegerelateerd” en “laag” of “minimaal” risico.
·Er wordt een verbod voorgesteld op AI-systemen die als onverenigbaar met de EU-waarden en als een duidelijke bedreiging voor de veiligheid, de bestaansmiddelen of de rechten van mensen worden beschouwd en een “onaanvaardbaar risico” vormen (bv. sociale scoring door overheidsinstanties, schadelijke manipulatieve AI-praktijken, biometrische identificatie op afstand in real time voor rechtshandhavingsdoeleinden in openbaar toegankelijke ruimten, afgezien van enkele uitzonderingen).
·AI-systemen met een “hoog risico” die aanzienlijke risico’s voor de gezondheid, de veiligheid of de grondrechten met zich meebrengen, moeten aan conformiteitscontroles worden onderworpen en aan bepaalde verplichte eisen voldoen (bv. met betrekking tot risicobeheer, gegevenskwaliteit, documentatie, transparantie, menselijk toezicht, nauwkeurigheid, cyberbeveiliging) voordat die systemen in de Unie in de handel mogen worden gebracht of mogen worden gebruikt. Er worden ook evenredige en doeltreffende monitoring- en toezichtsverplichtingen opgelegd aan aanbieders en gebruikers, waarbij hun taken en verantwoordelijkheden in de hele waardeketen duidelijk worden omschreven zonder afbreuk te doen aan andere verplichtingen uit hoofde van sectorale wetgeving.
·Wat betreft AI-systemen die een “transparantiegerelateerd risico” met zich meebrengen, moeten mensen worden geïnformeerd wanneer zij interageren met of worden blootgesteld aan dergelijke systemen (bv. chatbots, emotieherkenning en systemen voor biometrische categorisering, deepfakes).
·Alle andere systemen met een “minimaal” of “laag risico” voor de gezondheid, de veiligheid en de grondrechten zijn zonder verdere beperkingen toegestaan, maar aanbieders kunnen ervoor kiezen vrijwillige gedragscodes na te leven.
Het voorstel wordt volgens de gewone wetgevingsprocedure door de Raad en het Europees Parlement besproken.
De onderhandelingen over het toekomstige verdrag van de Raad van Europa inzake AI, mensenrechten, democratie en de rechtsstaat moeten ervoor zorgen dat de overeengekomen bepalingen verenigbaar zijn met het EU-recht en de verplichtingen van de lidstaten uit hoofde daarvan, rekening houdend met de toekomstige ontwikkeling ervan en de voorgestelde wet op de AI. Ook moet het verdrag van de Raad van Europa een ontkoppelingsclausule bevatten die de EU-lidstaten die als partij toetreden tot het verdrag in staat stelt hun onderlinge betrekkingen op basis van het EU-recht te regelen. De voorgestelde wet op de AI moet, in alle stadia van de wetgevingsprocedure en onderhandelingen door de medewetgevers en uiteindelijk in zijn definitieve (vastgestelde) vorm, onder de EU-lidstaten worden gevrijwaard. De Europese Unie moet ook partij bij het verdrag kunnen worden.
• Verenigbaarheid met andere beleidsterreinen van de Unie
De aanbeveling is relevant voor andere lopende of geplande initiatieven van de Commissie die tot doel hebben de problemen in verband met de ontwikkeling en het gebruik van AI-systemen aan te pakken, zoals benoemd in het witboek over AI 24 . Deze andere initiatieven omvatten de herziening van de sectorale productwetgeving (bv. de machinerichtlijn 25 , de richtlijn inzake algemene productveiligheid 26 ) en toekomstige initiatieven die betrekking hebben op aansprakelijkheidskwesties in verband met nieuwe technologieën, waaronder AI-systemen.
De aanbeveling is ook in overeenstemming met de algemene digitale strategie van de Commissie die gericht is op de bevordering van technologie die werkt voor de mensen, een van de drie belangrijkste doelstellingen van de in de mededeling “De digitale toekomst van Europa vormgeven” 27 geformuleerde beleidsvisie. Het doel ervan is dat AI wordt ontwikkeld op een manier die de mensenrechten eerbiedigt en het vertrouwen van de mensen wint, zodat Europa klaar is voor het digitale tijdperk en we van de komende tien jaar het digitale decennium kunnen maken 28 .
Met de voorgestelde aanbeveling wordt ook de rol van de Unie bij de vormgeving van internationale normen en standaarden en bij de bevordering van betrouwbare AI die strookt met de waarden en belangen van de Unie, aanzienlijk versterkt. De voorgestelde aanbeveling biedt de Unie een krachtige basis om de digitale diplomatie van de EU 29 te versterken en om met andere Europese en niet-Europese landen te onderhandelen over de eerste juridisch bindende internationale overeenkomst inzake AI, gebaseerd op gedeelde waarden en beginselen.
2. RECHTSGRONDSLAG, SUBSIDIARITEIT EN EVENREDIGHEID
• Rechtsgrondslag
In artikel 218, lid 3, van het Verdrag betreffende de werking van de Europese Unie (VWEU) is bepaald dat de Commissie aanbevelingen doet aan de Raad, die een besluit houdende machtiging tot het openen van de onderhandelingen vaststelt en de onderhandelaar van de Unie aanwijst. Krachtens artikel 218, lid 4, VWEU kan de Raad de onderhandelaar richtsnoeren geven.
• Subsidiariteit (bij niet-exclusieve bevoegdheid)
De voorgestelde wet op de AI bevat geharmoniseerde regels voor AI-systemen in de Unie, waardoor de lidstaten geen verdere beperkingen kunnen opleggen, tenzij dit door de wet uitdrukkelijk wordt toegestaan. Krachtens artikel 3, lid 2, VWEU is de Unie exclusief bevoegd internationale overeenkomsten te sluiten wanneer die gemeenschappelijke regels kunnen aantasten of de strekking daarvan kunnen wijzigen. Hieruit volgt dat de Unie voor alle aangelegenheden in verband met het ontwerp, de ontwikkeling en de toepassing van AI-systemen, die grotendeels onder het EU-recht vallen of moeten vallen na de verwachte toekomstige ontwikkeling van EU-wetgeving en met name de voorgestelde wet op de AI, de bevoegdheid moet hebben om over het toekomstige verdrag van de Raad van Europa inzake AI te onderhandelen.
• Evenredigheid
Dit initiatief gaat niet verder dan wat nodig is om de desbetreffende beleidsdoelstellingen te verwezenlijken.
• Keuze van het instrument
De keuze van het instrument is een aanbeveling voor een besluit van de Raad, zoals bepaald in artikel 218, leden 3 en 4, VWEU.
3. EVALUATIE, RAADPLEGING VAN BELANGHEBBENDEN EN EFFECTBEOORDELING
• Evaluatie van bestaande wetgeving en controle van de resultaatgerichtheid ervan
N.v.t.
• Raadpleging van belanghebbenden
N.v.t.
• Bijeenbrengen en gebruik van expertise
De Commissie heeft bij de voorbereiding van de onderhandelingen rekening gehouden met de standpunten die de deskundigen van de lidstaten naar voren hebben gebracht tijdens de besprekingen in de betrokken werkgroep van de Raad.
• Effectbeoordeling
N.v.t.
• Resultaatgerichtheid en vereenvoudiging
N.v.t.
• Grondrechten
De voorgestelde wet op de AI en het ter tafel liggende verdrag van de Raad van Europa hebben tot doel de risico’s tot een minimum te beperken en te zorgen voor een hoog niveau van bescherming van de grondrechten die in bepaalde omstandigheden door de ontwikkeling en het gebruik van AI kunnen worden aangetast. Tegelijk wordt erkend dat AI het potentieel heeft om de uitoefening van die rechten in de digitale omgeving te beschermen en te vergemakkelijken en om het maatschappelijk en ecologisch welzijn en de technologische vooruitgang te verbeteren.
4. GEVOLGEN VOOR DE BEGROTING
Het voorstel heeft naar verwachting geen gevolgen voor de begroting van de Unie.
5. OVERIGE ELEMENTEN
• Uitvoeringsplanning en regelingen betreffende controle, evaluatie en rapportage
Het onderhandelingsproces zal naar verwachting tot 2024 duren, waarna het verdrag kan worden ondertekend en gesloten.
BESLUIT VAN DE RAAD
houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat
DE RAAD VAN DE EUROPESE UNIE,
Gezien het Verdrag betreffende de werking van de Europese Unie, en met name artikel 218, leden 3 en 4,
Gezien de aanbeveling van de Europese Commissie,
Overwegende hetgeen volgt:
In 2021 heeft het Comité van Ministers van de Raad van Europa voor de periode 2022-2024 een Comité inzake artificiële intelligentie (CAI) opgericht dat de opdracht heeft een internationaal onderhandelingsproces op te zetten om een rechtskader voor de ontwikkeling, het ontwerp en de toepassing van artificiële intelligentie (AI) tot stand te brengen dat gebaseerd is op de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, en dat bevorderlijk is voor innovatie 30 .
Op 30 juni 2022 heeft het Comité van Ministers van de Raad van Europa het Comité inzake artificiële intelligentie opgedragen snel een juridisch bindend instrument van transversale aard (“verdrag”/“kaderverdrag”) inzake artificiële intelligentie uit te werken op basis van de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, overeenkomstig zijn taakomschrijving, dat gericht is op algemene gemeenschappelijke beginselen, bevorderlijk is voor innovatie en openstaat voor deelname door derde landen, rekening houdend met andere desbetreffende bestaande of in ontwikkeling zijnde internationale rechtskaders 31 .
Vervolgens heeft de voorzitter van het Comité inzake artificiële intelligentie een voorstel gedaan voor een nulontwerp van het (kader)verdrag dat van toepassing zou zijn op het ontwerp, de ontwikkeling en de toepassing van AI-systemen. Het nulontwerp omvat: bepalingen inzake het doel en het voorwerp, het toepassingsgebied, de definities, de fundamentele beginselen, met inbegrip van procedurele waarborgen en rechten die van toepassing zijn op alle AI-systemen ongeacht het risiconiveau ervan, de aanvullende maatregelen voor AI-systemen in de overheidssector en voor AI-systemen die een “onaanvaardbaar” en “significant” risiconiveau opleveren, een follow-up- en samenwerkingsmechanisme; slotbepalingen, met inbegrip van de mogelijkheid voor de Unie om tot het verdrag toe te treden; en een aanhangsel, in ontwikkeling, over een methodologie voor een risico- en effectbeoordeling van AI-systemen.
De Unie heeft gemeenschappelijke regels vastgesteld die zullen worden beïnvloed door de elementen die in aanmerking worden genomen voor het verdrag van de Raad van Europa. Hierbij gaat het met name om een uitgebreide reeks regels op het gebied van de eengemaakte markt voor producten 32 en diensten 33 waarvoor AI-systemen kunnen worden gebruikt, en om regels inzake de bescherming van de grondrechten die zijn verankerd in het Handvest van de grondrechten van de EU 34 en worden uitgevoerd door middel van het afgeleide Unierecht 35 , aangezien die rechten in bepaalde omstandigheden waarschijnlijk in het gedrang komen door de ontwikkeling en het gebruik van bepaalde AI-systemen.
Bovendien heeft de Commissie op 21 april 2021 een wetgevingsvoorstel ingediend voor een verordening tot vaststelling van geharmoniseerde regels voor AI 36 , waarover momenteel wordt onderhandeld door het Europees Parlement en de Raad. Het geplande verdrag van de Raad van Europa overlapt grotendeels met het wetgevingsvoorstel wat betreft het toepassingsgebied ervan, aangezien beide instrumenten bedoeld zijn om regels vast te stellen die van toepassing zijn op het ontwerp, de ontwikkeling en de toepassing van AI-systemen die door openbare of particuliere entiteiten worden aangeboden en gebruikt.
Daarom kan de sluiting van het verdrag in kwestie van de Raad van Europa gevolgen hebben voor bestaande en voorzienbare toekomstige gemeenschappelijke regels van de Unie of de strekking daarvan wijzigen in de zin van artikel 3, lid 2, van het Verdrag betreffende de werking van de Europese Unie.
Om de integriteit van het Unierecht te beschermen en te waarborgen dat de regels van het internationaal recht en het Unierecht consistent blijven, is het noodzakelijk dat de Commissie wordt gemachtigd om namens de Unie te onderhandelen over het verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat.
De Europese Toezichthouder voor gegevensbescherming is geraadpleegd overeenkomstig artikel 42, lid 1, van Verordening (EU) 2018/1725 van het Europees Parlement en de Raad en heeft op […] advies uitgebracht,
HEEFT HET VOLGENDE BESLUIT VASTGESTELD:
De Commissie wordt gemachtigd om namens de Unie te onderhandelen over het (kader)verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat.
De onderhandelingsrichtsnoeren zijn opgenomen in de bijlage.
De onderhandelingen worden gevoerd in overleg met [door de Raad in te voegen
naam van het speciale comité].
Dit besluit is gericht tot de Commissie.
Gedaan te Brussel,
De voorzitter
(1) Voorstel voor een verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie (COM(2021) 206 final).
(2) Comité van Ministers, 1353e vergadering, Besluit CM/Del/Dec(2019)1353/1.5, 11 september 2019 .
(3) Comité van Ministers, Taakomschrijving van het CAHAI (uittreksel uit CM(2019)131) .
(4) Ad-hoccomité inzake artificiële intelligentie, Haalbaarheidsstudie, CAHAI(2020)23, 17 december 2020 .
(5) Ad-hoccomité inzake artificiële intelligentie, Analyse van de raadpleging van meerdere belanghebbenden, CAHAI(2021)07, 23 juni 2021 .
(6) Ad-hoccomité inzake artificiële intelligentie — Mogelijke elementen van een rechtskader inzake artificiële intelligentie, gebaseerd op de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, CAHAI(2021)09rev, 3 december 2021 .
(7) In dat verband vestigt het CAHAI de aandacht op AI-systemen die leiden tot grootschalig toezicht en op AI-systemen die worden gebruikt voor sociale scoring om de toegang tot essentiële diensten te bepalen.
(8) Comité van Ministers, taakomschrijving van het CAI (uittreksel uit CM(2021) 131) .
(9) Comité van Ministers, Besluit betreffende de werkzaamheden van het CAI tijdens de 132e zitting van het Comité van Ministers — Follow-up CM/Del/Dec(2022)1438/10.4 / 30 juni 2022 .
(10) Bv. zaak C‑114/12, Commissie/Raad (naburige rechten van omroeporganisaties), ECLI:EU:C:2014:2151, punten 68-69; advies 1/13, toetreding van derde landen tot het Haags verdrag, ECLI:EU:C:2014:2303, punten 71-74; zaak C‑66/13, Green Network, ECLI:EU:C:2014:2399, punten 27-33; advies 3/15, Verdrag van Marrakesh tot bevordering van de toegang tot gepubliceerde werken voor personen die blind zijn, visueel gehandicapt of anderszins een leeshandicap hebben, ECLI:EU:C:2017:114, punten 105-108.
(11) Bv. Richtlijn 2001/95/EG inzake algemene productveiligheid (PB L 11 van 15.1.2002, blz. 4), Richtlijn 85/374/EEG van de Raad van 25 juli 1985 betreffende de onderlinge aanpassing van de wettelijke en bestuursrechtelijke bepalingen der lidstaten inzake de aansprakelijkheid voor producten met gebreken (PB L 210 van 7.8.1985, blz. 29) en sectorspecifieke wetgeving inzake productveiligheid zoals Richtlijn 2006/42/EG betreffende machines (PB L 157 van 9.6.2006, blz. 24); Richtlijn 2014/53/EU betreffende de harmonisatie van de wetgevingen van de lidstaten inzake het op de markt aanbieden van radioapparatuur (PB L 153 van 22.5.2014, blz. 62); Richtlijn 2009/48/EG betreffende de veiligheid van speelgoed (PB L 170 van 30.6.2009, blz. 1); Verordening (EU) 2017/745 betreffende medische hulpmiddelen ( PB L 117 van 5.5.2017, blz. 1 ); Verordening (EU) 2019/2144 betreffende de voorschriften voor de typegoedkeuring van motorvoertuigen en aanhangwagens daarvan en van systemen, onderdelen en technische eenheden die voor dergelijke voertuigen zijn bestemd wat de algemene veiligheid ervan en de bescherming van de inzittenden van voertuigen en kwetsbare weggebruikers betreft (PB L 325 van 16.12.2019, blz. 1).
(12) Bv. Richtlijn 2006/123/EG betreffende diensten op de interne markt en sectorspecifieke wetgeving inzake diensten zoals Richtlijn 2000/31/EG betreffende bepaalde juridische aspecten van de diensten van de informatiemaatschappij, met name de elektronische handel (PB L 178 van 17.7.2000, blz. 1); Richtlijn 2008/48/EG van het Europees Parlement en de Raad van 23 april 2008 inzake kredietovereenkomsten voor consumenten (PB L 133 van 22.5.2008, blz. 66), Richtlijn (EU) 2016/97 van het Europees Parlement en de Raad van 20 januari 2016 betreffende verzekeringsdistributie (herschikking) (PB L 26 van 2.2.2016, blz. 19); de richtlijn audiovisuele mediadiensten (Richtlijn (EU) 2018/1808) (PB L 303 van 28.11.2018, blz. 69).
(13) Handvest van de grondrechten van de Europese Unie (PB C 326 van 26.10.2012, blz. 391).
(14) Bv. Verordening (EU) nr. 536/2014 van het Europees Parlement en de Raad van 16 april 2014 betreffende klinische proeven met geneesmiddelen voor menselijk gebruik en tot intrekking van Richtlijn 2001/20/EG Voor de EER relevante tekst (PB L 158 van 27.5.2014, blz. 1).
(15) Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming) (PB L 119 van 4.5.2016, blz. 1); Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, en betreffende het vrije verkeer van die gegevens en tot intrekking van Kaderbesluit 2008/977/JBZ van de Raad (PB L 119 van 4.5.2016, blz. 89).
(16) Bv. Richtlijn 2002/58/EG van het Europees Parlement en de Raad van 12 juli 2002 betreffende de verwerking van persoonsgegevens en de bescherming van de persoonlijke levenssfeer in de sector elektronische communicatie (richtlijn betreffende privacy en elektronische communicatie) (PB L 201 van 31.7.2002, blz. 37).
(17) Bv. Richtlijn 2000/43/EG van de Raad van 29 juni 2000 houdende toepassing van het beginsel van gelijke behandeling van personen ongeacht ras of etnische afstamming (PB L 180 van 19.7.2000, blz. 22); Richtlijn 2000/78/EG van de Raad van 27 november 2000 tot instelling van een algemeen kader voor gelijke behandeling in arbeid en beroep (PB L 303 van 2.12.2000, blz. 16); Richtlijn 2006/54/EG van het Europees Parlement en de Raad van 5 juli 2006 betreffende de toepassing van het beginsel van gelijke kansen en gelijke behandeling van mannen en vrouwen in arbeid en beroep (herschikking) (PB L 204 van 26.7.2006, blz. 23); Richtlijn 2004/113/EG van de Raad van 13 december 2004 houdende toepassing van het beginsel van gelijke behandeling van mannen en vrouwen bij de toegang tot en het aanbod van goederen en diensten (PB L 373 van 21.12.2004, blz. 37).
(18) Bv. Richtlijn (EU) 2018/1808 van het Europees Parlement en de Raad van 14 november 2018 tot wijziging van Richtlijn 2010/13/EU betreffende de coördinatie van bepaalde wettelijke en bestuursrechtelijke bepalingen in de lidstaten inzake het aanbieden van audiovisuele mediadiensten (richtlijn audiovisuele mediadiensten) in het licht van een veranderende marktsituatie, PE/33/2018/REV/1 (PB L 303 van 28.11.2018, blz. 69).
(19) Bv. Richtlijn (EU) 2016/343 van het Europees Parlement en de Raad van 9 maart 2016 betreffende de versterking van bepaalde aspecten van het vermoeden van onschuld en van het recht om in strafprocedures bij de terechtzitting aanwezig te zijn (PB L 65 van 11.3.2016, blz. 1).
(20) Bv. Richtlijn 2012/29/EU van het Europees Parlement en de Raad van 25 oktober 2012 tot vaststelling van minimumnormen voor de rechten, de ondersteuning en de bescherming van slachtoffers van strafbare feiten (PB L 315 van 14.11.2012, blz. 57); Verordening (EU) 2020/1783 van het Europees Parlement en de Raad van 25 november 2020 betreffende de samenwerking tussen de gerechten van de lidstaten op het gebied van bewijsverkrijging in burgerlijke en handelszaken (bewijsverkrijging) (herschikking) (PB L 405 van 2.12.2020, blz. 1); Richtlijn 2013/48/EU van het Europees Parlement en de Raad van 22 oktober 2013 betreffende het recht op toegang tot een advocaat in strafprocedures en in procedures ter uitvoering van een Europees aanhoudingsbevel en het recht om een derde op de hoogte te laten brengen vanaf de vrijheidsbeneming en om met derden en consulaire autoriteiten te communiceren tijdens de vrijheidsbeneming (PB L 294 van 6.11.2013).
(21) Artikel 2 van het Verdrag betreffende de Europese Unie (PB C 202 van 7.6.2016).
(22) Bv. advies 1/03, nieuw verdrag van Lugano, ECLI:EU:C:2004:490, punt 126; zaak C‑114/12, Commissie/Raad (naburige rechten van omroeporganisaties), ECLI:EU:C:2014:2151, punt 70; zaak C-66/13, Green Network, ECLI:EU:C:2014:2399, punten 61-64.
(23) Voorstel voor een verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie (COM(2021) 206 final).
(24) Witboek over kunstmatige intelligentie — een Europese benadering op basis van excellentie en vertrouwen (COM(2020) 65 final).
(25) Voorstel voor een verordening van het Europees Parlement en de Raad betreffende machineproducten (COM(2021) 202 final).
(26) Voorstel voor een verordening van het Europees Parlement en de Raad inzake algemene productveiligheid, tot wijziging van Verordening (EU) nr. 1025/2012 van het Europees Parlement en de Raad en tot intrekking van Richtlijn 87/357/EEG van de Raad en Richtlijn 2001/95/EG van het Europees Parlement en de Raad (COM(2021) 346 final).
(27) Mededeling van de Commissie, “De digitale toekomst van Europa vormgeven” (COM(2020) 67 final).
(28) Mededeling van de Commissie, “Digitaal kompas 2030: de Europese aanpak voor het digitale decennium” (COM(2021) 118 final).
(29) Zie in dit verband ook de conclusies van de Raad van 18 juli 2022 over de digitale diplomatie van de EU, 11406/22.
(30) Comité van Ministers, Taakomschrijving van het CAI (uittreksel uit CM(2021) 131) .
(31) Comité van Ministers, Besluit betreffende de werkzaamheden van het CAI tijdens de 132e zitting van het Comité van Ministers — Follow-up CM/Del/Dec(2022)1438/10.4 / 30 juni 2022 .
(32) Bv. Richtlijn 2001/95/EG inzake algemene productveiligheid (PB L 11 van 15.1.2002, blz. 4), Richtlijn 85/374/EEG van de Raad van 25 juli 1985 betreffende de onderlinge aanpassing van de wettelijke en bestuursrechtelijke bepalingen der lidstaten inzake de aansprakelijkheid voor producten met gebreken (PB L 210 van 7.8.1985, blz. 29) en sectorspecifieke wetgeving inzake productveiligheid zoals Richtlijn 2006/42/EG betreffende machines (PB L 157 van 9.6.2006, blz. 24); Richtlijn 2014/53/EU betreffende de harmonisatie van de wetgevingen van de lidstaten inzake het op de markt aanbieden van radioapparatuur (PB L 153 van 22.5.2014, blz. 62); Richtlijn 2009/48/EG betreffende de veiligheid van speelgoed (PB L 170 van 30.6.2009, blz. 1); Verordening (EU) 2017/745 betreffende medische hulpmiddelen ( PB L 117 van 5.5.2017, blz. 1 ); Verordening (EU) 2019/2144 betreffende de voorschriften voor de typegoedkeuring van motorvoertuigen en aanhangwagens daarvan en van systemen, onderdelen en technische eenheden die voor dergelijke voertuigen zijn bestemd wat de algemene veiligheid ervan en de bescherming van de inzittenden van voertuigen en kwetsbare weggebruikers betreft (PB L 325 van 16.12.2019, blz. 1).
(33) Bv. Richtlijn 2006/123/EG betreffende diensten op de interne markt en sectorspecifieke wetgeving inzake diensten zoals Richtlijn 2000/31/EG betreffende bepaalde juridische aspecten van de diensten van de informatiemaatschappij, met name de elektronische handel (PB L 178 van 17.7.2000, blz. 1); Richtlijn 2008/48/EG van het Europees Parlement en de Raad van 23 april 2008 inzake kredietovereenkomsten voor consumenten (PB L 133 van 22.5.2008, blz. 66).
(34) Handvest van de grondrechten van de Europese Unie, PB C 326 van 26.10.2012, blz. 391-40.
(35) Bv. Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming) (PB L 119 van 4.5.2016, blz. 1); Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, en betreffende het vrije verkeer van die gegevens en tot intrekking van Kaderbesluit 2008/977/JBZ van de Raad (PB L 119 van 4.5.2016, blz. 89); Richtlijn 2002/58/EG van het Europees Parlement en de Raad van 12 juli 2002 betreffende de verwerking van persoonsgegevens en de bescherming van de persoonlijke levenssfeer in de sector elektronische communicatie (richtlijn betreffende privacy en elektronische communicatie) (PB L 201 van 31.7.2002, blz. 37); Richtlijn 2000/43/EG van de Raad van 29 juni 2000 houdende toepassing van het beginsel van gelijke behandeling van personen ongeacht ras of etnische afstamming (PB L 180 van 19.7.2000, blz. 22); Richtlijn 2000/78/EG van de Raad van 27 november 2000 tot instelling van een algemeen kader voor gelijke behandeling in arbeid en beroep (PB L 303 van 2.12.2000, blz. 16).
(36) Voorstel voor een verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie (COM(2021) 206 final).