21 juni 2023 - door Liese Dewilde
De zoektocht naar evenwicht tussen reguleren en innovatie. Het Europees Parlement nam op 14 juni 2023 plenair een standpunt in over de Wet Artificiële Intelligentie (Artificial Intelligence Act - AI Act).
De regels maken een onderscheid tussen minimaal risico AI, beperkt risico AI, hoog risico AI en onaanvaardbare AI. Voor generatieve AI (zoals ChatGPT) gelden nog extra regels.
AI moet veilig, niet-discriminerend en transparant zijn.
De onderhandelingen met de Raad zijn meteen gestart.
Het Europees Parlement nam met grote meerderheid een standpunt in over de AI Act: 499 stemmen voor, 28 stemmen tegen en 93 onthoudingen.
De EU is wereldwijd de eerste die regels maakt over AI.
De regels gaan voor mensgerichte en betrouwbare AI. Ze beschermen de gezondheid, veiligheid, grondrechten en democratie tegen de schadelijke gevolgen van AI. Zo moet AI die in Europa wordt ontwikkeld en gebruikt, de rechten en waarden van de EU respecteren.
AI is een brede term. Het Europees Parlement deelt AI-toepassingen op in 4 risicogroepen. Afhankelijk van het risiconiveau dat de AI kan genereren, gelden andere regels en verplichtingen.
Minimaal risico AI
Bijvoorbeeld: spamfilters, AI-videospelletjes
Deze AI-toepassingen zijn vrij toegestaan.
Beperkt risico AI
Bijvoorbeeld: chatbots op websites van banken of vliegtuigmaatschappijen
Deze AI-toepassingen krijgen transparantieverplichtingen.
Hoog risico AI
Bijvoorbeeld: zelfrijdende wagens, robotchirurgie, AI-systemen die worden gebruikt om kiezers en de uitkomst van verkiezingen te beïnvloeden, AI in aanbevelingssystemen voor sociale mediaplatforms, AI-systemen die significante schade veroorzaken aan de gezondheid, veiligheid, grondrechten of het milieu van mensen enzovoort.
Deze AI-toepassingen krijgen strenge verplichtingen en controle
Onaanvaardbare AI
Bijvoorbeeld: voor sociaal kredietsysteem, realtime biometrische identificatiesystemen, post biometrische identificatiesystemen (met uitzondering de wetshandhaving voor de vervolging van ernstige misdrijven), emotieherkenning, voorspellend politiewerk enzovoort.
Deze AI-toepassingen zijn verboden.
Het Europees Parlement hamert op transparantie over hoe AI wordt ingezet. Een gebruiker heeft enkel zicht op de output. Er is momenteel te weinig openheid over de complexe algoritmen achter de schermen.
De EU wil er ook op toezien dat AI-systemen veilig en niet discriminerend zijn. Ze moeten steeds onder controle staan van de mens en mogen fundamentele rechten niet in gevaar brengen.
De Europarlementariërs versterkten het recht van burgers om klachten in te dienen over AI-systemen. Burgers moeten ook de mogelijkheid hebben om uitleg te krijgen over beslissingen gebaseerd op AI-systemen met hoog risico.
Het Parlement hervormde ook de rol van het EU AI-Bureau. Dat moet toezicht houden op de implementatie van het AI-reglement.
Voor toepassingen met generatieve AI (zoals ChatGPT) komt er een aparte categorie.
Generatieve AI-systemen krijgen specifieke transparantie-vereisten. Ze moeten nadrukkelijk vermelden dat de inhoud door AI is gegenereerd. Daarnaast moeten ze waarborgen bieden tegen het genereren van illegale inhoud.
Om AI-innovatie te stimuleren en kleine en middelgrote ondernemingen te ondersteunen, hebben Europarlementariërs vrijstellingen toegevoegd. Onderzoeksactiviteiten en AI-componenten die onder open source licenties worden geleverd, zijn vrijgesteld.
Het Parlement bevordert bovendien ‘regulatory sandboxes’. Dit zijn real-life omgevingen die door de overheid worden opgezet om AI te testen voor de lancering en ingebruikname.
Op 21 april 2021 publiceerde de Europese Commissie een ‘Voorstel voor een verordening tot vaststelling van geharmoniseerde regels inzake kunstmatige intelligentie’. Voor het voorstel voor een AI Act kwam de Commissie al met andere initiatieven over het onderwerp:
Witboek over AI
Mededeling ‘De Digitale toekomst van Europa vormgeven’
Strategie voor gegevens
Digitaal kompas 2030
De Commissie wilde een wetgevingskader creëren dat de regels voor het op de markt brengen of in gebruik nemen van AI-systemen in de EU harmoniseert. Ze had ook als doel om bepaalde eisen en verboden vast te leggen, in overeenstemming met de waarden van de EU.
Het Europees Parlement nam met deze plenaire stemming haar standpunt in. Dit standpunt geldt als startpositie om de interinstitutionele onderhandelingen met de Raad te beginnen. De Raad nam haar algemene oriëntatie al aan op 6 december 2023.
De Raad (onder Zweeds Voorzitterschap) en het Europees Parlement zijn meteen gestart met trilogen. Dit is uitzonderlijk. Een tweede onderhandelronde gebeurt op 18 juli 2023 (met de Raad onder Spaans voorzitterschap).
Lees hier het standpunt van de Raad. Lees hier het standpunt van het Europees Parlement.
