18 oktober 2023 - door Kristof Vlaeminck
Volgens een bron in de media is de inhoud van de vierde ronde van de informele interinstitutionele (triloog) onderhandelingen over het voorstel voor de Verordening Kunstmatige Intelligentie gelekt.
Deze vierde onderhandelingsronde is gericht op het vinden van compromissen over kritieke onderdelen van de tekst, zoals stichtingsmodellen en kunstmatige intelligentie voor algemene doeleinden.
De inhoud van het document opgesteld door het Spaanse Voorzitterschap van de Raad van de Europese Unie zal van 18 tot 20 oktober 2023 besproken worden door het Comité van permanente vertegenwoordigers (COREPER I).
De Commissie Interne Markt en Consumentenbescherming (IMCO) van het Europees Parlement zal op 25 oktober 2023 bijeenkomen om te worden geïnformeerd over de vierde trialoog.
Het document dat ter voorbereiding van de vierde trialoog door de ambassadeurs van de lidstaten moet worden besproken, zou mogelijke compromissen op kritieke gebieden van de voorgestelde verordening bevatten.
In de tekst zou met name voorgesteld worden om de term "basismodel" te definiëren als een "kunstmatige intelligentiemodel dat in staat is om een breed scala aan specifieke taken competent uit te voeren" en om uitvoeringshandelingen aan te nemen om benchmarks vast te stellen en capaciteiten te beoordelen.
Daarnaast zou het Spaanse voorzitterschap voorstellen om horizontale transparantieverplichtingen op te nemen voor foundationmodellen vóór en na hun introductie op de EU-markt, evenals een nieuwe categorie voor "zeer capabele foundationmodellen", waarvoor aanvullende eisen zouden gelden.
Met betrekking tot kunstmatige intelligentie voor algemene doeleinden zou in de tekst voorgesteld worden om een extra categorie in te voeren voor dergelijke systemen die gebaseerd zijn op stichtingsmodellen en worden gebruikt als schaal. Hiervoor zouden eveneens aanvullende verplichtingen zouden gelden.
Leveranciers van basismodellen zouden moeten aantonen dat hun systeem is opgeleid in overeenstemming met de auteursrechtwetgeving van de EU, maar houders van rechten zouden de mogelijkheid hebben om hiervan af te zien.
Op het gebied van governance zou het Spaanse voorzitterschap de oprichting van een AI Office steunen, wat een voorstel was van het Europees Parlement. Dit AI Office moet toezien op de regels voor foundationmodellen en kunstmatige intelligentie systemen voor algemene doeleinden die op grote schaal worden gebruikt en nalevingscontroles uitvoeren.
Wat betreft de omstreden kwestie van biometrische identificatie zou de tekst gericht zijn op het vinden van een compromis tussen de wens van het Europees Parlement voor een volledig verbod en de die van de Raad om bepaalde uitzonderingen te handhaven. Daartoe zouden verdere beperkingen van de uitzonderingsgevallen voorgesteld zijn, evenals extra waarborgen.
Hoewel de tekst van het Spaanse Voorzitterschap het voorgestelde verbod op emotieherkenning op het werk en in onderwijsinstellingen aanvaardt zou hebben, zou het verbod op dergelijke praktijken voor rechtshandhaving en grensbeheer verworpen worden. Er zouden ook belangrijke uitzonderingen voor rechtshandhaving voorgesteld worden met betrekking tot biometrische categorisatie.
Tot slot zou in de tekst voorgesteld worden om emotieherkenning en biometrische categorisatie als risicovol aan te merken, in plaats van een totaal verbod op dergelijke praktijken op te leggen.
