De Autoriteit Persoonsgegevens (AP) heeft een conceptvisie gepubliceerd over de verantwoorde ontwikkeling en toepassing van generatieve AI. In deze voorlopige visie worden technologische trends en toekomstige scenario’s geschetst, met daarnaast een juridische interpretatie van de inzet van AI in relatie tot de bescherming van persoonsgegevens. Als toezichthouder en coördinerend orgaan voor algoritme- en AI-toezicht nodigt de AP organisaties uit om feedback te geven op deze visie en op de bijbehorende voorlopige voorwaarden die voortvloeien uit de Algemene Verordening Gegevensbescherming (AVG).
Generatieve AI: kansrijk maar complex
Generatieve AI is inmiddels diep verankerd in het dagelijks leven en bezit grote potentie om economische groei en maatschappelijke vooruitgang te ondersteunen. De technologie draait op modellen die zijn getraind met enorme hoeveelheden data, waaronder ook persoonsgegevens die gebruikers tijdens interacties onbedoeld verstrekken. De AP benadrukt dat veel van deze AI-modellen mogelijk op onrechtmatige wijze zijn ontwikkeld vanwege gebrekkige transparantie over de herkomst en aard van de gebruikte data.
Een toekomstvisie gebaseerd op publieke waarden
Zowel de beloften als de risico’s van generatieve AI zijn aanzienlijk. Daarom pleit de AP voor een benadering waarbij grondrechten en publieke belangen het uitgangspunt vormen. Door duidelijke randvoorwaarden te stellen, kunnen innovatie en toezicht samengaan. Deze benadering staat centraal in de publicatie Verantwoord vooruit: AP-visie op generatieve AI, die nu ter consultatie ligt. Het document biedt richting voor het verantwoord benutten van generatieve AI binnen de samenleving.
Meer grip nodig op grootschalige dataverwerking
Volgens de AP moet de inzet van generatieve AI hand in hand gaan met structurele bescherming van persoonsgegevens. Er is een dringende noodzaak om maatschappelijke controle te behouden over hoe deze technologie zich ontwikkelt. De AP stelt dat alleen preventief ingrijpen effectief is, omdat achteraf corrigeren vaak onvoldoende blijkt. De visie onderstreept dat verantwoord gebruik van AI mogelijk is, mits de juiste juridische, technische en organisatorische maatregelen worden getroffen.
Toekomstscenario’s richting 2030
In haar consultatiedocument beschrijft de AP vier mogelijke toekomstscenario’s voor generatieve AI binnen de EU. De voorkeur gaat uit naar het scenario ‘Waarden aan het werk’, waarin technologie wordt ingebed binnen een kader van publieke waarden en wettelijke normen. Om dit te realiseren zijn maatschappelijke randvoorwaarden noodzakelijk, zoals digitale soevereiniteit, democratische controle, marktwerking en het vermogen om door de hele AI-keten heen bij te sturen.
Eisen aan modellen en hun toepassing
Naast maatschappelijke randvoorwaarden benoemt de AP ook uitgangspunten op systeemniveau. Ontwikkelaars en gebruikers van AI dienen transparant te zijn, risico’s in kaart te brengen, doelstellingen expliciet te maken en controle uit te oefenen over zowel de gebruikte data als de infrastructuur waarop systemen draaien. Door aan deze eisen te voldoen, kunnen organisaties aantonen dat zij opereren binnen de kaders van onder andere de AVG, de AI-verordening en sectorale regelgeving.
Generatieve AI als fundament voor diverse toepassingen
De visie van de AP richt zich op generatieve AI-modellen met brede inzetbaarheid – denk aan toepassingen als chatbots, beeldgenerators, zoekmachines en tekstcreatie. Zulke systemen worden ook wel foundation models of general purpose AI genoemd. In de visie vallen deze modellen onder de verzamelterm ‘generatieve AI’, vanwege hun centrale rol in uiteenlopende technologische ecosystemen.
Voorlopige AVG-richtlijnen voor generatieve AI
Gelijktijdig met de visie publiceert de AP voorlopige richtlijnen voor AVG-conform gebruik van generatieve AI. De organisatie nodigt bedrijven en instellingen uit om op deze conceptversie te reageren. Uit voorlopige analyses blijkt dat veel huidige AI-modellen tekortschieten in de bescherming van persoonsgegevens, vooral vanwege de aanwezigheid van bijzondere persoonsgegevens in trainingsdata en het ontbreken van transparante databronnen. Tegelijkertijd stelt de EDPB dat het gebruik van deze modellen binnen Europa niet per definitie onrechtmatig is.
Volgende stappen van de toezichthouder
De technologische ontwikkeling van generatieve AI voltrekt zich in hoog tempo. De AP benadrukt dat organisaties die AI toepassen hun verantwoordelijkheid moeten nemen en oog moeten hebben voor de risico’s voor gebruikers. Met de publicatie van de visie en de voorlopige AVG-randvoorwaarden wil de AP meer duidelijkheid bieden over wat er van organisaties wordt verwacht.
Daarnaast kondigt de AP concrete vervolgacties aan, waaronder de oprichting van een speciaal AI-loket. Hier kunnen organisaties vragen en signalen delen met de toezichthouder. De AP zal de komende tijd via bijeenkomsten en gesprekken input verzamelen om de visie en voorwaarden verder aan te scherpen. Ook zal in Europees verband worden meegedacht over de ontwikkeling van normen voor generatieve AI.
Bron: Autoriteit Persoonsgegevens
