AP-waakhond slaat alarm: vier rode vlaggen in AI-rapport, kabinet moet nu handelen

Vier van negen graadmeters op rood

De Autoriteit Persoonsgegevens (AP) publiceerde deze maand de zesde editie van haar Rapportage AI en Algoritmes Nederland. Het rapport trekt een zorgwekkende conclusie: vier van de negen indicatoren in de zogeheten AI-Impactbarometer staan inmiddels op rood. In de vorige editie waren dat er nog twee. De vier probleemgebieden zijn het gebrek aan voortgang bij het opzetten van toezicht, het uitblijven van geharmoniseerde normen, de nauwelijks functionerende verplichte registratie van algoritmen bij de overheid, en de beperkte zichtbaarheid van AI-gerelateerde incidenten.

Wolfsen: wie een nieuw schandaal wil voorkomen, moet nu handelen

AP-voorzitter Aleid Wolfsen laat er geen misverstand over bestaan. "Vijf jaar na het toeslagenschandaal zijn de lessen duidelijk, maar de opvolging blijft achter," zei hij bij de presentatie van het rapport. Wolfsen wees erop dat overheidsdiensten nog steeds AI-systemen inzetten die burgers kunnen discrimineren of onterecht afwijzen, en dat dit grotendeels buiten het zicht van toezichthouders gebeurt. "Wie een nieuw schandaal wil voorkomen, moet nu handelen," aldus de voorzitter.

Deadline augustus 2026 nadert snel

De druk op het kabinet komt mede doordat de Europese AI-verordening in augustus 2026 een belangrijke drempel bereikt. Vanaf die datum moeten AI-systemen die worden ingezet bij werving en selectie voldoen aan strenge eisen voor hoog-risico toepassingen. Dat betekent dat organisaties hun systemen moeten documenteren, laten auditen en registreren. Momenteel ontbreekt echter de nationale wet die dit afdwingt. De AP vraagt het kabinet met spoed de Uitvoeringswet AI-verordening in te dienen bij de Tweede Kamer, zodat Nederland een aangewezen nationale toezichthouder kan aanwijzen en budgetten voor handhaving kan vastleggen.

Deepfakes, AI-fraude en schade door chatbots

Het rapport belicht drie nieuwe risico's die sinds de vorige editie sterk zijn gegroeid. Deepfakes worden steeds vaker ingezet bij identiteitsfraude en politieke desinformatie. AI-gestuurde fraudepogingen, waarbij oplichters met behulp van taalmodellen gepersonaliseerde phishingberichten opstellen, zijn in volume en overtuigingskracht fors toegenomen. Daarnaast signaleert de AP voor het eerst psychische schade als gevolg van intensief gebruik van AI-chatbots, met name onder jongeren die chatbots als vertrouwenspersoon gebruiken en daardoor minder sociale steun zoeken bij mensen.

Transparantie over algoritmen blijft ver achter

Een andere pijnpunt is het algoritmeregister van de overheid. Terwijl de Rijksoverheid heeft beloofd transparant te zijn over welke AI-systemen zij inzet, is slechts een klein deel van de systemen daadwerkelijk aangemeld. De AP constateert dat gemeenten, uitvoeringsorganisaties en politie systemen gebruiken waarvan het bestaan niet openbaar is. Daarmee is het voor burgers en journalisten onmogelijk om te controleren of zij het slachtoffer zijn van algoritmische beslissingen. De AP pleit voor een wettelijke meldplicht die organisaties verplicht elk hoog-risico AI-systeem binnen drie maanden na ingebruikname te registreren.

Nederland loopt achter op EU-partners

Vergeleken met andere EU-lidstaten bevindt Nederland zich in een nadelige positie. Duitsland, Frankrijk en Spanje hebben elk al een nationaal AI-handhavingsorgaan aangewezen of zijn in een vergevorderd stadium van wetgeving. Nederland heeft nog geen definitieve keuze gemaakt over welke autoriteit de primaire toezichthouder wordt onder de AI-verordening. De AP zelf heeft een kandidatuur ingediend voor een deel van het toezicht, maar de politieke beslissing laat op zich wachten. Elke maand uitstel vergroot het risico dat Nederland bij de Europese Commissie in gebreke wordt gesteld wegens ontoereikende implementatie van de verordening.