Rechter buigt zich over AI-tool Grok: organisaties eisen verbod op nep-naaktbeelden en kindermisbruikmateriaal

De rechtbank Amsterdam behandelt vandaag, donderdag 12 maart 2026, een kort geding van twee Nederlandse organisaties tegen Grok, de AI-chatbot van het platform X, eigendom van Elon Musk. Expertisecentrum online misbruik Offlimits en Fonds Slachtofferhulp eisen dat Grok per direct stopt met het genereren van nep-naaktbeelden en van beeldmateriaal dat kwalificeert als kinderpornografie. Ze vragen ook een dwangsom van 100.000 euro per dag als X en Grok zich niet aan een eventueel verbod houden.

Wat kan Grok doen dat aanleiding gaf tot de rechtszaak?

Grok is een geavanceerde AI-assistent die door gebruikers werd ingezet voor een functie waarvoor hij niet bedoeld was: het genereren van seksueel expliciete beelden van echte mensen, zonder hun toestemming. De tool kan op basis van een foto van een persoon een realistisch nep-naaktbeeld produceren. Dat type beeldmateriaal wordt internationaal aangeduid als deepfake nudity.

Volgens de eisende partijen gaat de problematiek verder dan volwassenen. Gebruikers zouden Grok ook hebben ingezet om afbeeldingen te genereren van minderjarigen in seksuele situaties. Dat beeldmateriaal valt juridisch onder kinderpornografie en is in vrijwel elk land ter wereld zwaar strafbaar. Offlimits en Fonds Slachtofferhulp stellen dat Grok hiermee actief bijdraagt aan ernstige vormen van digitaal misbruik.

Welke wetten zijn in het geding?

De eisers benoemen een reeks wettelijke kaders die Grok zou schenden. In de eerste plaats de Algemene Verordening Gegevensbescherming (AVG), omdat bij het genereren van nep-naaktbeelden persoonsgegevens worden verwerkt zonder toestemming van de betrokkene. Daarnaast de Europese Digital Services Act (DSA), die grote platforms verplicht om illegale inhoud actief te verwijderen en te voorkomen.

Het Nederlandse Wetboek van Strafrecht is ook in het geding: het is in Nederland strafbaar om synthetische naaktbeelden van iemand te maken of te verspreiden zonder diens toestemming. Die strafbaarstelling werd in 2024 ingevoerd, specifiek als reactie op de opkomst van deepfake-technologie. Tot slot schenden de beelden het portretrecht: iedereen heeft het recht te bepalen hoe zijn of haar beeltenis wordt gebruikt, ook in de context van door AI gegenereerd materiaal.

Waarom nu een kort geding?

Een kort geding is bedoeld voor situaties waarin schade zo snel oploopt dat een gewone procedure te lang duurt. Offlimits wijst erop dat het aantal meldingen van slachtoffers van deepfake-misbruik in het afgelopen jaar fors is gestegen. De psychologische schade die slachtoffers ondervinden, vergelijken behandelaren met die van traditioneel seksueel misbruik. Wachten op een langlopende rechtszaak is dan geen optie.

De zaak is ook symbolisch van belang. Grok is niet de eerste AI-tool die voor dit soort toepassingen wordt misbruikt, maar het is een van de grootste en meest toegankelijke. Een uitspraak van de Amsterdamse rechtbank zou precedentwerking kunnen hebben voor de manier waarop Nederland en de EU omgaan met AI-platforms die zowel legale als illegale inhoud mogelijk maken.

Hoe reageert X?

X heeft voorafgaand aan de zitting geen inhoudelijke reactie gegeven op de eisen van Offlimits en Fonds Slachtofferhulp. Het bedrijf heeft in het verleden meermalen gesteld dat het zijn gebruiksvoorwaarden hanteert om misbruik te voorkomen, maar critici wijzen erop dat handhaving tekortschiet. In andere Europese landen lopen vergelijkbare procedures tegen X en andere techbedrijven die als platform fungeren voor illegale AI-gegenereerde inhoud.

Wat verwachten deskundigen?

Juridische experts volgen de zaak met interesse. Een kort geding leidt niet altijd tot een definitief verbod, maar de rechter kan een voorlopige maatregel opleggen die X verplicht de functionaliteit onmiddellijk te blokkeren tot een bodemzaak meer duidelijkheid geeft. Hoe snel zo'n maatregel technisch te implementeren is, is een van de vragen die vandaag naar verwachting aan de orde komt. De uitspraak wordt binnen enkele weken verwacht.

Voor slachtoffers van deepfake-misbruik in Nederland is de zaak een signaal dat organisaties de strijd met grote techplatforms niet uit de weg gaan. Offlimits benadrukt dat het kort geding deel uitmaakt van een breder pakket aan maatregelen, dat ook bewustwordingscampagnes, slachtofferondersteuning en lobbywerk in Brussel omvat.