In een gesprek tussen een groep jongens op een bankje in Amsterdam-Zuid wordt luchtig gesproken over het gebruik van AI-tools om nepnaaktbeelden van klasgenoten te maken. Ze vertellen dat het eenvoudig is om dergelijke beelden te genereren via apps die online beschikbaar zijn. De naaktfoto’s die met AI zijn gemaakt, lijken zo levensecht dat het moeilijk is om te bepalen of ze echt zijn of niet. Deze beelden worden vaak via sociale media of groepschats verspreid, wat het pestgedrag verergert.

Uit een rondvraag onder middelbare scholen blijkt dat tientallen scholen te maken hebben gehad met incidenten waarbij AI werd gebruikt om leerlingen digitaal te pesten. Bij 42 procent van de ondervraagde scholen kwam AI-pestgedrag minstens één keer voor, en bij 10 procent gebeurde dit zelfs meer dan vijf keer per jaar. Bijna een kwart van de scholen gaf aan dat naaktfoto’s of seksueel getinte beelden met AI werden gecreëerd en verspreid.

Nepnaaktfoto’s en realistische beelden

De technologie achter AI is tegenwoordig zo geavanceerd dat het voor leerlingen gemakkelijk is om nepbeelden te maken die van echte foto’s of video’s moeilijk te onderscheiden zijn. Op sommige scholen verschijnen AI-gegenereerde beelden en video’s waarin leerlingen belachelijk worden gemaakt. In sommige gevallen worden deze beelden zelfs gepost op sociale media zoals TikTok of worden ze in video’s verwerkt, waarbij de gezichten van leerlingen in elkaar worden gezet.

Deskundigen wijzen erop dat het steeds moeilijker wordt om te herkennen of een beeld echt of gegenereerd is. De kwaliteit van de beelden is zo goed dat leerlingen soms niet eens merken dat ze naar nepbeelden kijken, wat het probleem nog verergert.

AI-pesten: een gemakkelijke en schadelijke praktijk

Volgens Roy Vathorst van Digiwijzer maken slechts een klein aantal leerlingen gebruik van AI om anderen te pesten. Echter, wanneer zij toegang hebben tot de technologie, gaan ze vaak erg ver in het gebruik ervan. Vathorst stelt dat het creëren van beledigende stickers – waarbij bestaande foto’s op een vervelende manier worden bewerkt – de meest voorkomende vorm van AI-pesten is. Deze bewerkte beelden, zoals een klasgenoot met een varkensneus of een docent in een Nazi-uniform, worden vervolgens verspreid via groepschats en sociale netwerken.

De makkelijkheid waarmee beledigende beelden kunnen worden gemaakt, zorgt ervoor dat steeds meer leerlingen AI-tools gebruiken om anderen te kwetsen. Dit probleem wordt nog versterkt doordat de meeste AI-tools eenvoudig te gebruiken zijn, met weinig technische kennis vereist.

Onvoldoende maatregelen en weinig openheid

Een groot obstakel in het aanpakken van dit soort digitaal pestgedrag is het gebrek aan openheid van leerlingen. Omdat veel jongeren zich niet gemakkelijk uitspreken over online pesten, blijven incidenten vaak onder de radar. Scholen hebben moeite om dit soort pestgedrag te controleren, vooral omdat steeds meer scholen een telefoonverbod in de klas hanteren, waardoor docenten minder zicht hebben op wat er online speelt.

Deskundigen wijzen er ook op dat leerlingen in veel gevallen proberen de situatie zelf op te lossen zonder volwassenen erbij te betrekken. Dit maakt het nog moeilijker voor scholen om in te grijpen zonder het vertrouwen van de leerlingen te schaden.

Internationale zorgen over AI-pesten

Ook internationaal zijn er zorgen over het gebruik van AI-tools voor pesten. In Spanje werden bijvoorbeeld nepnaaktfoto’s van meisjes tussen de 11 en 17 jaar verspreid via groepschats en sociale media. In Zuid-Korea werden zelfs 500 scholen geconfronteerd met chatgroepen waarin nepnaaktbeelden van vrouwelijke studenten werden gedeeld. Deze gevallen benadrukken dat AI-pesten een wereldwijd probleem is.

Toekomstige problemen met AI-pestgedrag

Experts vrezen dat het probleem van digitaal pesten met AI in de toekomst alleen maar groter zal worden. Van de 60 ondervraagde scholen geeft bijna 87 procent aan zich zorgen te maken over het toenemende gebruik van AI-gegenereerde naaktfoto’s en seksueel getinte beelden. De realistische kwaliteit van deze beelden maakt het voor leerlingen steeds moeilijker om te zien wat echt is en wat niet.

Het gebruik van AI als middel om te pesten is een groeiend probleem, en scholen staan voor de uitdaging om hiermee om te gaan. Het is duidelijk dat het aanpakken van dit soort digitaal pesten een complexere taak is geworden, waarbij zowel technologie als communicatie een grote rol spelen.