Volgens een nationale waakhond neemt het aantal door AI gegenereerde afbeeldingen van kindermisbruik op internet ‘huiveringwekkend’ toe.
De Internet Watch Foundation houdt zich bezig met het online bestrijden van afbeeldingen van kindermisbruik en verwijdert jaarlijks honderdduizenden afbeeldingen.
Nu zegt het kunstmatige intelligentie maakt het werk veel moeilijker.
“Ik vind het echt huiveringwekkend omdat het voelt alsof we op een omslagpunt staan”, zegt “Jeff”, een senior analist bij de Internet Watch Foundation (IWF), die op het werk een valse naam gebruikt om zijn identiteit te beschermen.
In de afgelopen zes maanden hebben Jeff en zijn team meer door AI gegenereerde afbeeldingen van kindermisbruik behandeld dan het jaar daarvoor, wat een toename van 6% in de hoeveelheid AI-inhoud rapporteerde.
Veel van de AI-beelden die ze zien van kinderen die gewond en mishandeld worden, zijn verontrustend realistisch.
“‘Terwijl voordat we definitief zouden kunnen zeggen wat een AI-beeld is, bereiken we nu het punt waarop zelfs een getrainde analist (…) moeite zou hebben om te zien of het echt was of niet”, vertelde Jeff aan Sky News. .
Om de AI-beelden zo realistisch te maken, wordt de software volgens het IWF getraind op bestaande seksueel misbruikbeelden.
“Mensen hoeven zich geen illusies te maken”, zegt Derek Ray-Hill, interim-topman van de IWF.
“Door AI gegenereerd materiaal over seksueel misbruik van kinderen veroorzaakt gruwelijke schade, niet alleen aan degenen die het zouden kunnen zien, maar ook aan de overlevenden die herhaaldelijk het slachtoffer worden elke keer dat beelden en video’s van hun misbruik genadeloos worden uitgebuit voor het verdraaide plezier van roofdieren online.”
Het IWF waarschuwt dat bijna alle inhoud niet verborgen was op het dark web, maar gevonden werd op openbaar beschikbare delen van het internet.
“Deze nieuwe technologie verandert de manier waarop materiaal over seksueel misbruik van kinderen wordt geproduceerd”, zegt professor Clare McGlynn, een juridisch expert die gespecialiseerd is in onlinemisbruik en pornografie aan de Universiteit van Durham.
Lees meer van Sky News:
De bende verkocht vintage nepwijn voor £ 12.500 per fles
Begroting 2024: wat kan de bondskanselier aankondigen?
Burgemeester verbiedt cactusplanten in gebouwen
Ze vertelde Sky News dat het nu “gemakkelijk en ongecompliceerd” is om door AI gegenereerde afbeeldingen van seksueel misbruik van kinderen te produceren en deze vervolgens online te adverteren en te delen.
“Tot nu toe was het gemakkelijk om dit te doen zonder dat je je zorgen hoefde te maken over de politie die je zou komen vervolgen”, zei ze.
Het afgelopen jaar is een aantal pedofielen aangeklaagd wegens het maken van AI-beelden van kindermisbruik, waaronder Neil Darlington die AI gebruikte terwijl hij meisjes probeerde te chanteren om hem expliciete beelden te sturen.
Lees meer: AI-pedofiel heeft ‘milde’ straf verhoogd
Het maken van expliciete foto’s van kinderen is illegaal, zelfs als deze zijn gegenereerd met behulp van AI, en IWF-analisten werken samen met politiediensten en technologieleveranciers om afbeeldingen die ze online vinden te verwijderen en te traceren.
Blijf op de hoogte van het laatste nieuws uit het Verenigd Koninkrijk en de rest van de wereld door Sky News te volgen
Tik hier
Analisten uploaden URL’s van webpagina’s met door AI gegenereerde afbeeldingen van seksueel misbruik van kinderen naar een lijst die wordt gedeeld met de technische industrie, zodat deze de sites kan blokkeren.
De AI-beelden krijgen ook een unieke code, zoals een digitale vingerafdruk, zodat ze automatisch kunnen worden getraceerd, zelfs als ze worden verwijderd en ergens anders opnieuw worden geüpload.
Meer dan de helft van de door AI gegenereerde inhoud die het IWF de afgelopen zes maanden heeft gevonden, werd gehost op servers in Rusland en de VS, en een aanzienlijk deel werd ook gevonden in Japan en Nederland.
