Snapchat er niet in geslaagd actie te ondernemen op basis van “ongebreidelde” berichten over kinderverzorging, afpersing en dergelijke gevaren voor minderjarigen op zijn platformvolgens een nieuwe, niet-geredigeerde klacht tegen het bedrijf, ingediend door de procureur-generaal van New Mexico.
Procureur-generaal Raúl Torrez diende de oorspronkelijke klacht op 4 september in, maar interne berichten en andere details werden zwaar geredigeerd. De aanvraag van dinsdag onthult interne berichten onder medewerkers en leidinggevenden van Snap Inc. die “verdere bevestiging bieden dat de schadelijke ontwerpkenmerken van Snapchat een omgeving creëren die sextortion, seksueel misbruik en ongewenst contact van volwassenen met minderjarigen bevordert”, zei Torrez in een persbericht.
Voormalige vertrouwens- en veiligheidsmedewerkers klaagden bijvoorbeeld dat er sprake was van ‘pushback’ van het management toen ze probeerden veiligheidsmechanismen toe te voegen, aldus de rechtszaak. Medewerkers merkten ook op dat gebruikersrapporten over ‘grooming’ en ‘sextortion’ (het overtuigen van iemand om expliciete foto’s online te zetten en vervolgens dreigen de afbeeldingen openbaar te maken tenzij het slachtoffer geld betaalt of seksuele gunsten verleent) door de mazen van het net vielen. Op een gegeven moment bleef een account actief ondanks 75 berichten ertegen vanwege vermeldingen van ‘naaktfoto’s, minderjarigen en afpersing’.
Snap zei in een verklaring dat zijn platform is ontworpen “met ingebouwde veiligheidsleuningen” en dat het bedrijf “bewuste ontwerpkeuzes heeft gemaakt om het voor vreemden moeilijk te maken om minderjarigen op onze dienst te ontdekken.”
“We blijven onze veiligheidsmechanismen en ons beleid ontwikkelen, van het inzetten van geavanceerde technologie om bepaalde activiteiten te detecteren en blokkeren, tot het verbieden van vriendschappen met verdachte accounts, tot het samenwerken met wetshandhavings- en overheidsinstanties, en nog veel meer”, aldus het bedrijf.
Volgens de rechtszaak was Snap zich er terdege van bewust, maar slaagde er niet in ouders, jonge gebruikers en het publiek te waarschuwen dat “sextortion een wijdverbreid, ‘grootschalig’ en ‘ongelooflijk zorgwekkend probleem’ was op Snapchat.”
Een interne e-mail uit november 2022 van een vertrouwens- en veiligheidsmedewerker zegt dat Snapchat elke maand “ongeveer 10.000” gebruikersrapporten over sextortion ontving.
“Als dit klopt, hebben we naar mijn bescheiden mening een ongelooflijk zorgwekkende kwestie”, vervolgt de e-mail.
Een andere medewerker antwoordde dat het de moeite waard is om op te merken dat dit aantal waarschijnlijk een “klein deel van dit misbruik” vertegenwoordigt, omdat gebruikers zich misschien in verlegenheid kunnen brengen en omdat sextortion “niet gemakkelijk te categoriseren is” wanneer ze het op de site proberen te melden.
Torrez heeft de rechtszaak tegen het in Santa Monica, Californië gevestigde Snap Inc. aangespannen bij de staatsrechtbank in Santa Fe. Naast seksueel misbruik beweert de rechtszaak dat het bedrijf ook openlijk kinderhandel en de verkoop van illegale drugs en wapens promoot.
—Barbara Ortutay, AP-technologieschrijver
