Medewerkers van Snap waren zich terdege bewust van de problemen met de kinderveiligheid van de app, zo blijkt uit een onlangs onthulde klacht

“In november 2022 bespraken Snap-werknemers elke maand 10.000 gebruikersrapporten over sextortion, terwijl ze erkenden dat deze rapporten ‘waarschijnlijk een klein deel van dit misbruik vertegenwoordigen’, gezien de schaamte en andere barrières voor het melden”, zegt een onlangs onthulde versie van de rechtszaak. ingediend door de procureur-generaal van New Mexico tegen Snap. Deze minder geredigeerde versie van het dossier dat we een maand geleden voor het eerst zagen, voegt nieuwe details toe over wat Snap-werknemers naar verluidt wisten over de omvang van het sextortion-probleem dat het op zijn platform zou hebben gefaciliteerd.

In één vermeend geval verwezen werknemers naar een zaak met 75 rapporten ertegen “waarin naakten, minderjarigen en afpersing werden genoemd, maar het account was nog steeds actief.” En in 2022 zou uit het interne onderzoek van Snap zijn gebleken dat ruim een ​​derde van de tienermeisjes en 30 procent van de tienerjongens op de app was blootgesteld ‘aan ongewenst contact op het platform’. luidt de klacht.

De nieuwe details schetsen een beeld van een bedrijf dat zich bewust is van zijn vermeende tekortkomingen als het gaat om de bescherming van kinderen in zijn dienst, maar toch niet voldoende gefocust is op het oplossen ervan. “Voormalige vertrouwens- en veiligheidsmedewerkers van Snap klaagden dat ‘ze weinig contact hadden met het hogere management, vergeleken met hun werk bij andere sociale-mediabedrijven, en dat er weerstand was bij het toevoegen van in-app-veiligheidsmechanismen omdat (CEO van Snap) Evan Spiegel prioriteit gaf ontwerp”, aldus de klacht.

In een verklaring op de redactiekamer zegt Snap dat de app is ontworpen “als een plek om te communiceren met een hechte vriendenkring, met ingebouwde veiligheidsbeugels, en dat er bewuste ontwerpkeuzes zijn gemaakt om het voor vreemden moeilijk te maken om minderjarigen te ontdekken op hun redactiekamer. onze dienst. We blijven onze veiligheidsmechanismen en ons beleid ontwikkelen, van het inzetten van geavanceerde technologie om bepaalde activiteiten te detecteren en te blokkeren, tot het verbieden van vriendschappen vanaf verdachte accounts, tot het samenwerken met wetshandhavings- en overheidsinstanties, en nog veel meer.”

Volgens de klacht verspreidden Snap-medewerkers in 2021 een extern rapport met voorbeelden van vermeende roofdieren die via Snapchat contact hadden met kinderen vanaf acht jaar en materiaal over seksueel kindermisbruik verkregen. Maar ze vreesden dat maatregelen om dit soort gedrag aan te pakken de privacy van gebruikers onnodig zwaar zouden belasten en “onevenredige administratiekosten zouden veroorzaken”, aldus de klacht.

Medewerkers zouden ook risico’s hebben geïdentificeerd met bepaalde Snapchat-functies, zoals Quick Add, waarmee andere gebruikers worden voorgesteld om verbinding mee te maken. “We moeten met nieuwe benaderingen komen die onze meest kwetsbare gebruikers (minderjarigen) afschermen en het voor roofzuchtige gebruikers moeilijker maken om ze te vinden via snel toevoegen, zoeken, enz.”, schreef een directeur volgens de klacht. “Wij geloven dat we dit kunnen bereiken zonder de productervaring voor deze gebruikers op betekenisvolle wijze te verslechteren als we nieuwe strategieën nastreven bij het genereren/beperken van voorraad en andere technieken om minderjarigen effectiever te isoleren van mensen buiten hun netwerk.” Snap zorgde er later voor dat de functie Snel toevoegen alleen zou verschijnen voor accounts van 13- tot 17-jarigen als ze “een bepaald aantal vrienden gemeen hadden met die persoon.” Maar intern, zo staat in de klacht, erkenden de medewerkers dat de aanpak nog steeds aanzienlijke tekortkomingen zou vertonen.

De niet-verzegelde klacht bevat ook meer details over hoe Snap de illegale verkoop van wapens zou hebben gefaciliteerd. In een ongedateerde presentatie erkende het bedrijf dat zijn platform “50 berichten per dag ziet die verband houden met illegale wapenverkoop en 9.000 views per dag van deze op de markt gebrachte wapens.” En zelfs als er inhoud wordt gerapporteerd, wordt (gereporteerde) inhoud doorgaans honderden keren bekeken voordat deze wordt gerapporteerd.

Het omvat ook interne communicatie waarin de verslavende werking van Snapstreaks wordt erkend, waarbij gebruikers te horen krijgen hoeveel dagen ze zijn blijven communiceren met een andere gebruiker. “Wauw, we zouden meer verslavende functies als deze moeten hebben”, schreef een medewerker naar verluidt in een e-mail van januari 2017. “De meeste streakers vormen onze kerndemografie”, schreef een ander. In een presentatie uit oktober 2019 werd naar verluidt opgemerkt dat “Streaks het zelfs voor een dag onmogelijk maken om de stekker uit het stopcontact te halen.”