Nieuwsbericht | 19-06-2024 | 06:15

De overheid waarschuwt voor online misleiding via de stem van een kennis of geliefde.

  • 6 op de 10 Nederlanders denkt dat een stem die gegenereerd is door middel van ‘stemklonen’ echt is.
  • Slechts 4% kan met enige zekerheid een gekloond spraakfragment correct onderscheiden.
  • 83% van de Nederlanders denkt dat stemkloontechnieken in de toekomst gebruikt zullen worden om anderen te imiteren en zo mensen op te lichten.

De overgrote meerderheid van de Nederlanders ontvangt af en toe misleidende sms-berichten en e-mails van online criminelen die zich voordoen als iemand die ze kennen of vertrouwen. Online criminelen hebben ontdekt dat ze stemmen kunnen klonen met behulp van kunstmatige intelligentie (AI) om ze echt te laten klinken. Volgens nieuw overheidsonderzoek, in samenwerking met radiopresentator Ruud de Wild, is de technologie voor het klonen van stemmen inmiddels zo ver gevorderd dat echte en gekloonde fragmenten van spraak voor veel mensen niet meer van elkaar te onderscheiden zijn. Meer dan de helft van de Nederlanders kan het gekloonde stemgeluid van een bekende niet onderscheiden van het echte stemgeluid. Dit is zorgelijk omdat online criminelen in andere landen deze techniek al gebruiken om mensen op te lichten. De overheid gebruikt de ‘Laat je niet misleiden op internet’ (Laat je niet interneppen) campagne om iedereen aan te sporen alert te zijn op online oplichting en altijd de identiteit van de afzender van (spraak)berichten of gesprekken zorgvuldig te controleren, zelfs als het om een ​​kennis in nood gaat.

Een drastische vorm van online misleiding

De beschikbaarheid van gemakkelijk toegankelijke en betaalbare online AI-programma’s betekent dat het eenvoudig is om de stem van een persoon te dupliceren. In Engelstalige landen, zoals de Verenigde Staten en Groot-Brittannië, gebruiken online criminelen al op kwaadaardige wijze stemkloningstechnologie om zich voor te doen als iemand die hun potentiële slachtoffers misschien kennen. Aangezien stemkloningsprogramma’s nu al heel realistisch Nederlandse stemmen kunnen nabootsen, verwacht de overheid dat deze drastische vorm van online misleiding ook hier binnenkort de kop opsteekt.

Ruud de Wild

Slechts 4% van de proefpersonen herkende een gekloonde stemclip van radiopresentator Ruud de Wild met enige zekerheid als nep. Zelfs als ze wisten dat ze gekloonde spraakfragmenten konden horen, kon slechts de helft het origineel van de gekloonde kopie onderscheiden. Meer dan 4 op de 5 Nederlanders (83%) geeft dus toe moeite te hebben met het onderscheiden of de stem van iemand die ze kennen echt is of gekloond. Een vergelijkbaar groot deel van de Nederlanders (83%) denkt dat stemkloontechnologieën in de toekomst zullen worden gebruikt om anderen na te bootsen en zo mensen op te lichten.

“Dat de stem van iemand als ik, die zijn stem professioneel gebruikt, gekopieerd kan worden, is al eng genoeg. Maar het wordt nog enger als zoiets kan met bijvoorbeeld de stem van een vriend of familielid”, aldus Ruud de Wild.

Maatregelen

Online criminelen zijn bedreven in het uitbuiten van menselijke eigenschappen, vooral in stressvolle of ongewone situaties waarin mensen minder goed door hun bedrog heen kunnen kijken. Als een voicemailbericht of (online) gesprek emotioneel of urgent klinkt, of betrekking heeft op iets serieus of iets dat te mooi lijkt om waar te zijn, is het belangrijk om op je hoede te zijn.

Zoals Manon den Dunnen, Strategic Digital Specialist voor de politie, uitlegt: “Een eenvoudige vuistregel is dat wanneer het lijkt alsof iemand je aanmoedigt om een ​​beslissing te nemen die onomkeerbaar is, zoals het overmaken van geld of het delen van vertrouwelijke informatie, je een stap terug moet doen en moet proberen de informatie op een andere manier te verifiëren. Zelfs als je die persoon goed kent. Dat kan onbeleefd of onaangenaam aanvoelen, maar mensen zullen dit steeds normaler gaan vinden.”

De centrale overheid adviseert mensen om altijd een extra controle te doen als ze twijfelen aan de authenticiteit van de afzender van een voicemailbericht of gesprek. Het advies luidt als volgt.

  • Stop met communiceren met de persoon in kwestie en neem direct contact op met de persoon waarvan u denkt dat het die persoon is. Doe dit echter wel met het nummer dat u in uw contactenlijst hebt staan ​​of waarvan u weet dat het het echte nummer van die persoon is.
  • Als u hun nummer niet hebt, moet u proberen contact met hen op te nemen via een vriend, collega of familielid die het nummer wel heeft. In ieder geval moet u nooit de callback-knop gebruiken die automatisch het nummer belt dat de potentiële crimineel heeft gebruikt om contact met u op te nemen.
  • Stel een vraag waar alleen de persoon die je kent het antwoord op weet. De vraag mag niet gaan over de naam van je hond of zijn geboortedatum, of iets triviaals. Het mag ook geen wat-vraag zijn. In plaats daarvan moet de vraag betrekking hebben op iets dat je hebt meegemaakt met de persoon in kwestie, omdat alle andere informatie waarschijnlijk te achterhalen is.
  • Ten slotte is er niets mis met ophangen. Criminelen maken misbruik van het feit dat je niet onbeleefd wilt zijn.

Informatie over het onderzoek

Het onderzoek werd in opdracht van de Rijksoverheid uitgevoerd door Verian (voorheen Kantar Public) van 6 tot en met 12 mei 2024. Radiopresentator Ruud de Wild sprak enkele audiofragmenten in die vervolgens met zijn toestemming werden gekloond. Tijdens het eerste deel van het onderzoek werd de proefpersonen gevraagd om naar 3 gekloonde fragmenten van spraak te luisteren. Tijdens het tweede deel werd hen gevraagd om naar 2 versies van een fragment met identieke inhoud te luisteren: één gesproken door de echte Ruud de Wild en de andere door zijn AI-gekloonde stem. De representatieve steekproef bestond uit 1.046 Nederlanders van 18 jaar en ouder.

Laat u niet misleiden op internet

De meerjarige campagne van het ministerie van Justitie en Veiligheid en het ministerie van Binnenlandse Zaken en Koninkrijksrelaties roept mensen op om de identiteit van de afzender van online berichten en conversaties te controleren. Bij twijfel is het advies om weg te drukken, klikken of swipen. Meer informatie over hoe u dit soort online misleiding kunt herkennen en wat u eraan kunt doen, vindt u op laatjenietinterneppen.nl.