Meld u aan voor onze dagelijkse en wekelijkse nieuwsbrieven voor de laatste updates en exclusieve content over toonaangevende AI-dekking. Meer informatie
De Federal Trade Commission (FTC) stuurt een duidelijk signaal naar bedrijven die profiteren van de opkomst van kunstmatige intelligentie: misleidende praktijken worden niet getolereerd en bedrijven die zich hieraan schuldig maken, krijgen te maken met diverse juridische en regelgevende maatregelen.
Als onderdeel van haar nieuwe handhavingsinitiatief, “Operation AI Comply”, heeft het agentschap dat verantwoordelijk is voor de bescherming van Amerikaanse consumenten tegen oneerlijke handelspraktijken vandaag aangekondigd dat het maatregelen neemt tegen vijf bedrijven die ervan worden beschuldigd AI op een misleidende of schadelijke manier te gebruiken.
De zaken onderstrepen de inzet van het agentschap om ervoor te zorgen dat producten en diensten die op basis van AI op de markt worden gebracht, echte waarde bieden en consumenten niet uitbuiten door resultaten te beloven die ze niet kunnen waarmaken.
De vijf getroffen bedrijven zijn:
- DoNotPay – beweerde juridische diensten aan te bieden op basis van kunstmatige intelligentie, maar kon zijn beloften niet waarmaken.
- Ascend Ecom – Promootte een op AI gebaseerd e-commerceplan, waarmee consumenten werden misleid over potentiële inkomsten.
- Ecommerce Empire Builders (EEB) – Zou consumenten hebben misleid met beloften van hoge inkomsten uit door AI aangestuurde online winkels.
- Rytr – Heeft een AI-schrijfassistent op de markt gebracht voor het genereren van mogelijk valse consumentenbeoordelingen.
- FBA Machine – Exploiteerde een misleidend plan waarbij gegarandeerde inkomsten werden beloofd via met AI verbeterde online storefronts.
Meer over hun vermeende acties hieronder:
DoNotPay gedwongen af te zien van beweringen over het aanbieden van AI-aangedreven advocaten
Een van de bedrijven die het doelwit is, is DoNotPay, bekend om zijn eerdere gedurfde beweringen dat het de “eerste robotadvocaat ter wereld” is, en dat zei dat het de GPT-3- en GPT-4-modellen van OpenAI zou gebruiken om een AI-assistent aan te sturen die de rekeningen van consumenten zou kunnen verlagen en zelfs “one-click-rechtszaken” zou kunnen aanspannen tegen robocall-spammers.
De FTC beweert in haar klacht dat het bedrijf consumenten heeft misleid door juridische diensten te beloven die traditionele advocaten zouden kunnen vervangen.
Hoewel DoNotPay zichzelf op de markt bracht als een op AI gebaseerd alternatief voor de 200 miljard dollar kostende juridische sector, vielen de diensten van het bedrijf tegen.
De FTC concludeerde dat het bedrijf niet had getest of het juridische advies van zijn AI-chatbot overeenkwam met de expertise van een menselijke advocaat en dat het bedrijf ook geen echte advocaten in dienst had.
Daarom heeft DoNotPay een schikking getroffen waarbij het bedrijf $ 193.000 moet betalen en de getroffen klanten moet informeren over de beperkingen van zijn diensten.
Vorig jaar plaatste Joshua Browder, CEO van DoNotPay, op X dat het bedrijf “bedreigingen van aanklagers van de staatsadvocaten” had ontvangen en het risico liep om in de gevangenis te belanden als hij doorging met een plan om een door AI aangestuurde advocaat via een slimme bril voor de rechter te brengen:
Nu al blijkt uit een bezoek aan de DoNotPay-website en het sociale account X dat het bedrijf zijn boodschap heeft verlegd van het aanbieden van zichzelf als de eerste robot of AI-aangedreven advocaat naar “Uw AI-consumentenkampioen.”
Een ander voorbeeld betreft Ascend Ecom, een online zakelijk kansenprogramma dat consumenten een aanzienlijk passief inkomen beloofde via e-commercewinkels met AI-technologie.
De FTC beweert dat het bedrijf, dat onder verschillende namen opereerde, waaronder Ascend Ecom en ACV Nexus, consumenten tienduizenden dollars in rekening bracht voor het opzetten van winkels op platforms als Amazon en Walmart, vaak met extra kosten voor de voorraad.
Ondanks dat ze beweren AI te gebruiken om winsten te maximaliseren, zagen de meeste consumenten weinig tot geen rendement op hun investeringen. Een federale rechtbank heeft de operatie tijdelijk stopgezet en onder controle van een curator geplaatst terwijl de zaak doorgaat.
Redditors hadden de oplichterij al door en waarschuwden elkaar er al enkele maanden geleden voor:
De website van Ascend Ecom is inmiddels offline gehaald.
Ecommerce Empire Builders (EEB) wordt genoemd in een ander misleidend AI-aangedreven e-commerce-plan
Ecommerce Empire Builders (EEB) kreeg een soortgelijke opdracht om op AI gebaseerde e-commerceoplossingen te promoten, waarbij consumenten werden verleid met beloften van miljoenenbedrijven via dure trainingsprogramma’s en online winkels die ‘voor u klaar’ stonden.
De FTC beweert dat de CEO van EEB, Peter Prusinowski, het geld van consumenten gebruikte om zichzelf te verrijken en dat hij de beloften van het bedrijf niet nakwam.
Veel klanten eindigden met weinig of geen inkomsten uit de winkels die ze kochten, en ondervonden weerstand bij pogingen om restituties te krijgen. De lopende zaak staat ook onder toezicht van de rechtbank.
De EEB-website is inmiddels offline en er is alleen nog een omleidingspagina beschikbaar.
AI-schrijfassistent Rytr bekritiseerd vanwege onjuiste recensies
De repressie trof ook Rytr, een bedrijf dat een AI-schrijfassistent op de markt bracht die onder andere getuigenissen en beoordelingen van consumenten kon genereren – vanaf $ 7,50 per maand
Volgens de FTC produceerde de dienst van Rytr gedetailleerde klantbeoordelingen voor producten op basis van beperkte gebruikersinput. Deze beoordelingen waren waarschijnlijk onjuist of misleidend, of zelfs helemaal nep.
Het voorgestelde besluit van de FTC zou Rytr verbieden om diensten te promoten of te verkopen die verband houden met het genereren van consumentenbeoordelingen.
De Rytr-website is inmiddels offline gehaald.
FBA Machine krijgt klap voor oplichting van consumenten voor meer dan $ 15,9 miljoen voor online storefronts
In een andere zaak richtte de FTC zich op FBA Machine, dat consumenten zou lokken met claims van gegarandeerd inkomen via online winkels die worden aangestuurd door AI.
Het plan, uitgevoerd door Bratislav Rozenfeld, beloofde hoge rendementen en risicoloze investeringen, maar zorgde er wel voor dat veel klanten in financiële problemen kwamen.
De FTC beweert dat de regeling consumenten voor meer dan $ 15,9 miljoen heeft opgelicht. Deze zaak, net als andere, wordt momenteel behandeld door een federale rechtbank. De website van FBA Machine is nog steeds online en het bedrijf biedt op dit moment nog steeds diensten aan.
Operation AI Comply onderstreept de bredere inspanningen van de FTC om producten die op basis van AI op de markt worden gebracht, te reguleren. Hiermee willen we voorkomen dat bedrijven de opwinding rondom kunstmatige intelligentie (AI) misbruiken om ineffectieve of misleidende diensten aan te bieden.
FTC-voorzitter Lina M. Khan benadrukte dat er geen ‘AI-uitzondering’ is op de bestaande wetten ter bescherming van consumenten.
“Het gebruiken van AI-tools om mensen te misleiden, misleiden of bedriegen is illegaal. De handhavingsacties van de FTC maken duidelijk dat er geen AI-uitzondering is van de wetten in de boeken”, aldus zij.
De FTC nodigt het publiek uit om commentaar te leveren op de voorgestelde schikkingen met DoNotPay en Rytr. Deze zijn beschikbaar op Regulations.gov.
Deze acties zijn een belangrijke waarschuwing voor AI-aangedreven bedrijven: als een product of dienst als AI-gedreven op de markt wordt gebracht, moet het duidelijke en meetbare voordelen opleveren in plaats van vage beloften of dubbelzinnige uitkomsten. De boodschap van het agentschap is onmiskenbaar: AI-hype kan echte waarde en verantwoording in de markt niet vervangen.
