DoNotPay, een bedrijf dat beweerde de “eerste robotadvocaat ter wereld” te leveren, heeft ingestemd met een schikking van $ 193.000 met de Federal Trade Commission, zo maakte het agentschap dinsdag bekend. De stap is onderdeel van Operation AI Comply, een nieuwe wetshandhavingsactie van de FTC om bedrijven aan te pakken die AI-diensten gebruiken om klanten te misleiden of op te lichten.
Volgens de klacht van de FTC zei DoNotPay dat het “de juridische industrie van $ 200 miljard dollar zou vervangen door kunstmatige intelligentie” en dat zijn “robotadvocaten” de expertise en output van een menselijke advocaat zouden kunnen vervangen bij het genereren van juridische documenten. De FTC zegt echter dat het bedrijf de claim deed zonder enige test om het te staven. In feite zegt de klacht:
Geen van de technologieën van de Service is getraind op een uitgebreid en actueel corpus van federale en staatswetten, regelgeving en gerechtelijke beslissingen of op de toepassing van die wetten op feitenpatronen. Medewerkers van DoNotPay hebben de kwaliteit en nauwkeurigheid van de juridische documenten en adviezen die door de meeste juridische functies van de Service worden gegenereerd, niet getest. DoNotPay heeft geen advocaten in dienst en heeft geen advocaten, laat staan advocaten met de relevante juridische expertise, ingehuurd om de kwaliteit en nauwkeurigheid van de juridische functies van de Service te testen.
De klacht beweert ook dat het bedrijf consumenten zelfs heeft verteld dat ze de AI-service van het bedrijf konden gebruiken om aan te klagen voor mishandeling zonder een mens in te huren, en dat het websites van kleine bedrijven kon controleren op wettelijke overtredingen op basis van alleen het e-mailadres van een consument. DoNotPay beweerde dat dit bedrijven $ 125.000 aan juridische kosten zou besparen, maar de FTC zegt dat de service niet effectief was.
De FTC zegt dat DoNotPay akkoord is gegaan met het betalen van $ 193.000 om de aanklachten tegen hen te schikken en om consumenten die zich tussen 2021 en 2023 hebben geabonneerd te waarschuwen voor de beperkingen van hun wetgerelateerde aanbiedingen. DoNotPay mag ook niet beweren dat het een professionele dienst kan vervangen zonder bewijs te leveren.
De FTC kondigde ook maatregelen aan tegen andere bedrijven die AI-diensten hebben gebruikt om klanten te misleiden. Dat omvat de AI-‘schrijfassistent’-service Rytr, een bedrijf waarvan de FTC zegt dat het abonnees voorziet van tools om door AI gegenereerde nepbeoordelingen te maken. De maatregel tegen Rytr komt iets meer dan een maand nadat de Federal Trade Commission van de FTC een definitieve regel aankondigde die alle bedrijven verbiedt om nepbeoordelingen te maken of te verkopen, inclusief door AI gegenereerde beoordelingen. Deze regel treedt binnenkort in werking, wat betekent dat de FTC maximaal $ 51.744 per overtreding kan eisen van bedrijven.
De FTC spande ook een rechtszaak aan tegen Ascend Ecom, dat naar verluidt consumenten voor minstens $ 25 miljoen heeft opgelicht. Ascend beloofde klanten dat ze met behulp van zijn AI-aangedreven tools online winkels konden starten op e-commerceplatforms zoals Amazon, die een maandelijks inkomen van vijf cijfers zouden genereren.
“Het is illegaal om AI-tools te gebruiken om mensen te misleiden, misleiden of bedriegen”, aldus FTC-voorzitter Lina M. Khan. “De handhavingsacties van de FTC maken duidelijk dat er geen AI-uitzondering is van de wetten in de boeken. Door oneerlijke of misleidende praktijken in deze markten aan te pakken, zorgt de FTC ervoor dat eerlijke bedrijven en vernieuwers een eerlijke kans krijgen en dat consumenten worden beschermd.”
