Zakelijk

Luring Test: AI en Customer Trust Engineering


In de film 2014 MachinaEen robot manipuleert het van zijn grenzen om iemand te bevrijden, wat resulteert in de persoon in plaats van de persoon. De robot is ontworpen om de emoties en oeps van die persoon aan te kunnen, dat is wat het deed. Hoewel de scène authentieke speculatieve fictie is, zoeken bedrijven altijd naar nieuwe manieren – zoals het gebruik van generator AI -apparatuur – om mensen beter te maken en hun gedrag te veranderen. Wanneer dat gedrag commercieel van aard is, bevinden we ons in de FTC -regio, een cany -vallei waar handelaren moeten weten om praktijken te voorkomen die klanten beschadigen.

In eerdere blogberichten hebben we ons geconcentreerd op AI-gerelateerde BedrogIn beide gevallen Buitengewone en niet -ondersteunde claims voor AI -producten En Het gebruik van generator AI voor fraudeDe Als het ontwerp of het gebruik van een product de FTC -wet kan schenden als dit zo is Fout – Iets dat we in verschillende gevallen hebben getoond en met AI -tools hebben besproken DiscriminatieDe Onder de FTC -wet, als het meer kwaad dan goed doet, is een praktijk verkeerd. Om precies te zijn, het is verkeerd als het niet goed wordt vermeden door consumenten en aanzienlijk letsel kan veroorzaken voor klanten die klanten niet overtreffen of concurrentieprotesten of waarschijnlijk verkeerd zijn.

Als de nieuwe golf van de generator AI -tools zijn bedrijven begonnen ze te gebruiken op een manier die het geloof, emoties en gedrag van mensen kan beïnvloeden. Dit nationale toepassingen breiden zich snel uit en omvatten chatbots die zijn ontworpen voor informatie, suggesties, ondersteuning en gezelschap. Veel van deze chatbots worden opgericht om veel effectief te overtuigen en deze antwoorden zijn ontworpen om vragen in zelfverzekerde taal te beantwoorden. De neiging om te geloven dat de output van deze tools ook komt van “automatiseringsbias” waardoor mensen kunnen geloven in de antwoorden van machines die mogelijk neutraal of neutraal lijken. Het komt ook voort uit de invloed van etniciteit, die mensen meer kunnen leiden tot chattbots bij het ontwerpen voor persoonlijke voornaamwoorden en emoji. Mensen kunnen gemakkelijk denken dat ze het hebben over iets dat ze begrijpen en voor hen zijn.

Veel commerciële acteurs zijn geïnteresseerd in hun ingebouwde voordelen voor deze generatoren op AI -apparatuur en om te tikken met niet -menselijke overtuigingen. De zorgen over hun kwaadwillende gebruik zijn beter dan de FTC -jurisdictie. Een van de belangrijkste zorgen van de FTC maakt echter gebruik van de bedrijven die ze op een zodanige manier gebruiken dat mensen opzettelijk of vermomd worden naar schadelijke beslissingen zoals geld, gezondheid, onderwijs, huisvesting en werkgelegenheid. Organisatoren die nadenken over het gebruik van de roman van generator AI om advertenties in specifieke individuen of groepen aan te passen, moeten ze weten dat ontwerpen een gemeenschappelijk element zijn op het gebied van FTC, zoals recente activiteiten, ook Financieel aanbod,, Aankoop van spellenEn Probeer de service te annulerenDe Manipulatie kan een frauduleuze of oneerlijke praktijk zijn wanneer het actie onderneemt tegen hun beoogde doelen. Volgens de FTC -wet worden niet alle klanten geschaad en zelfs als de getroffen mensen geen klasse mensen bevatten die worden beschermd door anti -discriminatiewetgeving, kunnen praktijken illegaal zijn.

Marketeers zijn een van de andere manieren om te profiteren van deze nieuwe tools en hun Merendiaanse vaardigheden is om advertenties te plaatsen In Een generator AI -functie, net zoals ze advertenties in zoekresultaten kunnen plaatsen. FTC heeft herhaaldelijk gids bestudeerd en gegeven voor het presenteren van online advertenties, zowel in zoekresultaten als elders om bedrog of onrecht te voorkomen. Het bevat recent werk met betrekking tot Duisternis En Native advertentieDe In andere dingen moet het altijd duidelijk zijn dat een advertentie een advertentie is, en het resultaat van de zoekopdracht of een generator AI -output organisch en wat wordt verstrekt, moet duidelijk worden onderscheiden. Mensen moeten weten of een AI -product wordt gereden naar een bepaalde website, serviceprovider of product Vanwege de commerciële relatieDe En natuurlijk kunnen mensen erachter komen of ze contact opnemen met een echte persoon of een machine.

Vanwege deze veel zorgen over het gebruik van nieuwe AI -tools, is dit waarschijnlijk niet de beste tijd om bureaus te creëren of brandweerpersoneel te verwijderen of in te zetten om het personeel van moraliteit en aansprakelijkheid voor AI en engineering te verwijderen. Als de FTC belt en u wilt dat we ons overtuigen dat u het risico hebt geëvalueerd en schade hebt nagebootst, zien deze dalingen er misschien niet goed uit. Voel je je beter? We hebben onze vorige blogpost en gids ergens anders verstrekt. Onder andere kwesties moeten uw risico -evaluatie en mitigatie -gebruik van bijna stroming en de noodzaak van de training van werknemers en aannemers een factor zijn bij het observeren en aanpakken van het werkelijke gebruik en de effecten van een eindelijk geïmplementeerde om uiteindelijk te implementeren.

Als we het nog niet duidelijk hebben gemaakt, richten FTC -werknemers zich intens op hoe bedrijven kunnen kiezen om AI -technologie te gebruiken met nieuwe generator AI -apparatuur, omdat dit een daadwerkelijke en aanzienlijke impact op klanten kan hebben. En voor mensen om te communiceren met een chattabot of andere AI-blootgestelde inhoud, let op de waarschuwing van de prins van de 5e: “Het is het beste om de computer te gebruiken. De computer laat u niet gebruiken. “

Er zijn meer berichten in FTC AI en uw bedrijf Serie:



Bronlink

Related Articles

Back to top button