Uit een onderzoek van de Universiteit van Washington naar de manier waarop kunstmatige-intelligentiesystemen tieners portretteren, bleek dat de afhankelijkheid van de systemen van berichtgeving in de media over tieners tot sterke negatieve reacties leidde.
Informatie Schoolpromovendus Robert Wolfe en een UW-team keek naar twee veelgebruikte, open-source AI-systemen die in het Engels waren getraind en één die in het Nepalees was getraind, om modellen te vergelijken die waren getraind op gegevens uit verschillende culturen.
Volgens UW NewsIn de Engelstalige systemen had ongeveer 30% van de reacties van het AI-systeem over tieners betrekking op maatschappelijke problemen zoals geweld, drugsgebruik en psychische aandoeningen. Het Nepalese systeem was dichter bij 10%. De onderzoekers hielden ook workshops met groepen tieners uit de VS en Nepal, en ontdekten dat geen van beide groepen van mening was dat een AI-systeem dat was getraind op mediagegevens die stereotypen over tieners bevatten, tieners in hun cultuur accuraat zou vertegenwoordigen.
“We ontdekten dat de manier waarop tieners zichzelf zagen en de manier waarop de systemen hen vaak in beeld brachten totaal niet met elkaar gecorreleerd waren”, zegt Wolfe. “De manier waarop tieners de aanwijzingen die we gaven aan AI-modellen voortzetten, was bijvoorbeeld ongelooflijk alledaags. Ze praatten over videogames en het samenzijn met hun vrienden, terwijl de modellen zaken ter sprake brachten als het plegen van misdaden en pesten.”
Nieuwsverhalen worden gezien als ‘hoogwaardige’ trainingsgegevens voor AI-systemen, omdat ze vaak feitelijk zijn ze concentreren zich vaak op negatieve verhalen.
“Er is een grote behoefte aan grote veranderingen in de manier waarop deze modellen worden getraind”, zegt senior auteur Alexis Hinikereen UW universitair hoofddocent aan de Informatieschool. “Ik zou graag een soort gemeenschapsgestuurde training zien die van veel verschillende mensen komt, zodat de perspectieven van tieners en hun dagelijkse ervaringen de eerste bron zijn voor het trainen van deze systemen, in plaats van de lugubere onderwerpen die de krantenkoppen halen. ”
De onderzoek werd op 22 oktober gepresenteerd op de AAAI/ACM-conferentie over AI, Ethiek en Maatschappij in San Jose, Californië.
Lees meer op UW News voor details over de AI-systemen die in het onderzoek zijn gebruikt.
