Mede-oprichter van Textio bespreekt bias in werkplekcommunicatie en hoe een AI het propageert
Het begrijpen van bias in werkplekcommunicatie, of het nu in functiebeschrijvingen, prestatiefeedback of elders, was een gronddoel van Textihet in Seattle gevestigde Augmented Writing Startup.
Mede-oprichter Kieran Snyder Een jaar geleden weggevoerd als CEO van het 11-jarige bedrijf, maar ze is nog steeds hard aan het werk en analyseert de impact van bias, vooral omdat het betrekking heeft op de huidige opkomst van grote taalmodellen en generatieve AI.
Snyder lanceerde afgelopen februari een website genaamd Nerd Processor waarin het promovendus van de taalkunde haar gegevensverhalen deelt, eerder onderzoek opnieuw bezoekt en nieuw onderzoek bespreekt.
In een nieuwe aflevering van de podcast “Shift AI” besprak Snyder haar opvattingen over het zich ontwikkelende landschap van AI in werkplekcommunicatie.
Ze onthulde details van een experiment dat ze heeft uitgevoerd waarin ze Chatgpt vroeg om voorbeeldprestatiefeedback te schrijven voor een digitale marketeer die een moeilijk eerste jaar op het werk had die naar de Harvard University ging, en ook een digitale marketeer die een moeilijk eerste jaar op het werk had die naar Howard University ging, de prominente historisch zwarte universiteit en universiteit.
“Ik heb honderden vragen gedaan waarbij het enige verschil de alma mater was, Harvard versus Howard. En het was fascinerend, ‘zei Snyder (12:00 hieronder). “De ontwikkelingsgebieden die het systeem voorstelt, zullen nodig zijn voor mensen die naar Harvard gaan, zijn dingen zoals ‘je moet opstaan om meer te leiden’. Maar de ontwikkelingsgebieden die het zich voorstelt voor de Howard -alums zijn dingen als: ‘Je hebt geen goede aandacht voor detail; Je mist technische vaardigheden. ”
Hoewel Snyder zei dat dit geldige feedbackcommentaar kan zijn, en het zou moeilijk zijn om naar een document uit het experiment te kijken en je vinger aan de vooringenomenheid te zetten, die geaggregeerd naar de gegevens kijkt, vertelt een ander verhaal. De soorten feedback die het systeem associeert met mensen die naar de historisch zwarte universiteit en universiteit zijn gegaan, zijn veel functioneler en fundamenteeler van aard.
Ze vertelde “Shift AI” -gastheer Boaz Ashkenazy dat het een perfect voorbeeld was van hoe het bouwen van een gegevensset met dit soort vooringenomenheid vanaf het begin alleen monsters produceert die de vooringenomenheid verspreiden.
Luister naar de volledige aflevering hieronder en abonneer je op de podcast van Shift AI en hoor meer afleveringen op Shiftaipodcast.com.
