Word lid van onze dagelijkse en wekelijkse kranten voor exclusieve inhoud over de nieuwste updates en AI-dekking in de industrie. Leer meer
Zelfs grote taalmodellen (LLM’s) worden soms geavanceerder en capabeler, ze lijden aan hallucinaties: het aanbieden van onjuiste informatie of, om rigide, rigide te liegen.
Dit kan met name schadelijk zijn op gebieden zoals gezondheidszorg, waar verkeerde informatie ernstige gevolgen kan hebben.
Mayo ClinicEen van de beste ziekenhuizen in de VS heeft een nieuwe techniek aangenomen om deze uitdaging aan te gaan. Om te slagen, moet de medische faciliteit de grenzen van de herstel-verkeerde generatie (dag) overschrijden. Dit is het proces waarbij grote taalmodellen (LLM) informatie trekken uit specifieke, relevante gegevensbronnen. Het ziekenhuis heeft gebruikt wat in wezen achteruit is, waar het model relevante informatie extraheert en vervolgens elk gegevenspunt weer verbindt met het oorspronkelijke bronmateriaal.
Opmerkelijk, het heeft bijna alle op gegevensoprossing gebaseerde hallucinaties geëlimineerd in gevallen van niet-nodddinische gebruik-het AYO mogelijk om het model in zijn klinische praktijk te duwen.
“Met deze aanpak om naar de broninformatie te verwijzen via de link, is de extractie van deze gegevens niet langer een probleem.”
Accounting voor elk gegevenspunt
Het omgaan met gegevens in de gezondheidszorg is een complexe uitdaging – en het kan een tijdzink zijn. Hoewel grote hoeveelheden gegevens worden verzameld in de elektronische gezondheidsdossiers (EPD), kan het uiterst moeilijk zijn om gegevens te vinden en door te geven.
Het eerste gebruik van Mayo voor AI was een ontslagsamenvatting bij het ontladen van al deze gegevens (bezoek de rap-ups met tips na de zorg), traditionele RIP met zijn model werd gebruikt. Zoals Callstrom uitlegde, was het een natuurlijke plek om te beginnen omdat het eenvoudige extractie en samenvatting is, wat LLM meestal uitmuntendheid krijgt.
“In de eerste fase proberen we niet met een diagnose te komen, waar u een model vraagt,” wat is de volgende beste stap voor deze patiënt op dit moment? “, Zei hij.
Het risico op hallucinaties was ook niet zo belangrijk als het zou zijn in arts-helpscenario’s; Om niet te zeggen dat gegevensopname fouten niet in het hoofd kregen.
“In onze eerste twee recidieven hadden we enkele leuke habitats die je niet duidelijk zou verdragen – bijvoorbeeld de verkeerde leeftijd van de patiënt,” zei Callstrom. “Dus je moet het zorgvuldig maken.”
Hoewel Rag -aarding een belangrijk onderdeel is van LLM (verbetering van hun mogelijkheden), heeft technologie zijn beperkingen. Modellen kunnen irrelevante, onjuiste of lage kwaliteitsgegevens ophalen; Het bepaalt niet of de informatie relevant is voor het vragen van de mens; Of maak outputs die niet overeenkomen met de gevraagde formaten (breng bijvoorbeeld de eenvoudige tekst terug in plaats van een gedetailleerde tabel).
Hoewel er wat werk is voor deze problemen – zoals Graph Raga, die de grafiek bronnen om te verwijzen naar kennis of corrigerende rip (Cervicaal), Waar een beoordelingsmechanisme de kwaliteit van de herstelde documenten beoordeelt – zijn hallucinaties niet verdwenen.
Raadpleeg elk gegevenspunt
Dit is de plaats waar het achterste ripproces komt. In het bijzonder heeft mayo toegevoegd die bekend is Clustering met behulp van vertegenwoordigers (Behandeling) om gegevens van het onder examine -algoritme opnieuw te herstellen die herstellen van LLMS en vectordatabase.
Clusteringsmachine is belangrijk voor leren (ML) omdat het de gegevenspunten systematisch, geclassificeerd en groep maakt op basis van hun gelijkheid of patroon. Dit helpt in wezen bij het model van “begrip creëren” van gegevens. De remedie gaat verder dan specifieke clustering met een hiërarchische techniek, met behulp van afstandsmaatregelen voor groepsgegevens op basis van nabijheid (denk: gegevens dicht bij elkaar zijn meer gerelateerd aan die). Het algoritme heeft de mogelijkheid om “Outlair” te detecteren, of gegevenspunten die niet overeenkomen met anderen.
Een combinatie van behandeling met een omgekeerde voddenbenadering, Mayo’s LLM verdeelde de samenvatting die werd gegenereerd in persoonlijke feiten en kwam vervolgens overeen met die met brondocumenten. Een andere LLM scoorde toen hoe goed de feiten waren afgestemd op die bronnen, vooral als er een oorzaakrelatie tussen de twee was.
“Elk gegevenspunt wordt terugverwezen naar het oorspronkelijke laboratoriumbrongegevens of beeldrapport,” zei de Callstrom. “Het systeem zorgt ervoor dat referenties echt en nauwkeurig herstellend zijn, waardoor de meest herstelde hallucinaties effectief worden opgelost.”
Het team van Callstrom gebruikte eerst de vectordatabase om de patiëntendossiers door te slikken zodat het model snel informatie kon krijgen. Hij gebruikte aanvankelijk een lokale database voor bewijs van het concept (POC); De productieversie is een veel voorkomende database waarin het behandelingsalgoritme logica is.
“Artsen hebben veel twijfel en ze willen ervoor zorgen dat ze niet worden geïnformeerd dat niet betrouwbaar is”, legt Callstrom uit. “Dus vertrouwen voor ons betekent verificatie van alles wat als materiaal kan worden onthuld.”
‘Ongelooflijke interesse’ in de praktijk van Mayo
Cure Technology is ook nuttig gebleken om nieuwe patiëntendossiers te synthetiseren. Callstrom meldde dat de complexe problemen van patiënten “REMS” van datamaterialen in verschillende vormen kunnen zijn. Het moet worden beoordeeld en kort worden gedaan zodat de arts zich eerst vertrouwd kan maken voordat hij de patiënt ziet.
“Ik beschrijf de buitenlandse medische dossiers altijd een beetje als een spreadsheet: je weet niet wat er in elke cel zit, je moet naar iedereen kijken om het materiaal te trekken,” zei hij.
Maar nu, LLM -extracties, het classificeren van het materiaal en het creëren van een observatie van de patiënt. Meestal kan deze taak 90 minuten duren vanaf de dag van een zakenman – maar AI kan het in ongeveer 10 doen, zei Callstrom.
Hij beschreef een “ongelooflijke interesse” in het uitbreiden van het vermogen in de praktijk van Mayo om de administratieve last en frustratie te helpen verminderen.
“Ons doel is om de verwerking van het materiaal te vereenvoudigen – hoe kan ik de vaardigheden vergroten en het werk van de arts vereenvoudigen?” Zei hij.
Geconfronteerd met meer complexe problemen met AI
Natuurlijk zien Callstrom en hun team een groot potentieel voor AI in meer geavanceerde gebieden. Ze hebben bijvoorbeeld gemaakt met het cerebrassysteem om een genomisch model te bouwen dat voorspelt wat de beste artritisbehandeling voor een patiënt zal zijn, en ook samenwerken met Microsoft aan een beeldcoder en een beeldvormingsmodel.
Zijn eerste beeldvormingsproject met Microsoft is Chest X-Ray. Hij heeft tot nu toe 1,5 miljoen röntgenfoto’s veranderd en was van plan om in de volgende ronde nog eens 11 miljoen te verhogen. Callstrom meldde dat het niet uitzonderlijk moeilijk is om beeldcoders te bouwen; De complexiteit ligt in het echt nuttig maken van de resulterende afbeeldingen.
In het ideale geval moeten Lakshya Mayo-artsen de röntgenfoto’s van de borst bekijken en de manier waarop ze hun analyse vergroten vereenvoudigen. AI kan bijvoorbeeld identificeren waar ze een endotracheale buis of een centrale lijn moeten bevatten om patiënten te helpen ademen. “Maar het kan heel wijdverbreid zijn,” zei Callstrom. Artsen kunnen bijvoorbeeld andere materialen en gegevens ontgrendelen, zoals een eenvoudige voorspelling van de uitstootfractie – of de hoeveelheid bloed die uit het hart pompt – uit een borst X straal.
“Nu kun je beginnen na te denken over de voorspellingsreactie voor wijdverbreide therapie,” zei hij.
Mayo ziet ook genomics (studie van DNA), evenals “ongelooflijke kansen” in andere “ommix” gebieden zoals protoomics (studie van eiwitten). AI kan het proces van het kopiëren van genen -transcriptie of DNA -sequentie ondersteunen, om referentiepunten voor andere patiënten te maken en om een risicoprofiel of medisch pad voor complexe ziekten te helpen creëren.
“Dus u kaartt oorspronkelijk patiënten in kaart tegen andere patiënten, waardoor elke patiënt rond een cohort wordt gemaakt,” legde Callstrom uit. “Dit individuele medicijn zal daadwerkelijk bieden: ‘U ziet eruit als deze andere patiënten, dit is de manier waarop we u moeten behandelen om de verwachte resultaten te zien.’ Het doel is om de mensheid voor de gezondheidszorg te retourneren omdat we deze apparaten gebruiken. ,,
Maar Callstrom benadrukte dat alles aan de diagnosekant veel werk vereist. Het is één ding om weer te geven dat een funderingsmodel voor genomics werkt voor reumatisme; Dit is echt een andere om te valideren in een klinische omgeving. Onderzoekers zullen moeten beginnen met het testen van kleine datasets, vervolgens geleidelijk uitbreiden van testgroepen en vergelijken met traditionele of standaardtherapie.
“Je gaat niet meteen:” Hé, laten we de Metotrexet verlaten “(een populaire reumatische artritisgeneeskunde), zei hij.
Ten slotte: “We erkennen het ongelooflijke vermogen van deze (modellen) die we in feite voor patiënten zorgen en op een zinvolle manier diagnosticeren, voor meer patiëntgerichte of patiëntspecifieke zorg versus standaardtherapie,” zei Callstrom. “De complexe gegevens die we omgaan met de zorg van de patiënt zijn waar we geconcentreerd zijn.”
Bronlink
