Derfor bruker helsefagarbeideren KI på jobben
Helsefagarbeider Rikke Albertsen (39) mener ChatGPT gjør det lettere å forstå pasientene. I Felleskatalogen er de bekymret.
– Jeg bruker ChatGPT veldig ofte på jobb. Ikke alltid til å skaffe informasjon om legemidler, men ofte til å få informasjon og veiledning i hvordan jeg kan skape tillit og kommunisere med pasienter med andre kulturelle bakgrunner.
Det sier helsefagarbeider Rikke Albertsen (39).
Fra chat til trygghet
Hun jobber på gastromedisinsk avdeling på St. Olavs Hospital i Trondheim.
Pasientene hun tar imot har ofte en landbakgrunn, og både språk og kulturelle forskjeller kan gjøre det vanskelig å få informasjon om hva de trenger hjelp med, forteller hun.
– Jeg opplever særlig at kvinnelige pasienter deler veldig lite informasjon om hva som plager dem. Derfor bruker jeg ChatGPT i forkant til å forberede meg på hvordan jeg kan trygge dem før jeg stiller dem spørsmål om helsen deres. For mange kan det oppleves som ganske sårbart og inngripende.
Albertsen opplever at KI er til stor hjelp når det gjelder å knekke kulturelle koder.
– Målet mitt er å vise at jeg er et medmenneske. At helsevesenet ikke er farlig.
I tillegg bruker sykehuset et verktøy som heter «smart tekst». Journalen er delvis utfylt med standardisert tekst, og så fyller helsepersonell inn personlig informasjon om pasienten.
Fare for feildoseringer
Selskapet Felleskatalogen er godt kjent blant både helsepersonell og privatpersoner, fordi de deler kvalitetssikret informasjon om alle legemidler på nett.
De oppdaget at automatiserte roboter som henter informasjon til Googlebot og ChatGPT-boten, hadde besøkt nettsiden deres nær to millioner ganger i løpet av én måned.
Da valgte de å undersøke KI-bruken blant helsepersonellgrupper.
I brukerundersøkelsen svarte i snitt rundt 40 prosent at de brukte KI-chatter til informasjon om legemidler.
De aller fleste svarte at de brukte ChatGPT.
Fastlegene på topp
Bruken var aller høyest hos fastlegene – blant dem svarte 56 prosent at de hadde brukt det de siste 14 dagene.
For helsefagarbeidere lå andelen på 35 prosent.
Tallene bekymrer Bente Cecilie By Jansen, administrerende direktør i Felleskatalogen.
Hun vet at tester av flere KI-chatter har resultert i feilaktige svar.
– Vi har sett flere eksempler på at KI-chattene gir feil svar om riktig medisin og dosering. I en test spurte vi en av KI-chattene om doseringen av et legemiddel til et spedbarn på seks uker. Svaret den ga viste seg å være doseringen for to måneder til to år, og ikke doseringen for et spedbarn på seks uker, sier hun.
Bente Jansen er ikke sikker på at en advarsel om at svaret er generert av KI nødvendigvis er nok.
Selv om helsepersonell er pliktig etter helsepersonelloven å handle på en måte som er faglig forsvarlig, så føler Felleskatalogen også på et ansvar.
– Vi vet fra brukerundersøkelsen at helsepersonell har skyhøy tillit til Felleskatalogen. Hvis vi inngår et samarbeid med en leverandør av en kunnskapschat og Felleskatalogen oppgis som kilde, kan tilliten helsepersonell har til oss overføres til svarene de får fra chatten, sier Jansen.
Hun oppfordrer helsepersonell til å alltid sjekke kilden på svaret de får fra KI.
Lav til moderat tillit
Samlet sett har helsepersonell lav til moderat tillit til generative KI-løsningers svar på spørsmål om legemidler, som for eksempel dosering.
Samtidig varierer tilliten mellom profesjoner og arbeidssteder.
Blant yrkesgruppene med mer enn 20 respondenter ligger helsefagarbeidere høyest i tillit, mens apotekteknikere ligger lavest.
Ser man på arbeidssted, er allmennpraksis, altså fastlegekontorene, det arbeidsstedet der helsepersonell har høyest tillit til svarene fra KI-chatene.
Samtidig er det viktig å påpeke at tallgrunnlaget er mer usikkert når brytes ned på mindre grupper.
Helsefagarbeider Rikke Albertsen er usikker på hvorfor hennes yrkesgruppe har høyere tillit til KI-svar.
– Sykepleiere og leger er mer kjent med å være kildekritiske fordi de praktisert dette i sine oppgaver i studiet, sier hun.
Albertsen tror helsefagarbeidere ønsker å bruke KI som et hjelpemiddel:
– Jeg tror KI et kommet for å bli, men jeg savner et strengere krav fra arbeidsgivere for å sikre rett bruk og samtidig ivareta pasientsikkerheten.
