AI gemmer på nye faldgruber

For det utrænede øje er den lille fraktur svær at se. Den sidder nederst på grundstykket af lilletåknoglen og er ikke meget mere end en skygge på et par millimeter og nem at forveksle med andre normale strukturer i vævet. Rikke Højen udpeger dog hurtigt bruddet på computerskærmen for Sygeplejersken, inden hun klikker på en lille fane nederst i venstre hjørne.

Skærmbilledet skifter. Røntgenbilledet er det samme, men nu er der en hvid firkant rundt om frakturen. Firkanten indikerer, at programmets kunstige intelligens også har identificeret et brud på lilletåknoglen, helt i tråd med Rikke Højens vurdering.

Hun er en af i alt fem behandlersygeplejersker på Småskadeklinikken på Hobro Sygehus, som er en del af Aalborg Universitetshospital. Her håndterer de ud fra et flowdiagram selvstændigt små skader, herunder suturering og vurdering og behandling af frakturer, som ikke kræver avanceret behandling.

”Når vi er i tvivl om en fraktur eller har brug for faglig sparring, ringer vi stadig til ortopædkirurgisk mellemvagt på Aalborg Universitetshospital, men vi behandler og sender uden tvivl patienterne hjem meget hurtigere end før,” fortæller Rikke Højen.

Da AI erstattede kirurgen

”Før” betyder før Milvue Suite, et AI-værktøj, som gør det muligt for behandlersygeplejerskerne at vurdere og behandle små knoglebrud på egen hånd.

Småskadeklinikken har cirka otte-ni patienter om dagen og omtrent 3.000 patienter på årsbasis. For cirka to år siden blev behandlersygeplejerskernes arbejde dog i høj grad effektiviseret, da den kunstige intelligens til røntgenbilleder blev implementeret.

”Tidligere skulle vi altid ringe til Aalborg Universitetshospital for at få en andenhåndsvurdering af røntgenbilleder. Det betød ofte ventetid for patienterne, men det har AI’en skåret kraftigt ned på, fordi den har erstattet kirurgens vurdering,” forklarer Gitte Stadsgaard Kjeldsen, der også er behandlersygeplejerske på Småskadeklinikken i Hobro.

Set fra hendes stol har AI-værktøjet udelukkende været en gevinst for hendes faglighed.

”Det er et rigtig godt værktøj for os. Siden den kunstige intelligens er kommet til, føler jeg faktisk, at vores kompetencer som behandlersygeplejersker kommer mere i spil, fordi det har givet os en større selvstændighed i behandlingen af patienterne,” siger Gitte Stadsgaard Kjeldsen.

Ny teknologi, nye dilemmaer

Hun er ikke alene med sin opfattelse. En ny tværfaglig spørgeundersøgelse fra IDA blandt 1.200 medlemmer af de faglige organisationer Dansk Sygeplejeråd, FOA, Ergoterapeutforeningen og Danske Fysioterapeuter viser, at 53 pct. af sundhedsprofessionelle bruger ny sundhedsteknologi ofte eller meget i deres arbejde, og at 54 pct. har positive forventninger til at arbejde med ny sundhedsteknologi.

Potentialet i AI som en medspiller, der kan hæve niveauet for både behandling og pleje og spare tid på dokumentations- og rugbrødsarbejde, er da også stort. Men der følger både dilemmaer og faldgruber med den nye teknologi, som f.eks. sygeplejersker skal være opmærksomme på.

Det mener læge og forfatter Andreas Pihl. Han har skrevet flere bøger om kunstig intelligens i sundhedsvæsnet og peger på, at sundhedsprofessionelle trods gevinsterne ved AI altid skal huske at bevare den kritiske sans, når de rådfører sig med tænkende maskiner.

”I virkeligheden dækker begrebet ”kunstig intelligens” jo over alt fra tekstgenerering til beslutningsstøtte, billeddiagnostik, patientmonitorering og bittesmå algoritmer i MR-scannere eller computerprogrammer. På den måde skal man holde tungen lige i munden, når man taler om AI, for vi bruger det hele tiden og det er ikke alt sammen lige indgribende eller potentielt problematisk,” siger Andreas Pihl. Han fortsætter:

”I sundhedsvæsnet skal vi dog generelt passe på med at tænke på kunstig intelligens som en kollega eller ekspert i stedet for et værktøj. Og vi skal være bevidste om, hvorfor vi bruger den, hvordan vi bruger den, og hvad konsekvenserne kan være,” fortæller han.

Et menneske i kredsløbet

En af farerne ved AI er ifølge Andreas Pihl, at vi over tid risikerer at overlade alle de svære opgaver og krævende mellemregninger til en computer. Som resultat afgiver vi vores evne til at kunne tænke selvstændigt. Undersøgelser viser, at det for f.eks. sundhedsfaglige kan resultere i deskilling (på dansk: dekvalificering), hvor de mister færdigheder og bliver dårligere til at løse konkrete opgaver.

”Det sker, fordi mennesker mister deres færdigheder, når de ikke bruger dem. Vil vi acceptere det tab af færdigheder hos sundhedsprofessionelle til gengæld for gevinsterne ved AI? Det vil vi måske, men det er en diskussion, vi bør have,” forklarer Andreas Pihl.

Uigennemskuelige AI-systemer, der ikke altid forklarer, hvordan de når frem til et givent resultat, skævheder i algoritmetræningen, hvor menneskelige fordomme ubevidst bliver overført til den kunstige intelligens og dermed kan føre til forkerte diagnoser eller vurderinger, er også blandt de potentielle snubletråde ved den nye teknologi.

Andreas Pihl fremhæver desuden såkaldt automation bias – den menneskelige tendens til at stole blindt på automatiske systemer og computere – som en potentiel risiko ved kunstig intelligens.

”Hvis du tager de nyeste generationer af chatbots som eksempel, så kan de jo være helt utroligt overbevisende. De svarer på en måde, som er både troværdig og tillidsvækkende, og de fremstår enormt lydhøre og hjælpsomme,” siger Andreas Pihl. Han fortsætter:

”For sundhedsfaglige er det derfor vigtigt, at vi f.eks. ikke tillægger kunstig intelligens for stor autoritet eller betragter den som en ekspert. AI kan utroligt meget allerede i dag, men der skal altid være et human in the loop, dvs. et menneske i kredsløbet, der kvalitetssikrer eller sætter spørgsmålstegn ved det, computeren siger.”

Det kliniske blik kommer først

Det er der også i Hobro. Altså et menneske i kredsløbet.

Alle røntgenbilleder fra Småskadeklinikken bliver den efterfølgende dag gennemgået af en radiolog. Skulle der mod forventning være noget, behandlersygeplejerskerne eller den kunstige intelligens i Milvue Suite har overset eller fejlvurderet, vil den pågældende patient blive ringet op og bedt om at komme ind i klinikken. Desuden bliver skaderne gennemgået af henholdsvis håndkirurger, fodkirurger og børneortopædkirurger.

”Det er også vigtigt at understrege, at vi først og fremmest bruger vores kliniske blik, når vi kigger på et røntgenbillede. Vi kigger altid først på billedet uden AI for at lave vores egen vurdering. Bagefter tjekker vi billedet med den kunstige intelligens,” fortæller Gitte Stadsgaard Kjeldsen.

AI’en har en sensitivitet på omkring 96 pct., men det hænder alligevel at sygeplejerskerne er uenige med den. Når det sker, rådfører de sig med den vagthavende ortopædkirurg. Generelt føler de sig dog trygge ved at have den kunstige intelligens som second opinion.

”Selvfølgelig skal man passe på, at man ikke stoler ukritisk på den, men det giver en god følelse af sikkerhed, når jeg kigger på et røntgenbilleder og ser en fraktur, og AI’en så ser det samme. Patienterne er også helt trygge ved det, når vi forklarer dem det,” siger Rikke Højen. Hun tilføjer:

”Min første tanke, da den kunstige intelligens blev implementeret, var nok, at det var en spareøvelse. Vi har jo oplevet rigtig mange gange, at når der bliver lavet nye tiltag, så handler det på en eller anden måde om at spare ressourcer. Men jeg synes, det er blevet vendt til også at være en rigtig god faglig mulighed for os.”

Personale mangler uddannelse

Og AI kommer efter alt at dømme til at fylde meget mere i bl.a. sundhedsvæsnet. I 2024 nedsatte den daværende regering Den Digitale Taskforce for Kunstig Intelligens, et tværoffentligt samarbejde mellem regeringen, KL og Danske Regioner, der skal understøtte udbredelsen af kunstig intelligens i den offentlige sektor.

Et af taskforcens erklærede mål er, at udrulning af kunstig intelligens i de offentlige myndigheder, herunder regionerne og kommunerne, skal frigøre mindst 50 mio. timer, svarende til 30.000 årsværk på tværs af den offentlige sektor frem mod 2035. Et andet er, at 80 pct. af offentlige myndigheder senest i 2030 skal anvende kunstig intelligens, ”hvor det giver mening og værdi.”

Skal det lykkes i sundhedsvæsnet, kræver det ifølge Andreas Pihl, at sygeplejersker og andre sundhedsfaglige bliver klædt ordentligt på til at kunne bruge AI.

”Der mangler helt klart – for alle grupper af sundhedspersonale – uddannelse og kompetencer til at kunne bruge kunstig intelligens på en forsvarlig måde. Der er gang i alt muligt rundt omkring i sundhedsvæsnet, men der mangler en national handleplan i forhold til skalering og implementering,” siger han.

Mere tid til…hvad?

I spørgeundersøgelsen fra IDA svarede blot 33 pct. af de sundhedsprofessionelle, at de ofte modtager undervisning eller oplæring i ny sundhedsteknologi, selvom langt flere bruger sundhedsteknologi regelmæssigt. Og kun 26 pct. oplever at blive inddraget, når ny teknologi skal implementeres.

Netop den manglende brugerinddragelse er bekymrende, mener Andreas Pihl. Han hæfter sig desuden ved, at der ikke er nogle sundhedsfaglige repræsentanter eller eksperter tilknyttet Den Digitale Taskforce for Kunstig Intelligens.

”Det er jo totalt risikabelt, for én af de store spørgsmål ved kunstig intelligens i sundhedsvæsnet, som vi skal tage stilling til, er, hvad vi gerne vil med den. Hvis AI skal frigøre mere tid, hvad skal vi så bruge den tid til? Er det at få endnu flere patienter igennem systemet? Eller er det, at sundhedspersonale kan bruge lidt flere minutter på en patient, læse op på noget fagligt eller bare holde en pause og gå en tur?” påpeger han og fortsætter:

”Vi har jo f.eks. store udfordringer med stress og udbrændthed i sundhedsvæsnet. AI kan være en del af løsningen. Men det kræver, at vi lige sætter os ned og taler om, hvordan den skal bruges.”

Et værktøj til gavn

I Hobro er behandlersygeplejerskerne enige med Andreas Pihl i, at kunstig intelligens skal bruges med omtanke. Generelt er de dog optimistiske omkring anvendelsesmulighederne for AI i fremtidens sundhedsvæsen.

”Hvis man kan bruge kunstig intelligens på en måde, hvor man som sundhedsfaglig stadig skal tage kritisk stilling, så tænker jeg, det er en gevinst,” siger Gitte Stadsgaard Kjeldsen.

Bliver I bedre sygeplejersker af kunstig intelligens?

”Nej, det vil jeg ikke sige. Det er et værktøj, som hjælper os med at arbejde mere effektivt, til gavn for både os og patienterne. Processen bliver bedre, men vores sygeplejefaglighed er den samme,” siger Rikke Højen.

DSR: AI skal give mere tid til sygepleje

Kunstig intelligens kan være en kæmpe gevinst for sygeplejen og sundhedsvæsnet, men den må aldrig blive et mål i sig selv. Den skal implementeres, hvor det dokumenterbart kan forbedre patientoplevelsen, patientsikkerheden eller frigøre tid fra administrative eller rutineprægede opgaver.

Det mener Dorthe Boe Danbjørg, forkvinde i Dansk Sygeplejeråd. Hun understreger desuden, at den frigivne tid skal bruges på mere omsorg og sygeplejefaglige kerneopgaver, ikke til at presse flere patienter igennem.

”Derfor skal sygeplejersker inddrages i udviklingen, samtalen og implementeringen af AI, fordi det nytter jo ikke noget hvis den vundne tid betyder, at vi så bare lægger ekstra patienter i sengene eller på gangene. Vi skal være med til at diskutere, hvad ressourcerne skal bruges til,” siger hun.

Netop implementeringen ser hun som en af de største udfordringer ved kunstig intelligens. Det kræver ledelse, investeringer og en kontinuerlig faglig refleksion over, hvordan den nye teknologi ændrer sygeplejen.

”Vi bliver nødt til at have diskussionerne om, hvad det betyder for sygeplejerskernes arbejde. Hvad får vi, hvad mister vi? Hvis en kunstig intelligens f.eks. kan måle værdier på patienterne, kan det måske frigive tid, men hvis sygeplejersken så ikke længere skal ind og måle værdierne tre gange på en vagt, hvad betyder det så for det kliniske blik og følingen med patienten?”