AI-verktyg för svensk sjukvård

Introduktion och agenda

Mitt namn är Abderisak Adam, men det går bra att säga Adam. Jag är från Göteborg och skrev min doktorsavhandling på Chalmers inom civil and environmental engineering, alltså ett helt annat område än det de flesta som deltar i dag arbetar inom. I dag är jag här som en del av teamet bakom Docdemic, ett svenskt företag som tar fram AI-mjukvara för svensk sjukvård.

Vi kommer framför allt att gå igenom allmänna tips om hur man kan använda AI som läkare eller kliniker. Mot slutet snuddar vi också vid forskarrollen, för er som arbetar både kliniskt och i en forskningskontext. Fokus ligger dock på praktiskt arbete i kliniken.

Agendan för dagen: vad man bör tänka på när det gäller AI i vården, tre användningsområden med konkreta råd som berör sjukvården specifikt, risker och hur man minimerar dem, vad forskningen säger om träffsäkerhet, och till sist en praktisk genomgång av specifika tillämpningar.

AI är ett verktyg, inte en ersättning

Det första jag vill säga är att AI är ett verktyg, inte en ersättning. Det är ingen människa. Man talar om ”agenter”, men det är ingen som har agens på det sätt en människa har. AI finns där som stöd, inte som någon som ersätter dig. Som alla andra verktyg har det både positiva och negativa sidor, men i slutändan är det du som läkare som tar beslutet och bär ansvaret.

Frågan är alltså inte AI mot människa, som många tenderar att ställa den, utan AI och människa. Det är stor skillnad mellan en okritisk läkare som förlitar sig på en AI-modell utan att granska förslagen, exempelvis vid diagnostik eller transkribering, och en noggrann läkare som använder en stark modell och granskar resultatet. I det senare fallet kan AI förbättra produktiviteten avsevärt. Det gör dig inte till en bättre eller sämre läkare på något ontologiskt plan, men du kan producera mer och arbeta mer effektivt.

På samma sätt kan en slarvig och okritisk läkare släppa igenom betydligt mer fel med AI och därmed göra mer skada. Du kan göra bra saker med verktyget och du kan göra dåliga saker med det. Precis som tillgång till internet gör en läkare mer effektiv utan att göra hen till en annan läkare, är AI en fråga om effektivitet, inte om identitet.

Tre användningsområden i svensk sjukvård

Journalföring är det mest uppenbara: att transkribera, skapa strukturerade anteckningar och få kodförslag som ICD-koder och KVÅ-koder. Det kan AI göra extremt bra och extremt fort. Kravet är fortfarande att du som läkare läser igenom innan något förs in i journalen. Det finns studier som visar att detta kan minska den överbelastning som råder i sjukvården.

Det andra området är att resonera kliniskt kring diagnos, ställa frågor och hitta information, exempelvis om nya läkemedel eller behandlingsmetoder. Här är AI extremt bra så länge svaren är förankrade i källor. Om modellen har tillgång till PubMed svarar den utifrån det den faktiskt hittar i forskningsartiklarna. Ska den föreslå ICD-koder bör den ha kodverket som underlag. Grundas svaren inte i något konkret finns risk för hallucinationer.

Använd en stark modell och se till att patientsekretessen bevakas. Att använda ChatGPT eller Claude direkt på deras webbplatser är inte tillåtet för känsliga patientdata. Verktyg som hanterar sådana data måste uppfylla GDPR: leverantören får inte träna på era data, data ska kunna raderas, och allt ska hållas inom EU-infrastruktur.

Det tredje området är litteratursökning: att ta fram utkast till systematiska litteraturöversikter, hitta relevant litteratur och bearbeta den. Betoningen ligger på utkast. Det är du som skriver slutprodukten, men verktyg som är kopplade till PubMed och andra medicinska databaser gör att du både får ett evidensbaserat svar och kan läsa artiklarna själv för att kontrollera att det stämmer.

Diktera eller spela in hela besöket?

När det gäller journalföring finns två alternativ. Antingen dikterar man efter patientbesöket, som många fortfarande gör, eller så spelar man in hela mötet där även patienten talar. Spelar man in hela mötet gäller andra kriterier: patientens godkännande krävs, och regelverket är strängare.

Diktering kallas ”filtrerat” i regelverkets termer. Du har kontroll över vad som kommer in i systemet och kan undvika patientnamn och andra känsliga uppgifter. Det är också det regelverket förordar: håll dig så mycket som möjligt till det som är filtrerat. ”Ofiltrerat” innebär att hela samtalet spelas in, som om du tog mobilen och spelade in besöket. Det är enklare, eftersom du bara laddar upp och får anteckningen, men det kräver att patienten informeras och ger sitt tillstånd, att organisationen godkänt arbetssättet, och att verktyget lagrar data på GDPR-säkrade servrar inom EU.

Patienten kan alltid säga nej. Då dikterar du efter besöket precis som tidigare. Oavsett vilket sätt du väljer föreslår verktyget ICD- och KVÅ-koder, men det är du som granskar och godkänner innan något läggs in i journalen. Det är ditt namn som står där.

Kliniskt resonemang med AI som bollplank

Med kliniskt resonemang menar vi att chatta kring ett specifikt patientbesök eller att lära sig mer om ett område. Jag ser AI som ett bollplank, ett andra par ögon. Du kan fråga om du missat något, och du bör fråga om resonemanget, inte bara svaret. Att AI håller med eller inte är egentligen inte det viktigaste. Det viktigaste är att förstå hur den har tänkt och vad den baserat det på. Beslutet är helt och hållet ditt.

Var vaksam på att modellerna är extremt bra på att formulera sig. Det är en styrka, men också en risk: allt låter rätt, även när det är fel. Förankra därför svaren i konkreta källor och medicinska databaser, så får du mycket bättre svar. Men även då måste du fortsätta vara vaksam.

Kontrollera alltid transkriptionen

Kontrollera alltid att den avskrift du fått är korrekt. Små fel kan ha stora följder. Ibland handlar det om ett enda ord: ”jag är allergisk mot den medicinen” kontra ”jag är inte allergisk”. Missar modellen ordet ”inte” kan det påverka diagnosen markant. Dubbelkolla att transkriptionen stämmer, lyssna tillbaka om det behövs, och lägg aldrig in något du inte kontrollerat. Så var det även innan AI fanns, med tidigare transkriptions- och dikteringsverktyg.

Risker: hallucinationer, bias och självsäkerhet

Den största risken är hallucinationer. Det var ett betydligt större problem för ett år sedan. Numera är modellerna så bra att de inte hallucinerar lika ofta. Använder man gratisversionerna av ChatGPT eller Claude ser man dock inte de stora fördelarna, eftersom de starka modellerna finns i de uppgraderade planerna. Utvecklingen går snabbt: nya modeller löser nyligen matematiska problem som varit olösta i decennier och tar fram hela filmer. Men modellerna baseras på mänsklig data, och vi människor gör misstag. AI är en förlängning av det och kan ärva våra fel.

Ha också bias i träningsdata i åtanke. Om du frågar om ett medicinskt utfall och modellen svarar utifrån data insamlad i USA är det inte säkert att det är relevant för Sverige. Demografi, ålder och urval kan skilja sig. Fråga alltid vad som ligger till grund för svaret och försök förstå resonemanget innan du går vidare.

Hur minimerar man riskerna? Verifiera alltid mot en tillförlitlig källa. Du som läkare har dessutom ett försprång: din domänkunskap. Ser du ett svar som är irrelevant kan du förkasta det direkt, och känns något fel kan du gå djupare i primärkällorna. Den stora risken ligger hos patienter som använder AI utan den kunskapen. Du är den vuxna i rummet. AI är lite som en doktorand som kommer med intressanta förslag, men i slutändan är det du som beslutar.

Skydda data och anonymisera. Det finns ingen anledning att nämna patientnamn om det inte krävs. Använd behörighetsstyrda verktyg och ha patientens eller intervjupersonens tillstånd. Kvalitetssäkra alltid. Och förkasta inte AI bara för att den ibland gör fel. Man kastar inte ut barnet med badvattnet: behåll nyttan och gör dig av med det riskfyllda.

Andra verktyg i sjukvården glappar också. Ett stetoskop kan glappa och en våg kan vara felkalibrerad. Visar vågen att en liten pojke väger 200 kilo förstår du att något är fel, men du slänger inte vågen för alltid. Du testar igen, testar ett annat verktyg eller en annan metod. Ser ett AI-svar fel ut förkastar du det svaret, inte hela AI. Och som sagt: bygg på svar som baseras på riktiga källor.

Vad forskningen säger

Många studier pekar nu på att AI blir bättre och bättre, och att modellerna överträffar läkare inom både kliniskt resonemang och transkription. Rasmus Arvidsson vid Sahlgrenska i Göteborg uttrycker det väl: det är lätt att bygga en AI som aldrig missar en allvarlig sjukdom, bara låt den säga att alla är sjuka. Men då blir den värdelös. Utmaningen är att också hitta dem som är friska.

Det vi ser i svensk sjukvård i dag är att allt fler läkare faktiskt använder AI. Ungefär hälften uppger att de testat chattverktyg. Därför är det viktigt att förstå både styrkorna och svagheterna, särskilt eftersom modellerna blir bättre för varje generation, med nya modeller varje månad. De blir dessutom alltmer open source, vilket gör att de kan köras inom EU-infrastruktur.

Demo: komma igång med Docdemic

Docdemic är ett verktyg för transkribering, journalanteckningar och forskning, byggt i Göteborg. Vi har kunder på sjukhus inom EU och i Norden. Du kan spela in och transkribera besök, få förslag på ICD-koder, få en journalanteckning som du godkänner och kopierar in i ert journalsystem, chatta med ett eller flera patientbesök, och använda det för forskning: intervjustudier med automatisk avidentifiering, systematiska litteraturöversikter och medicinsk statistik.

All data hanteras i Sverige, med datacenter i Stockholm. AI-modellerna är open source och körs i våra datacenter inom EU, så hela kedjan från inspelning till AI-funktioner är GDPR-säker.

För att komma igång går du in på docdemic.com och skapar ett konto. Du anger vad vi ska kalla dig, väljer språk och region. Väljer du Sverige får du det svenska ICD-systemet och de svenska koderna. Registrerar du dig i ett annat land får du det landets motsvarighet. Sedan väljer du hur din anteckning ska vara strukturerad: längre och mer detaljerad, eller kort och koncis. Därefter kan du titta på en demoinspelning eller starta en ny.

Demo: inspelning, journalanteckning och ICD-koder

I demon startar jag en inspelning och dikterar ett fall: en patient med smärta i nedre delen av ryggen sedan tre dagar efter att ha lyft en tung låda, inga mediciner, inga kända allergier, smärtan blir värre vid rörelse, ingen domning, svaghet eller smärta ner i benen, patienten kan gå normalt. Bedömning: vanlig ryggsmärta. Råd om att fortsätta röra sig, undvika tunga lyft och ta receptfri Alvedon vid behov, samt att återkomma om besvären förvärras.

Jag sitter vid datorn, men verktyget är också anpassat för mobilen. Docdemic skriver först ut själva transkriptionen och skapar därefter journalanteckningen utifrån den struktur jag valt: ländryggssmärta i tre dagar efter tungt lyft, ingen medicinering, inga kända allergier, smärtan förvärras vid rörelse, ingen domning, svaghet eller utstrålning till benen, går normalt, bedömning vanlig ryggsmärta, plan.

Jag kan öppna utskriften för att dubbelkolla att allt är korrekt och klicka på tidsstämplarna för att lyssna på just det avsnittet. Är något fel i texten rättar du det direkt. Ljudet går att ta bort om du inte vill spara det, antingen manuellt eller automatiskt efter inspelningen. Var dock noggrann: har du raderat ljudet kan du inte lyssna tillbaka fem dagar senare. Det bästa är att bekräfta anteckningen direkt.

Verktyget föreslår också ICD-kod, i det här fallet ryggskott, som jag bekräftar. Man kan även utse någon i organisationen som granskar transkriberingar och markerar dem som granskade. Gillar du inte anteckningen kan du generera om den. Klicka på kopiera och klistra in i ert journalsystem. Koder går att lägga till manuellt.

Demo: mallar, intyg och egna mallar

Utöver journalanteckningen finns fliken instruktioner, som är skriven till patienten: ”hej, här är din plan i korta steg”. Det finns mallar för förklaring av provsvar, klinisk sammanfattning, svar på e-post och intyg, exempelvis arbetsintyg eller reseintyg. Väljer du ett intyg genererar Docdemic det utifrån patientbesöket.

Ni kan också skapa egna mallar. Ge mallen ett namn och en titel, och skriv instruktionerna: hur anteckningen ska börja, hur den ska struktureras och hur den ska signeras. Ni kan välja att ta med patientens bakgrund, alla besök och sjukdomshistorik, samt egna uppgifter som datum, namn eller det som ska stå på en remiss. Skapar ni ett team i er klinik, vårdcentral eller enhet kan ni bjuda in medarbetare och dela mallar sinsemellan.

Demo: patienter, flera besök och chatt

Ett besök kan skapas genom inspelning, genom att klistra in text, eller genom att ladda upp en inspelning. Uppladdning är oftast mest relevant för forskningsintervjuer. Besök är namnlösa som standard. Har ni ett kodsystem, exempelvis patient 1, 2, 3, kan ni använda det, eller så skriver ni ett namn. Då hamnar besöket under den patienten, och du ser alla besök och utskrifter för patienten på ett ställe.

I demon lägger jag till ett nytt besök på samma patient: sömnproblem i flera veckor, sju koppar kaffe om dagen, tidigare depression. Det blir ett andra besök. Har man missat något kan man också lägga till en inspelning till ett befintligt besök.

Sedan chattar jag med patientens uppgifter: ”beskriv patientens tillstånd och tidigare besök”. Man kan välja att chatta med en patient, ett specifikt besök, alla patienter, allmänt med AI-modellen, eller med evidens kopplat till forskningsdatabaser. Svaret sammanfattar båda besöken, noterar att inga varningssymtom fanns vid ryggsmärtan, och pekar på en potentiell koppling mellan hög koffeinkonsumtion och sömnproblem som bör beaktas. Den anger också när underlaget är tunt, vilket det var här med två mycket korta inspelningar.

I evidensläget frågar jag om biverkningar av semaglutid (Ozempic) baserat på vetenskapliga studier. Svaret är en sammanställning där varje påstående refererar till en källa som du kan öppna och kontrollera. All data ligger på GDPR-säkrade servrar och används inte för att träna AI. Delar du ett besök med en kollega i teamet ser kollegan det, men ingen annan har åtkomst.

Demo: forskning, statistik och litteraturöversikter

För er som arbetar med både klinik och forskning finns en växlare mellan klinisk vy och forskningsvy. Inom medicinsk statistik kan du ladda upp CSV- eller Excel-filer. Docdemic parsar datan, lägger in den i rätt kolumner och analyserar den enligt ditt val: t-tester, Pearson-korrelation och så vidare, med grafer kopplade till den faktiska datan.

Poängen är att tvinga AI-modellerna att använda deterministiska metoder. En miniräknare är deterministisk: två plus två blir alltid fyra. En AI-modell är i grunden statistisk, så det finns alltid ett intervall i hur den svarar. Ber du en chattmodell rita ett diagram blir det fel. Här extraherar AI datan och lägger upp den korrekt, medan beräkningarna görs deterministiskt. I sista steget får du ett metodavsnitt och resultat som du kan skicka vidare till ett manuskript.

I evidenssökningen ställer jag frågan om kopplingen mellan aspartam och cancer. Docdemic tar fram söktermer som du kan justera, samt inklusions- och exklusionskriterier, exempelvis bara studier från Sverige eller bara vuxna. Sökningen görs i medicinska databaser, framför allt PubMed med kollegialt granskad litteratur. I nästa steg gallrar du: inkludera eller exkludera med motivering som fel population eller fel studiedesign. Verktyget tar fram ett PRISMA-flödesschema och kan sedan skriva en översikt, en poster eller ett manuskript med korrekta referenser, eftersom det läser artiklarna och skriver syntesen utifrån dem.

Datasekretess och GDPR

Det är mycket viktigt att använda verktyg som är GDPR-säkrade, där all data hanteras inom EU. För Docdemic ligger all data i Sverige, med datacenter i Stockholm och reservkapacitet i Tyskland. Allt kan raderas, vilket också är ett GDPR-krav, och raderat innehåll försvinner helt från servrarna. Vi tränar inte på era data. Vi använder inte amerikanska modeller utan open source-modeller som körs inom EU. Allt är krypterat, och du väljer själv om inspelningen ska raderas automatiskt eller manuellt.

Vill du testa kan du göra det själv med icke-känslig data först. Gå in på docdemic.com. Vill ni köra en pilot för er enhet, hör av er så ordnar vi det kostnadsfritt på de större planerna. Är forskningssidan intressant tar vi gärna det vid ett separat tillfälle.

Frågestund

Sessionen avslutades med frågor från deltagarna om journalsystem, dataägande, modellval, transkriptionsmodeller, sekretess och ChatGPT. Frågorna och svaren är sammanfattade nedan.