Lisa Blohm: Klokt införd AI välkommen – men måste utvärderas

Svaren var i betydligt högre grad ”bra” eller ”mycket bra” än de svar som riktiga läkare tidigare givit på nätet. Det tyckte i alla fall de tre personer, yrkesverksamma i sjukvården, som agerade jury. Dessutom överglänste textrobotens svar läkarnas när det gällde hur empatiska de uppfattades.

Det är här som det som människa känns lite jobbigt, även om studieförfattarna själva konstaterar att den skrivglada textroboten skrev mycket längre än läkarna – och att det kanske bidrog till känslan av inkännande.

Läs mer: Chattbot gav bättre svar än läkare

Nu ska denna klart begränsade studie tas för vad den är – men nog väcker den tankar. Det är lätt att hasta i väg och se möjligheter som ökad tillgänglighet, nöjdare patienter och snabbare hantering av rutinuppgifter.

Och AI som sådant är förstås ingen ny företeelse, inte heller i vården. Den automatiserade digitala triageringen via 1177 som nu införs i många regioner är ett färskt exempel. Fjolårets vinnare av Athenapriset (missa förresten inte att nominera – deadline den 29 maj!) ett annat, där ett AI-baserat beslutsstöd gör en riskindelning av bröstcancerfall. Taligenkänning är ingen lätt sak, men även där lär sig systemen.

Vinsterna med en träffsäker och effektiv första triagering utan mänsklig inblandning skulle kunna vara stora och sannolikt ge mer tid till det mänskliga mötet i de fall det behövs.

Läs också: Dags att nominera till Athenapriset 2023

Men automatiserad digital triagering i primärvården är samtidigt ett område med rejäla kunskapsluckor, vilket Statens beredning för medicinsk och social utvärdering, SBU, konstaterade i december 2021.

Självklart handlar det om att undvika fallgropar i takt med att AI används alltmer. Den mänskliga faktorn är vi vana att leva med och kan aldrig helt bortse ifrån. När det gäller AI finns i stället faror som systematiska fel och att våra mänskliga fördomar har ”smittat av sig”. Som när AI som skulle förbättra rekryteringsprocesser per automatik sållade bort alla kvinnliga kandidater. Baserat på hur det brukade gå till.

Mycket i vården ska aldrig göras av andra än de av kött och blod. Men jag ser fram emot varsamt införda AI-lösningar – som underlättar, kanske förbättrar – och noga utvärderas. Av människor.