AI-diagnostik: Framtidens medicinska genombrott eller en risk för patientsäkerhet? En kritisk analys av transparens och spårbarhet vid användning av AI-system för Alzheimersdiagnostik i svensk hälso- och sjukvård: Samspelet mellan juridik och medicinsk innovation

Abstract

Artificiell intelligens (AI) spelar en alltmer central roll inom vårdsektorn och diskuteras flitigt för sin potential att utveckla vården genom förbättrad diagnostik och behandling. En ökad användning av AI inom vården har potential att utveckla vårdsektorn och vara svaret på många av de problem som hälso- och sjukvården står inför. Med särskilt fokus på Alzheimers sjukdom framträder AI som ett verktyg som kan möjliggöra tidigare och mer tillförlitliga diagnoser, vilket i förlängningen skulle kunna förbättra möjligheterna till vård för drabbade och bidra till medicinska genombrott inom demenssjukdomar. Uppsatsen utgår från ett specifikt AI-system för Alzheimersdiagnostik som utvecklats på Boston University i USA för att belysa centrala möjligheter och risker som finns med att implementera avancerade AI-system inom svensk hälso- och sjukvård.

General Data Protection Regulation (GDPR), Medical Devices Regulation (MDR) och Patientdatalagen (PDL) förutsätter att individer har rätt till tydlig och begriplig information om hur deras personuppgifter behandlas. Komplexa och ofta icke-förklarliga algoritmer skapar svårigheter för AI-systemets implementering, särskilt när patienter förväntas vara införstådda med behandlingen. En särskild utmaning ligger i hur AI-systemets “black box” -problematik, som försvårar insyn i beslutsprocessen, ska kunna förenas med lagstiftningens krav på transparens och spårbarhet. Syftet med regelverken inom vårdsektorn är att se till att de medicintekniska produkter som implementeras är säkra samt att det föreligger ett skydd för patienters integritet, rättigheter, och säkerhet.

Implementeringen av AI-system inom diagnostik väcker frågor om hur lagstiftningen påverkar den digitala utvecklingen inom hälso- och sjukvården, samt hur dessa förändringar i sin tur påverkar rättsliga ramar och regelverk. Syftet med uppsatsen är att belysa hur grundläggande värden och principer, som är avsedda att skydda patienters integritet och säkerhet, behöver balanseras mot medicinsk innovation för att möjliggöra en säker och effektiv implementering av avancerade AI-system inom vårdsektorn. Uppsatsen utreder om nuvarande regelverk är tillräckligt flexibelt för att främja medicinsk innovation utan att kompromissa med grundläggande värden och rättssäkerhet. En strikt tillämpning av dessa regelverk riskerar att bromsa medicinsk innovation men säkerställer samtidigt att en implementering sker på ett hållbart och ansvarsfullt sätt. Hanteringen av dessa frågor är avgörande för att kunna möjliggöra en framtida implementering av AI-systemet för Alzheimersdiagnostik inom svensk hälso- och sjukvård. Genom att belysa dessa frågor visar uppsatsen på behovet av att upprätthålla patientsäkerhet samtidigt som det är avgörande med rättslig flexibilitet för att stödja vårdens långsiktiga utveckling inom medicinsk diagnostik.