AUTOMATION INOM MEDTECH-UTVECKLING: En kvalitativ intervjustudie om generativ AI:s påverkan på systemutveckling i medtech-branschen

Abstract

Medtech-branschen präglas av höga krav på bland annat dokumentation, spårbarhet och regulatorisk efterlevnad. Samtidigt får AI större betydelse i utvecklingsarbete och förändrar hur arbete utförs, organiseras och kontrolleras. Därför är branschen en särskilt intressant kontext för att studera hur generativ AI påverkar systemut-veckling. Syftet med studien är att undersöka på vilka sätt generativ AI påverkar utvecklings-arbetet i medtech-branschen. Analysen utgår från Shneidermans Human-Centered AI-ramverk, där fokus ligger på relationen mellan automation och mänsklig kon-troll. Ramverket används för att analysera hur AI kan bidra till effektivisering, samtidigt som mänsklig granskning, ansvar och tillförlitlighet behöver upprätthål-las. Uppsatsen har genomförts som en kvalitativ intervjustudie med åtta respondenter från tre centrala rollkategorier i utvecklingsprocessen: produktägare, compliance-experter och programmerare. Det empiriska materialet har analyserats tematiskt uti-från begreppen automation, mänsklig kontroll samt tillförlitliga, säkra och trovär-diga system. Resultatet visar att generativ AI kan effektivisera flera delar av utvecklingsproces-sen, exempelvis kodgenerering, problemlösning och framtagning av prototyper. Samtidigt visar studien att AI-genererade resultat fortsatt behöver kontrolleras. Stu-diens bidrag är att generativ AI inte ersätter mänsklig kompetens i medtech-ut-veckling, utan förändrar kompetenskrav. Istället behövs kompetens som systemför-ståelse, AI-styrning, granskning och regulatorisk bedömning. Slutsatsen är att generativ AI har stor potential att effektivisera och förändra ut-vecklingsarbetet i medtech-branschen, men att detta behöver ske på ett ansvarsfullt sätt genom tydliga processer, mänsklig kompetens och organisatorisk kontroll. Mänsklig kontroll blir därmed inte enbart en godkännande funktion, utan en kritisk del av utvecklingsarbetet där AI-genererade resultat behöver styras, granskas och bedömas i relation till tekniska och regulatoriska krav.