AI-BASERAD PREVENTION MOT SEXUELLA ÖVERGREPP PÅ BARN ONLINE En strukturerad forskningsöversikt om avsaknaden av barns perspektiv i utvecklingen av AI

Abstract

Den snabba tekniska utvecklingen av preventiva AI-verktyg syftar till att effektivisera bekämpningen av internetrelaterade sexuella övergrepp på barn online. Samtidigt riskerar implementeringen av dessa system att inkräkta på barns rätt till privatliv, delaktighet och rätten att bli hörd. Denna studie undersöker hur spänningen mellan utvecklingen av preventiva AI-verktyg och barnrätt framträder i forskningen, genom att fokusera på hur barn konstrueras inom forskningen. Genom en strukturerad litteraturöversikt har vetenskapliga artiklar analyserats utifrån ett barn- och ungdomsvetenskapligt perspektiv. Resultatet visar att den tekniska utvecklingen av preventiva AI-verktyg i stor utsträckning sker utan hänsyn till barns rättigheter såsom rätten till privatliv, delaktighet och rätten att bli hörd. Brottsbekämpning och teknisk framgång prioriteras framför barns rättigheter. Studien synliggör också ett behov av att differentiera mellan olika brottstyper. Vid hantering av övergreppsmaterial är tekniska lösningar centrala, vilket gör det nödvändigt att barnet i processen reduceras till metadata för att AI-verktyget ska fungera. För att stoppa grooming online däremot krävs det att AI-system tränas på barns faktiska språkbruk och inte vuxnas imitationer av dem, här blir barns delaktighet en teknisk nödvändighet. Slutsatsen är att framtida forskning och systemutveckling behöver utöver reaktiva åtgärder också fokusera på proaktiv prevention. Det finns ett behov av att utveckla säkra metoder och ramverk för att praktiskt involvera barn och unga i utvecklingen av de AI-system som ska skydda dem, men utan att kompromissa med deras rättigheter och säkerhet