När upphandlingen blir artificiell: Vad är egentligen rätt? En rättsanalytisk studie av förutsättningarna för användning av AI-system inom off entlig upphandling och dess påverkan på rättssäkerheten.

Abstract

Under senare år har användningen av AI inom den offentliga förvaltningen blivit ett allt mer uppmärksammat inslag, särskilt i samband med upphandling av varor och tjänster där tekniken erbjuder betydande effektiviseringsmöjligheter. Samtidigt ger denna utveckling upphov till omfattande rättsliga utmaningar, inte minst eftersom den rättsliga regleringen i flera avseenden inte har utvecklats i takt med den teknologiska förändringen. En särskild svårighet vid AI-användning i upphandlingssammanhang är systemens beroende av stora mängder historisk data för att generera bedömningar och beslutsstöd. Detta förutsätter att såväl data som underliggande teknisk struktur är korrekta och representativa, för att undvika algoritmisk bias. Brister i detta avseende riskerar att leda till diskriminerande behandling av leverantörer och därmed undergräva de grundläggande principer som styr den offentliga upphandlingen. När AI integreras i upphandlingsverksamheten aktualiseras därmed centrala frågor om myndigheternas förmåga att upprätthålla rättssäkerhet och om hur rättssäkerhetsbegreppet påverkas i mötet mellan AI-teknologins möjligheter och risker. Genom en fördjupad analys studeras möjligheter och risker med användningen av AI i upphandlingsprocessens olika faser samt relationen mellan upphandlingsrättens krav på icke-diskriminering, likabehandling och öppenhet och AI-teknologins inneboende egenskaper, särskilt frågor om algoritmisk partiskhet och begränsad insyn i systemens tekniska struktur. Vidare analyseras hur AI-förordningen förhåller sig till användningen av AI inom offentlig upphandling, där en central iakttagelse är att området inte självklart omfattas av de skärpta regler som gäller för högriskteknologi trots de identifierade riskerna. Med stöd i Aleksander Peczeniks distinktion mellan formell och materiell rättssäkerhet, kompletterad med Lawrence Lessigs resonemang om teknisk kod som normgivning, fördjupas frågan om hur AI-system påverkar rättssäkerheten i spänningen mellan möjligheter och risker. Syftet är att klarlägga hur den rättsliga ramen påverkar förutsättningarna för att införa AI i upphandlingsarbetet samt hur användning av teknologin kan både förstärka och undergräva de rättsliga värden som upphandlingslagstiftningen är avsedd att värna. Mot bakgrund av att området alltjämt är relativt outforskat syftar uppsatsen även till att bidra till den pågående diskussionen om hur rättssäkerhet bör förstås i detta sammanhang.