Med den hurtigt voksende udbredelse af AI i mange dele af vores personlige og samfundsmæssige liv, er det ikke overraskende, at der i den internationale forskning er et øget fokus på, hvordan AI kan og bør anvendes inden for retssystemet. 
På baggrund af en stor fondsbevilling åbnede forskningscentret CenCAI (Center for Criminal Justice and Artificial Intelligence) den 1. september. Centret kommer til at bestå af 10-12 forskere og skal være et internationalt samlingssted for strafferetsfilosoffer, jurister og AI-forskere. Det forskningsmæssige formål er at blotlægge mulige fordele ved at anvende AI-baseret teknologi i straffesager samt at identificere og udvikle løsninger på de udfordringer, en sådan brug af teknologi kan føre med sig. Fokus vil først og fremmest ligge på brug af AI som redskab i forbindelse med strafudmåling, men vil også mere bredt undersøge mulige anvendelser af AI i både anklageres og forsvareres arbejde. Centret er internationalt det første af sin art.

Brug af AI i strafudmåling

Det er i dag blevet almindeligt at skelne mellem tre overordnede måder, hvorpå AI kan anvendes i strafudmåling. 1) AI kan benyttes til at skaffe den information, som er afgørende for at kunne udmåle en passende straf. Det kan for eksempel være informationer om den begåede forbrydelse, om den anklagede eller om afgørelser i tidligere sammenlignelige sager.  2) AI kan anvendes til at levere anbefalinger til, hvad der udgør den passende straf i en konkret straffesag. 3) AI kan bruges til at fastsætte den endelig straf, altså til helt at erstatte det arbejde, der normalt varetages af dommere. 
Selvom brug af AI i straffesager måske fortsat kan lyde som science fiction, er det værd at bemærke, at der ikke er tale om muligheder, der tilhører en fjern fremtid. AI-systemer, der kan skaffe let og hurtig adgang til tidligere sager, findes allerede. Kvaliteten af dem varierer i dag meget og er blandt andet afhængig af omfanget og kvaliteten af databaser over tidligere sager. Når det gælder brug af AI til at levere anbefalinger til straf i en straffesag, da er sådan teknologi også allerede blevet indført. Således har Malaysia som et af de første lande introduceret systemer, der giver konkrete anbefalinger i sager om narkotikarelateret kriminalitet samt i voldtægtssager. Det er så op til dommerne at beslutte, om anbefalingerne skal følges eller tilsidesættes. Med hensyn til den sidste mulighed – at erstatte dommere med, hvad der undertiden betegnes som ”robojudges” – da er den ikke taget i anvendelse. Men det er værd at bemærke, at en sådan brug af AI ikke er teknisk mere krævende end et system, der leverer straffeanbefalinger.

Hvorfor introducere AI i strafudmåling?

Hvis man skal introducere ny teknologi ved vores domstole, skal det være, fordi teknologien på den ene eller anden måde bærer nogle klare fordele med sig. En teknologi skal naturligvis ikke introduceres, fordi man kan gøre det, men alene fordi den kan medvirke til at forbedre en praksis. Blandt de potentielle fordele, der i dag undersøges i verserende forskning, kan nævnes følgende: 

(1) Hurtigere sagsbehandling. Kaster man et blik rundt i verden, finder man mange steder alvorlige problemer med sagsbehandlingstider ikke kun i civile sager, men også i straffesager. At der er store efterslæb af sager og dermed forsinkelser i behandlingen, er et stort problem for den anklagede, som kan opleve at befinde sig i en slags limbo med et damoklessværd over hovedet. Det er et problem for eventuelle ofre, der kan finde det svært at leve videre, inden en sag er formelt afsluttet. Hertil kommer en række øgede udgifter, der kan være forbundet med langvarig sagsbehandling. Såfremt AI kan bidrage til at nedbringe sagsbehandlingstiden ved domstolene, vil det derfor være en klar fordel.

(2) Nedbringelse af risiko for bias. Der er de seneste 10-15 år gennemført en lang række videnskabelige studier, der peger på, at der kan forekomme forskellige former for bias i retlige afgørelser. En bias benævner i denne sammenhæng det fænomen, at forhold, der ikke burde spille en rolle rent retligt, ikke desto mindre kommer til at påvirke en afgørelse. En forhåbning er, at brug af AI-baseret teknologi vil kunne mindske risikoen for bias i domstolenes arbejde.

(3) Højere grad af paritet i strafudmåling. Kriminologer har i snart hundrede år gennemført studier i mange lande, der viser, at der inden for samme jurisdiktion langt fra altid er paritet i strafudmålingen. Forbrydelser, der i alle relevante forhold er ens, kan resultere i straffe af forskellig hårdhed. Forhåbningen er, at introduktion af AI-baserede hjælpemidler vil kunne medføre en højere grad af ensartethed i strafudmåling over tid og på tværs af domstolene. 

Risici ved at introducere AI-baseret teknologi

Hvis det viser sig, at der faktisk er hold i de mulige fordele, der kan følge af at introducere AI i domstolenes arbejde, da indebærer dette naturligvis ikke, at en sådan teknologi faktisk bør tages i anvendelse. Sagen er, at der også kan være uønskede sideeffekter ved at introducere ny teknologi. Blandt de risici og udfordringer, der i dag er et voksende forskningsmæssigt fokus på, er følgende:

 (1) At brug af AI-teknologi ikke altid formår at tage højde for usædvanlige forhold og særlige formildende eller skærpende omstændigheder, der kan være i en straffesag. 

(2) At en øget inddragelse af AI-baseret teknologi i straffesager kan ske på bekostning af gennemsigtighed i retsplejen samt begrænse muligheden af at levere fyldestgørende begrundelser for de afgørelser, der træffes. 

(3) At AI-systemer i sig selv kan medføre bias i afgørelserne (det er i dag veldokumenteret, at AI-modeller kan have bias på en række forskellige måder). 

(4) At AI-teknologi vil kunne påvirke den anklagede parts oplevelse af såkaldt ”procedural retfærdighed”, altså oplevelsen af at blive behandlet på en fair måde. 

(5) At AI introduceres præmaturt i den forstand, at man ikke har tilstrækkeligt udbyggede systemer til at overvåge og evaluere teknologien samt til at håndtere eventuelle fejl, som teknologien uundgåeligt vil føre med sig. 

(6) At AI-baserede systemer ikke er tilstrækkeligt gearet til at tage højde for de straffelovsændringer, der løbende foretages fra politisk hold.

(7) At en øget brug af AI i straffesager vil kunne influere negativt på befolkningens tillid til domstolene. 

Vigtigheden af omtanke og forskning

Domstolene anses med rette for kritisk samfundsmæssig infrastruktur. De afgørelser, der træffes i retssystemet, har stor betydning for mange borgeres ve og vel. Det er derfor også afgørende, at beslutninger om at introducere ny teknologi, der på mere eller mindre vidtrækkende vis influerer på retlige afgørelser, ikke træffes forhastet, men på baggrund af en kombination af forskning og praktisk indsigt. Det er forhåbningen, at det arbejde, der i de kommende år vil forestå i forskningscentret CenCAI, vil kunne kvalificere beslutninger om den rolle, AI bør tildeles i fremtidens straffesager.

Carlsbergfondet har bevilget 21 millioner kr. til at åbne verdens første forskningscenter med fokus på de etiske og retssikkerhedsmæssige aspekter af brug af kunstig intelligens (AI) i straffesager.