- Grensene overskrides når dommere overlater vurderinger til KI-verktøy

Nylig ble det kjent at Gulating lagmannsrett har opphevet en kjennelse fra Hardanger og Voss tingrett på grunn av KI-bruk (LG-2026-143154).

I kjennelsen gjengis ni anførsler fra både tapende og vinnende part som ingen av partene faktisk hadde anført. Samtidig ble en anførsel som faktisk var anført, ikke omtalt i det hele tatt.

Det var Rett24 som omtalte saken først.

Sorenskriveren i Hardanger og Voss tingrett bekrefter at feilen skyldes bruk av KI.

- Det som skjedde var at det ble brukt KI i forbindelse med at kjennelsen ble skrevet. Dommere i norske domstoler bruker dette som støtteverktøy i arbeidet med avgjørelser, men det er selvsagt uansett dommeren som har ansvar for innholdet. Det skal aldri brukes KI til noe vi ikke har mulighet til å kvalitetssikre. I dette tilfellet har det skjedd en feil, sier sorenskriver Anne Østberg Vikøren til Rett24.

Ny KI-lov i California

Domstoladministrasjonen har nylig sendt retningslinjer for bruk av kunstig intelligens på høring, og har som mål å ferdigstille disse innen utgangen av oktober.

I USA er man kommet lenger: I forrige uke vedtok California den første amerikanske loven om advokaters bruk av generativ KI, skriver nettstedet Bloomberg Law.

Loven (SB 574) forbyr advokater å delegere utøvelsen av advokatvirksomhet til KI, og setter begrensninger på hva slags type informasjon som kan legges inn i et KI-verktøy med åpen tilgang. I slike verktøy er det forbudt å legge inn konfidensiell eller personlig informasjon.

«Loven krever at advokater verifiserer alle henvisninger før de leverer prosesskrifter til retten, inkludert de som er generert av KI-verktøy, og at minst én advokat signerer hvert rettsdokument med sitt eget navn, med mindre parten representerer seg selv uten advokat. Den krever også at advokater opplyser om når de har brukt generativ KI til å utarbeide dokumenter som leveres til domstolene», ifølge Bloomberg Law.

- Vi trenger tydelige regler

Advokat Christian Reusch, partner i Simonsen Vogt Wiig og tidligere mangeårig leder av Advokatforeningens lovutvalg for sivilprosess og voldgift, mener at vi i Norge bør ha tydelige regler om bruk av KI i domstolene, men tar ikke til orde for en egen lov.

- Det er ikke opplagt at det må være en formell lov.  Tradisjonen hos oss har i stor grad vært at slike normer fastsettes i det profesjonsetiske rammeverket, så vel for dommere som for advokater, og ikke detaljeres direkte i prosesslovene. En ulempe med bestemmelser i formell lov på et område som er i så rask utvikling, er at den fort blir hengende etter, sier Reusch.

Norske domstoler står ikke uten rettslige rammer i dag, påpeker han.

- Kravene til forsvarlig saksbehandling, kontradiksjon og begrunnelse gjelder også når KI brukes. Dommeren har ansvaret for avgjørelsen uansett hvilke hjelpemidler som benyttes.

Det vi trenger, er tydelige og felles rammer for hvordan disse kravene skal ivaretas i praksis, understreker Reusch.

- Hvilke verktøy kan brukes, hvilke opplysninger kan legges inn og hvordan skal resultatene kontrolleres? Gjeldende etiske regler for dommeratferd fanger ikke opp dette. Domstoladministrasjonens utkast til veileder om KI i retten, som nå er på høring, er et klart og nødvendig skritt i riktig retning. Opplæring og gode kontrollrutiner er like viktig som nye regler, mener han.

- Systemet kan påvirke substansen i avgjørelsen

- Hvor går grensen, etter din oppfatning, mellom bruken av KI som nyttig hjelpemiddel og KI som utfordrer juridisk uavhengighet?

- Jeg synes grensen i dag overskrides når dommeren overlater vurderinger til KI-systemene, eller bruker systemene for å innhente informasjon om fakta og rettsstoff som ikke er selvstendig kontrollert. Systemet vil da kunne påvirke substansen i avgjørelsen, sier Reusch.

Han mener at det ikke er tilstrekkelig at dommeren leser gjennom en velformulert tekst og konstaterer at konklusjonen ser riktig ut.

- Da har man i realiteten gitt utenlandske tek-selskaper innflytelse over hvem som får rett i norske domstoler. Det tror jeg ingen ønsker. Her må vi også huske på at vi ikke vet nøyaktig hvordan teknologien virker, samtidig som vi vet den er ladet med en rekke skjevheter på grunn av treningsmaterialet.

DAs veileder: - Dommeren har det fulle ansvaret

I utkastet fra Domstoladministrasjonen til veilederen for bruk av generativ KI i dømmende virksomhet, heter det at bruk av KI i dømmende virksomhet forutsetter at dommeren hele tiden har full kontroll over sakens faktiske og rettslige premisser.

«Dommeren har det fulle ansvaret for vurderinger, premisser og avgjørelser, og dette ansvaret kan ikke deles med eller overlates til teknologiske verktøy. KI kan være et hjelpemiddel i arbeidet, men aldri en erstatning for dommerens egen forståelse, vurdering og begrunnelse.»

- Domsskrivning innebærer særlig risiko

Det ti sider lange utkastet til veiledning har blant annet et eget punkt om særlig risiko knyttet til bruk av KI i domsskrivning.

«Bruk av KI i forbindelse med domsskriving innebærer særlig risiko, fordi feil kan få store konsekvenser for rettssikkerheten og tilliten til domstolene. KI skal ikke brukes til å ta avgjørelsen eller til å erstatte dommerens egne vurderinger. Eventuell bruk bør avgrenses til støtte i skrivearbeidet, for eksempel ved utforming, strukturering eller språklig bearbeiding av tekst. KI skal ikke foreta bevisvurdering, rettsanvendelse eller subsumsjon, og må ikke brukes til å avgjøre hvilke faktiske eller rettslige premisser resultatet skal bygge på. Dommeren skal selv vurdere bevisene, anvende retten og begrunne resultatet.»

Videre heter det blant annet:

«Brede forespørsler, som å be om et utkast til dom basert på dokumentene i saken, kan gi verktøyet for stor innflytelse over hvilke momenter som fremheves og hvordan vurderingene formuleres. En tryggere tilnærming er å ta utgangspunkt i dommerens egen tekst og be om forslag til språklige forbedringer, struktur eller klarhet uten å endre det materielle innholdet.»