Ber Domstoladministrasjonen avklare hvilke former for KI-bruk som ikke skal finne sted 

Advokatforeningen har avgitt et høringssvar til Domstoladministrasjonens utkast til veileder for bruk av KI i dømmende virksomhet.

Kort oppsummert mener Advokatforeningen at KI ikke bør brukes til bevisvurdering, rettsanvendelse, subsumsjon eller til begrunnelse av resultatet.

Foreningen er også skeptisk til å bruke KI til å lage sammendrag av faktum, og advarer mot «automatiseringsbias». KI bør ikke benyttes til domsskrivning, mener Advokatforeningen.

- KI vil frigjøre tid til juridisk skjønn

Det ti sider lange utkastet til veileder for bruk av KI ble sendt på høring den 7. september, og tar utgangspunkt i KI-verktøyene som er godkjent for bruk i domstolene, som pr. i dag er de to Microsoft 365 Copilot-programmene Basic og Premium.

I utkastet til veiledning står det innledningvis at KI er et viktig verktøy som domstolene skal ta i bruk på en kunnskapsbasert, ansvarlig og trygg måte.

«Riktig brukt vil teknologien bidra til mer effektive arbeidsprosesser, økt kvalitet, bedre utnyttelse av tilgjengelig informasjon og frigjøre tid til oppgaver som krever direkte juridisk skjønn. Økt bruk av KI er i samsvar med retningen i Fremtidens digitale Norge – Nasjonal digitaliseringsstrategi 2024–2030.»

Det understrekes at bruk av KI aldri skal skje på bekostning av domstolenes uavhengighet, forsvarlig saksbehandling eller informasjonssikkerhet.

Veilederen behandler en rekke temaer, og gir flere eksempler på egnet bruk. 

Vil ha skal-bestemmelser

Advokatforeningen mener det er positivt at bruken av KI i domstolene reguleres, men mener at det er rom for flere forbedringer i veilederen. Den oppfordrer Domstoladministrasjonen til å skille klarere mellom krav som må følges, og på hva som er anbefalinger og hva som er eksempler på mulig bruk.

På flere punkter anbefaler Advokatforeningen at veilederen bruker skal-bestemmelser fremfor bør-anbefalinger.

Her mener DA at KI er egnet:

Veilderen gir konkrete eksempler der bruk av KI er egnet i arbeidet med domsskrivning:

• Utkast til sammendrag av faktum basert på partenes prosesskriv og hva som fremkommer under forhandlingene.

• Korrektur og språklig forbedring av tekst som dommeren selv har utarbeidet og som er ferdig faglig vurdert.

• Strukturering av teksten (for eksempel tydeligere avsnittsinndeling eller overskrifter).

• Kontroll av konsistens (for eksempel at begreper brukes likt og at vurderinger henger sammen).

• Lage en mal for den aktuelle saken basert på tidligere lignende saker, på lik linje med hvordan dommerne ofte bruker tidligere avgjørelser i dag.

Advokatforeningen mener at veilederen kan tydeliggjøre at eksempler på «egnet bruk» ikke er en generell godkjenning av bruken.

Disse lovutvalgene har jobbet med høringssvaret

Lovutvalget for IKT og personvern: Gry Hvidsten (leder) (bildet), Henriette Brochmann, Knut-Erik Jakhelln, Odd Randgaard Kleiva, Ole Martin Moe, Eli Karine Navestad, Torunn Hellvik Olsen, og Kjetil Wick Sætre.

Lovutvalget for sivilprosess og voldgift: Bettina Banoun (leder), Emanuel Feinberg, Mohsin Veysel Ramani, Ole Kristian Rigland, Carl Edvard Roberts og Kari Sigurdsen.

Lovutvalget for strafferett og straffeprosess: Bernt Heiberg (leder), Anders Brosveet, Julie Conradi-Larsen, Christian B. Hjort, Ann Johnsen, Tonje Lilaas Larsen, Stian Mæland, Nicolai Skjerdal, Simen Skjønsberg, Silje Elisabeth Stenvaag og Frode Sulland.

«Egnetheten må vurderes og kontrolleres i det enkelte tilfelle, ut fra oppgaven, sakens karakter, materialets omfang og dommerens reelle mulighet til å kontrollere resultatet», påpeker Advokatforeningen.

- Bør ikke brukes til domsskriving

Slik situasjonen er i dag, bør KI ikke brukes til domsskrivning, mener Advokatforeningen.

«Dette gjelder også språklig bearbeiding og systematisering da slik bruk kan kamuflere materielle eller prosessuelle svakheter og få en dårlig begrunnet dom til å fremstå som mer gjennomtenkt og uangripelig, selv når dommeren har skrevet teksten selv.»

Utgangspunktet må være at dommeren selv utarbeider rettens vurderinger, mener foreningen.

«Advokatforeningen er særlig bekymret for at KI-genererte utkast kan påvirke dommerens egen vurdering gjennom «automatiseringsbias», eller tendensen til å følge svar fra KI-verktøy. Et «velskrevet og tilsynelatende balansert KI-utkast kan sette premisser for den videre analysen, selv om intensjonen bare var å bruke KI som et verktøy.»

Dersom DA likevel åpner for begrenset bruk av KI i domsskrivning, anbefaler Advokatforeningen følgende hovedregel:

«Dommeren skal selv ha utarbeidet og faglig ferdigstilt teksten om rettens vurderinger før KI eventuelt brukes til språklig bearbeiding, struktur eller korrektur. KI bør ikke brukes til å generere utkast til rettens vurderinger eller begrunnelse basert på sakens dokumenter eller forhandlingene. (…)»

Uansett må KI ikke brukes hverken til bevisvurdering, rettsanvendelse, subsumsjon eller begrunnelse av resultatet, anbefaler foreningen.

«Slik bruk kan utgjøre en saksbehandlingsfeil med betydning for dommens gyldighet; de rettslige konsekvensene bør utredes særskilt.»

- Må ikke komme i strid med Grunnloven og EMK

Veilederen bør redegjøre for hvilke krav som gjelder for dømmende virksomhet, ikke bare ha en generell formulering om de «særlige kravene», mener foreningen.

LES OGSÅ:

- Grensene overskrides når dommere overlater vurderinger til KI-verktøy

«Utgangspunktet må være at KI-bruken ikke kommer i strid med blant annet Grunnloven § 95, EMK artikkel 6, tvisteloven § 1-1 og etiske prinsipper for dommeratferd. Domstoladministrasjonen bør analysere de rettslige grensene og angi dem i veilederen, fremfor å overlate avklaringen til den enkelte dommer. Det bør også avklares om og i hvilken utstrekning personopplysningslovens rettspleieunntak i § 2 gjelder ved den aktuelle KI-bruken. Det er særlig viktig fordi veilederen, dersom grensene ikke angis tydelig, kan oppfattes som en legitimering av bruk som går lenger enn det gjeldende og kommende regelverket åpner for.»

- Må få opplæring i risikoen for skjevheter i modellene

Et annet hovedpunkt for Advokatforeningen, er opplæring: Dette må være en forutsetning for bruk, mener foreningen.

«Opplæringen bør dekke hvordan generativ KI og språkmodeller fungerer, herunder at svarene ikke er fullt ut forutsigbare, og at tydelige instrukser ikke i seg selv sikrer et korrekt eller fullstendig resultat», skriver foreningen.

Dommere og saksbehandler må også få opplæringen om risikoen for  skjevheter i modellene, heter det videre.

Utkastet til veileder anbefaler dommerne å spesifisere tydelig i sine instruksjoner (prompter) at KI skal strukturere og oppsummere, men uten å vurdere eller prioritere innholdet for å redusere risikoen for feil.

Dette er ikke godt nok, mener Advokatforeningen.

«Advokatforeningen advarer mot at riktig prompting fremstilles som en tilstrekkelig risikoreduserende mekanisme. KI kan p.t. uansett se bort fra instruksen eller likevel utelate, prioritere eller trekke egne slutninger. Veilederen bør derfor si uttrykkelig at prompting ikke erstatter kontroll av resultatet, og ikke kan begrunne tillit til at modellen har fulgt oppgaven slik den ble formulert.»

- Kan gi overfladisk forståelse

I veilederens punkt om saksforberedelser, heter det at KI kan være et nyttig hjelpemiddel for å skape oversikt og struktur.

«En sentral fallgruve er bruk av KI til å utarbeide sammendrag av saksdokumenter eller problemstillinger uten at dommeren selv har satt seg tilstrekkelig inn i materialet. Slik bruk kan føre til en overfladisk forståelse av saken og påvirke hvilke problemstillinger som fremstår som sentrale», heter det i utkastet.

Sammendrag av faktum bør ikke uten vider fremheves som et egnet bruksområde for KI, mener Advokatforeningen.

«Dommeren må selv sikre at det som fremkom muntlig under forhandlingene, herunder nyanser, presiseringer, innrømmelser og utvikling av standpunkter, reflekteres i avgjørelsen på lik linje med det skriftlige prosessmaterialet. Dette kan være krevende å korrigere i ettertid dersom KI har bygget et sammendrag på prosesskriv, sluttinnlegg og skriftlige disposisjoner», skriver Advokatforeningen.

Vil ha tydeligere kontrollmekanismer

Foreningen mener at veilederen i større grad må beskrive hvordan KI-utkast skal kontrolleres. 

«En kontroll bør som minimum bestå i at faktiske opplysninger, sitater, henvisninger og andre påstander som bygger på kilder, skal kontrolleres mot de relevante primærkildene i sin helhet», mener foreningen. Den foreslår flere praktiske tiltak som kan vurderes.

Veilederen bør også omtale i hvilken grad og på hvilken måte partene skal få opplysninger om KI-bruk i domsarbeidet, foreslår Advokatforeningen. Uten slik åpenhet vil det være vanskelig å kontrollere bruken og vurdere om det foreligger en saksbehandlingsfeil.

- Må slås fast hvilke kontrolltiltak som er obligatoriske

Oppsummert mener Advokatforeningen at veilederen må gi tydeligere og mer forpliktende rammer for bruk som kan påvirke saksforberedelsen, forståelsen av faktum, rettsanvendelsen og utformingen av avgjørelser.

«Det bør særlig fremgå klart hvilke former for KI-bruk som ikke skal finne sted, hvilke kontrolltiltak som er obligatoriske, og hvilke krav som gjelder til opplæring, sporbarhet og åpenhet. Dommeren må selv foreta de rettslige og bevismessige vurderingene, og KI bør ikke brukes til bevisvurdering, rettsanvendelse, subsumsjon eller begrunnelse av resultatet. Ved utforming av rettens vurderinger bør dommeren selv utarbeide og faglig ferdigstille teksten før KI eventuelt benyttes til begrenset språklig bearbeiding.»