- Friheten til å holde egne tanker, handlinger og valg for seg selv, er under press

Advokatforeningens leder Siri Teigum holdt torsdag 20. november foreningens årstale foran en fullsatt sal på Grand Hotel i Oslo.

I salen satt høyesterettsjustitiarius, Riksadvokaten, en rekke høyesterettsdommere, domstolsledere, politikere og ledere fra embetsverket, tillitsvalgte advokater og representanter fra akademia.

Årets tale handlet om konsekvensene av digitaliseringen, og har overskriften «Nye systemer, gamle prinsipper - digital infrastruktur og rettslige virkninger: Vi skal bli Norges mest digitaliserte land. Hvilke kvaliteter må vi verne?»

- Tanken er å effektivisere det offentlige, og skape en enklere hverdag for innbyggerne. Men digitaliseringen endrer mer enn det. Samfunnet og livene våre påvirkes på måter som bør skape debatt, innledet Teigum.

Hun viste til at digitaliseringen går fort og endrer mye, og sa at for Advokatforeningen handler det ikke nødvendigvis om å senke farten, men om å styre utviklingen bedre.

- Utfordrer den nordiske rettspragmatismen

Ifølge en rapport fra Riksrevisjonen fra 2024, kan 155.000 av 800.000 årsverk i det offentlige effektiviseres bort som følge av automatisering i offentlig sektor.

Med den automatiserte saksbehandling oppstår det en spenning opp mot den norske lovtradisjonen, påpekte Teigum.

Hun viste til det såkalte Digitaliseringsrundskrivet som pålegger statens organer å gjennomgå alt regelverk og fjerne hindringer som står i veien for digitalisering.

- Vil unngå skjønn

- Målet er teknologinøytrale og digitaliseringsvennlige lover, slik at regelanvendelsen kan settes bort til en datamaskin. For å lage automatiseringsvennlig regelverk, anbefaler direktoratet at det lages detaljerte regler, og at skjønnsmessige vurderinger unngås, sa Teigum.

Men denne ambisjonen utfordrer den nordiske rettspragmatismen - altså den tradisjonen som lar rettsanvenderen beslutte en rimelig løsning i enkeltsaker innenfor gitte rammer, fortsatte hun.

- Entydige lover kan være det beste når man snakker om regler som gir borgerne rettigheter overfor det offentlige, for eksempel i spørsmål om trygd eller bostøtte. Da kan automatisert saksbehandling bidra både til rettssikkerhet og effektivitet. Men på saksfelt hvor det er ønskelig at rettsanvender finner den rimelige løsningen på de konkrete spørsmål som er til behandling, innenfor rammen av rettslige standarder, kan automatisert saksbehandling som gir tilfredsstillende løsninger være vanskelig å etablere.

- Teknologien må forstå verdigrunnlaget 

Advokatforeningen forventer at teknologien blir så god at den tilpasses lovene, og det verdigrunnlaget lovene er bygget på, ikke motsatt, understreket hun.

- Ambisjonen må være at overgangen til bruk av KI skal gjøre det mulig å styrke vår rettspragmatiske tradisjon.

- Masseproduserte MR-brudd

Neste hovedtema for talen var digitaliseringen av forvaltningen. 

Teigum viste til hvor galt dette kan bære av sted: I Nederland - i den såkalte SyRi-saken - tok offentlige organer som NAV, Skatteetaten og lignende i bruk en såkalt system-risiko-indikasjon-algoritme som fant frem til hvilke personer i et helt nabolag som burde undersøkes nærmere.

- Systemet koblet informasjon fra ulike statlige registre og pekte ut en lang rekke enkeltmennesker i fattige og flerkulturelle nabolag. Gjennom et gruppesøksmål ble det slått fast at staten masseproduserte brudd på menneskerettighetene, sa Teigum.

Postmester-skandalen fra UK

Neste eksempel var den såkalte postmester-skandalen fra Storbritannia, som tidligere statsminister Rishi Sunak har kalt «et av de største justismordene i britisk historie».

Postvesenets innføring av IT-systemet Horizon førti til at hundrevis av postmestre feilaktig ble beskyldt for tyveri, underslag og bedrageri.

- Rundt sju hundre personer ble dømt for svindel og underslag. Ifølge BBC kan 13 personer ha tatt sitt eget liv som følge av uretten, fortalte Teigum.

- Regnskapssystemet ble aldri kontrollert av de som hadde ansvaret for det. Det var først etter massiv medieoppmerksomhet at saken sprakk. Pussig nok har vi en tendens til å stole mer på beregninger som gjøres av en maskin, enn de som gjøres av mennesker.

- Skjer feil også i Norge

Også i Norge fører automatiserte prosesser til feil, fortsatte Teigum, og viste til et system kalt Speil, som årlig behandler to millioner søknader om sykepenger. Og ifølge en rapport fra Sivilombudet, kan Speils beregninger være i strid med folketrygdloven, noe som fører til at det kan bli utbetalt både for mye og for lite i sykepenger.

- Kan forvaltningen forbli tillitsverdig så lenge vi er avhengige av at systemfeil oppdages ved behandling av enkeltklager, eller de få forvaltningssakene som kommer til domstolene, spurte Teigum.

Erfaringen viser at det må føres systemkontroll med den digitale saksbehandlingen, i tillegg til sakskontroll, og det er behov for uavhengig kontroll, påpekte hun.

- Dette kan ikke overlates til det enkelte forvaltningsorgan som innfører automatisert saksbehandling basert på digitale løsninger. 

- Vil ha styrket kontroll

Advokatforeningens standpunkt er klart, understrekte Teigum.

- Det er behov for å styrke kontrollen med masseproduksjon av avgjørelser i offentlig sektor. Nye regler om, og investeringer i rettssikkerhet, kontroll og tillit til forvaltningen vil i sin tur legge grunnen for trygge, nye digitaliseringsprosjekter.

I den nye forvaltningsloven som ennå ikke har trådt i kraft, vil parter få rett til en forklaring og manuell kontroll av automatiserte avgjørelser. 

Forvaltningen blir også forpliktet til å dokumentere og offentliggjøre det rettslige innholdet i sine automatiserte saksbehandlingssystemer.

- Det innebærer at det blant annet må dokumenteres hvordan skjønnsmessige vurderinger gjøres. Vi ser på dette som gode tiltak. Loven skal evalueres innen tre år etter ikrafttredelse. Dette er bra, og Advokatforeningen vil selvsagt følge det opp. Målet må være at vi kan ha tillit til at forvaltningens automatiserte avgjørelser er riktige, på samme måte som vi har tillit til at resultatet av blodprøver en maskin analyserer, er riktige, sa Teigum.

- Frihet til å holde tankene for seg selv, er under press

Hennes neste hovedpunkt var at digitalisering og automatisering av offentlig saksbehandling må gjøres med respekt for folks personvern og rett til privatliv.

- Friheten til å holde egne tanker, handlinger og valg for seg selv, er under press. NAV kan nå innhente opplysninger fra blant annet offentlige myndigheter, regnskapsførere, arbeidsgivere, barnehager, banker, leger og psykologer, sa Teigum.

- La oss si at du har mistet jobben og søker om dagpenger. Hvor inngripende vil det da oppleves dersom Nav innhenter omfattende og dypt personlige opplysninger om deg – også fra psykologen din – uten at du har gitt samtykke? Ja, for skårer du over en viss sum i en digital vurdering av risikoen for trygdemisbruk, kan Nav be om journalene fra psykologen din.

Veien til overvåkningssamfunnet er brolagt med gode intensjoner. Det vil alltid være tunge argumenter for å se litt mer, sa Advokatforeningens leder.

- Persondata gir grunnlag for effektive tjenester, gode brukeropplevelser og risikobasert kontroll. Men når beveger vi oss over i et samfunn de færreste av oss ønsker?

Ba om åpning av Lovdata

Utviklingen krever en mer effektiv domstolskontroll med den automatiserte forvaltningen, mener Advokatforeningen.

- Domstolene har det øverste ansvaret for å kontrollere forvaltningen, og myndighet bør aldri utøves på måter som domstolene ikke har mulighet til å kontrollere. En stat i endring bør føle et større ansvar for å investere i domstolene. Jo bedre rustet de er, desto raskere kan feil bli fanget opp, og korrigert, sa Teigum.

Digitaliseringen skaper nye rettssikkerhetsutfordringer, og det er viktig at domstolskontrollen også dekker disse, sa hun.

- Et grep som bør tas med det samme, er åpning av Lovdata. Dette har betydning for privatpersoners egen bruk av dataene for selv å vurdere sin rettsstilling. Og det vil kunne bidra til å skape konkurranse blant private aktører om å utvikle verdiøkende, gjerne KI-baserte tjenester. Tjenester som vi alle, men ikke minst domstolene, vil ha glede av.

I talen kom det også frem at antallet årsverk som ifølge Riksrevisjonens rapport kan forsvinne som følge av kunstig intelligens, ikke stemmer, men at 15.000 av dem som angivelig ville miste jobben, arbeider i barnehager og skolefritidsordninger.

- Det kom senere frem at det var ChatGPT som beregnet tallene.Selv de beste kan gjøre feil om de stoler på KI-generert informasjon, sa Teigum.

Digital identitet: - Staten må ta ansvar

Det siste hovedpunktet i talen handlet om såkalt identitetsforvaltning.

- Digitaliseringen gir oss raske svar. Vi slipper å oppsøke offentlige kontorer, og vi slipper å snakke med noen. Men for å ta i bruk de digitale selvbetjeningsløsningene, må man ha en digital identitet. Staten har i generasjoner tatt ansvar for å gi oss et identitetsbevis i den analoge verden, men gjør det ikke i den digitale, sa Teigum.

I praksis er det BankID, som er utviklet av bankene, som brukes når borgere skal kommunisere med myndighetene.

Men de mange som av ulike grunner ikke kan bruke BankID, opplever digitalt utenforskap, noe som innebærer at man ikke får tilgang til tjenester og velferdsgoder som de fleste av oss tar for gitt, påpekte Teigum.

Så mange som 850.000 mennesker er digitalt sårbare i møte med offentlige, digitale tjenester, ifølge Digitaliseringsdirektoratet.

- Hit har vi kommet fordi staten ikke har tatt ansvaret, men snarere pulverisert det. Utrolig nok mangler det en koordinert og helhetlig digital identitetsforvaltning. 

Antakeligvis er det mer effektivt at eID-en som brukes ved innbyggernes kommunikasjon med myndighetene, driftes av private. Men staten må ta ansvar for å sikre en elektronisk identitetsforvaltning som er tilgjengelig for alle, sa Teigum.

Mangelfull identitetsforvaltning fører også til kriminalitet, sa Teigum, og viste blant annet til DNs artikler om at milliarder av kroner renner ut til kriminelle.

Ønsker debatt om veivalgene

Avslutningsvis stilte Advokatforeningens leder spørsmål om vi burde være mer opptatt av retningen digitaliseringen tar og av hva vi faktisk ønsker å oppnå.

- Burde vi sjekke retningen grundigere før vi fortsetter å løpe? Jeg opplever at myndighetene allerede har endret mål fra å bli verdens mest digitaliserte land, til også å bli verdens best digitaliserte land. Det er bra. Vi opplever at den nye forvaltningsloven, som rett nok ennå ikke har trådt i kraft, også er et skritt i riktig retning med tanke på beskyttelse av vår rettssikkerhet. Det er like bra.

- Jeg håper denne talen kan bidra til oppmerksomhet om mulighetene og debatt av veivalgene, avsluttet Teigum.

Her kan du lese hele talen.