- Jeg ville aldri stolt blindt på en KI, like lite som jeg ville stolt blindt på meg selv da jeg var nyutdannet fullmektig

Hvilke konsekvenser får det når både søknader, evalueringer og tilbud i økende grad produseres og analyseres ved hjelp av KI?

Med utgangspunkt i både ansettelsesprosesser og offentlige anskaffelser, var det nettopp dette spørsmålet som var gjenstand for debatt i Arendal nylig. 

Når det kommer til rekruttering har verden endret seg på alle måter, ifølge Anne Kathrine Hagen, daglig leder i rekrutteringsbyrået Cruit.

- Et eksempel er at vi er vant til at de fleste kunder kommer til oss og ønsker å erstatte en ansatt som slutter med en ny person som er lik, men det går ikke lenger, slo hun fast.

- Virksomhetene og rollene endrer seg så raskt at det å tro at man skal lete etter den samme kompetansen man har hatt de siste ti årene, og forvente at den vil fungere de neste ti, er urealistisk.

- Risikovurdering er helt essensielt

I panelet satt også Føyen-partner Lars Folkvard Giske, Erlend Kristoffersen, industry lead i Orange Business, samt Frederik Duun Norberg, partner i Deloitte.

Samtlige var enige om at teknologi kan effektivisere tidkrevende prosesser, som screening av søknader og kommunikasjon med kandidater. Samtidig advarte advokat Giske mot risikoen for diskriminering og tap av personlig integritet.

- Allerede i dag må man forholde seg til GDPR og gjøre de nødvendige vurderingene etter regelverket. Det handler om å ha kontroll på at teknologien ikke fører til for eksempel diskriminering, sa han. 

- Man må være helt sikker på hvor dataene havner, og hvis man ikke har den kontrollen virksomheten krever, må man vurdere andre løsninger. Risikovurdering er helt essensielt, selv om tjenestene ofte blir tryggere når man betaler for dem.

Den største risikoen ved bruk av KI i prosesser som ansettelser og anskaffelser, er at man kan ende med å ta avgjørelser på feil grunnlag. 

- KI er utmerket til enkle oppgaver som møtebooking eller kommunikasjon om praktiske behov, men når vi begynner med finscreening og evaluering, må menneskene ha kontroll. Innenfor jussen, hvor mye handler om skjønn, kan ikke KI gi en fasit. Den kan gi deg en rask oversikt over et felt, men du må ha kontroll på detaljene selv.

- Kan ligge tynt an

Mengden av direktiver og forordninger som nå kommer fra EU, byr på utfordringer for mange selskaper, fortsatte Føyen-partneren. 

- Selskaper som ikke har et skikkelig tverrfaglig team, med advokater, løsningsarkitekter og domenekonpetanse, risikerer å levere et for dårlig produkt.

Selskaper som ikke har hørt om EUs AI Act, kan ligge tynt an, ifølge Giske. AI Act er EU-regelverket som regulerer kunstig intelligens ved å klassifisere KI-systemer etter risiko og stiller strengere krav til de mest risikofylte.

- Rekruttering og utvelgelse er definert som et høyrisikoområde i loven. Vi som advokater må vite hvilke data en modell er trent på for å forstå risikoen og kunne integrere den på en lovlig måte. Uten den innsikten blir det veldig vanskelig, sa Giske. 

Utarbeider nye standardavtaler 

Panelet var også samstemte om at komplekse vurderinger fortsatt krever menneskelig skjønn, empati og strategisk forståelse, og om at selv om KI gir gode muligheter for skalering, forblir menneskelige relasjoner og formidlingsevne de mest avgjørende faktorene for suksess.

- Vi som advokatfirma kommer aldri til å sende fra oss noe som er tygget gjennom vår KI-løsning uten at vi kvalitetssikrer det manuelt fra A til Å, understrekte Giske. 

- Jeg ville aldri stolt blindt på output fra en KI, like lite som jeg ville stolt blindt på meg selv da jeg var nyutdannet fullmektig. Når det gjelder kontraktsrett, finnes det tusen forskjellige meninger om hva som er den riktige kontrakten. Der vil ikke KI kunne finne en fasit som alle er enige om. 

Det samme gjelder i det offentlige, poengterte Giske.

- Man må tenke gjennom alle stadier. Det er de klassiske prinsippene som gjelder. Nå arbeider vi eksempelvis med å lage nye standardavtaler for staten, for å vurdere hvilke lover og regler som bør inn i den generelle avtaleteksten.