Advokat advarer: KI-tilbud bryter med grunnleggende anskaffelsesprinsipper

Advokat og partner i i Stiegler advokatfirma, Harald Alfsen, har spesialisert seg innen anskaffelsesrett.

Under Arendalsuka deltok han i en debatt om hvordan KI er i ferd med å endre hvordan anskaffelsesprosesser gjennomføres. Bouvet og Atea, som begge er store leverandører til offentlig sektor, ser flere utfordringer og hadde tatt initiativ til temaet.

Inngangen er at KI-bruk i offentlige anskaffelser ikke reguleres konkret verken i nye anskaffelsesdirektiver, EUs nye AI act eller den foreslåtte KI-loven.

- Da jeg selv brukte KI til å generere en analyse av reglene, kunne den erkjenne at det er et «regulatory gap between AI Act and Procurement Directives». Da blir det anskaffelsesloven vi må sette vår lit til, sier Alfsen.

Bryter med sentrale prinsipper

Alfsen påpeker at når tilbudene skrives ved hjelp av KI, blir de ofte svært like. Det mener han bryter med sentrale i prinsipper i anskaffelsesloven.

- Den største bekymringen er at når tilbudene blir like, er det et brudd på nettopp likebehandlingsregelen. Innkjøpere må bestrebe seg på å finne de relative forskjeller i besvarelsene. Ender de med å gi alle samme score, er det et brudd på regelen. Også etterprøvbarhetsprinsippet brytes hvis innkjøper ikke klarer å forklare forskjellene.

Han mener at loven ikke har klart å hente inn praksis på dette området. 

- Som på andre områder som går fort, henger regelverket etter. Mitt forslag i debatten var blant annet at innkjøpere kan bruke konkurransegrunnlaget til å definere egne regler for bruk av KI. Et eksempel kan være å hente inspirasjon fra EU sin AI Act, og kreve at tilbydere merker hva som er KI-generert.

«Dataskraping»

Såkalt dataskraping er et relativt ferskt fenomen innen innkjøpsverdenen:

- Veldig mange innkjøpere har opplevd å få massive innsynskrav fra nye aktører. Bare en aktør har sendt rundt 10.000 krav de siste to år, såkalt dataskraping. Hensikten er å innhente innsendte tilbud, som kan brukes av deres språkmodell til å gjøre modellen i stand til å gi bedre tilbudsforslag på vegne av kunder som bestiller tilbudsbistand.

Flere andre aktører leverer også KI-tjenester for å vinne anbud. Så tilbudsprosessene er i ferd med å forandres, forteller Alfsen.

- Jeg er grunnleggende positiv til bruk av teknologi for tilbudsformål. Det kan brukes til å treffe planken bedre på pris og kvalitet, sier Alfsen.

Videre tror Alfsen at økt KI-bruk betyr mange brudd på reglene om taushetsplikt.

- Innkjøpere står i et vanskelig dilemma. De er selv ansvarlig for å vurdere hva som er taushetsbelagt i tilbud. Tilbyderne kan bare foreslå. Sladder innkjøper for mye, bryter de offentlighetsloven. Sladder de for lite kan de avsløre forretningshemmeligheter. Og bryte taushetsplikten, som kan straffes med fengsel i opptil tre år i grove tilfeller. Hvis dataskraping medfører massive utsendelse av tilbud som ikke er sladdet, er det mange tilbydere som har gitt fra seg forretningshemmeligheter.

- Jeg tror reglene om offentlighet i anskaffelser må justeres for å redusere innsynsbelastningen til oppdragsgivere, og samtidig redusere faren for å røpe forretningshemmeligheter.

Økt bruk av menneskelig dialog

Alfsen peker på flere konsekvenser som KI kan få for offentlige anskaffelser.

- Jeg tror det blir økt bruk av menneskelig dialog i evalueringer, med for eksempel intervjuer, case-besvarelser og demonstrasjoner. Dette for å få frem erfaring, dømmekraft, samarbeidsevner, og hvordan risiko både kan identifiseres, avverges og håndteres. Vi ser at kunder ønsker vår bistand til å forberede seg til slike prosesser.

LES OGSÅ

- KI sparer tid, men gir økt risiko i anskaffelses- og ansettelsesprosesser

Han tror at tjenestekjøp kommer til å ligne mer på ansettelsesprosesser. 

- Jeg tror også at tilbydere vil ha nytte av å be om personlige attester fra tidligere oppdrag, og at innkjøpere bør be om det. Selv om bruk av attest i dag står i reglene om kvalifikasjonskrav, er det ikke noe i veien for å åpne for dette som dokumentasjonskrav i tildelingsvurderingen. Oppdragsgivere må belage seg på å få forespørsler om å utstede attester for utførte oppdrag.

Spår strengere kontroll med kontraktsbrudd

Et annet trekk er at konsekvenser i kontrakten for kontraktsbrudd vil få større fokus, tror Alfsen.

- Hvis tilbudet er vunnet med et skjønnmalt KI-generert tilbud på glanset papir, er utfordringen at kontrakten faktisk også skal leveres.

Dette tror han gjør at innkjøpere raskere må avdekke at oppfyllelsen ikke står i stil med lovnadene, og at det må brukes sterkere lut med eksempelvis dagbøter, utskiftet personell eller produkter, heving og erstatning.

- Disse virkemidlene må inn i kontraktene. Innkjøpere må huske på at det er kontraktsfrihet i Norge, og at vilkårene ikke er en del av anskaffelsesreglene. Dette kan utnyttes, innenfor rimelighetens grenser. Men strammer de for mye, vil interessen i markedet automatisk kjøles ned. Det er ofte en vanskelig balanse, sier Alfsen.