Snart kan KI lese tankene dine 

KØBENHAVN:

- Jeg tror mange undervurderer hvor fort utviklingen går. Når myndighetene sier at vi må regulere bruken av Meta-briller, så er det bare en lettvint løsning på et mye større problem.

Det sier advokat og partner i Simonsen Vogt Wiig, Malin Tønseth, som denne uken modererte en samtale om nevrodata på den globale IBA-konferansen som pågår i København akkurat nå.

Tønseth har over 23 års erfaring med rådgivning innen personvern, digital etterlevelse, cybersikkerhet, teknologirett og compliance. KI har vært et «hot topic» lenge - nå mener hun at det er på tide å løfte blikket.

Les mer fra IBA-konferansen

YA møter 6000 advokater fra hele verden denne uken

Temaet under IBA-konferansen, hvor hun bidro som moderator om aktuelle temaer innen immaterialrett, kommunikasjon og teknologi, var personvernlovgivningens neste utfordring i lys av fremveksten av følelsesbasert KI, nevrodata og biometrisk profilering.

Dette er brennhete temaer når OECD i dag legger frem sin anbefaling som grunnlag for politikkutforming på området. 

Blir en ny tankeleser

I personvernkretser har man lenge vært bekymret for bruken av personvernopplysninger, ansiktsbilder og biometri. Det neste er at teknologien vil kunne utlede informasjon basert på en analyse av våre nervebaner, forteller Tønseth.

Hun eksemplifiserer:

- Bruken av såkalt nevrodata innebærer at teknologien vil kunne identifisere humør. Ikke nødvendigvis om man ser glad ut, men den kan registrere nerver med sensorer. Dermed kan den avsløre at noen er lei seg selv om man egentlig smiler. Det kan utlede mer enn det et øye kan se, noe som kan sammenlignes med tankelesing, sier hun.

Hun påpeker at såkalte kvantemaskiner kommer til å bli mer enn ti ganger så smarte som oss, og at det forskes mye på om man kan koble nerveceller til sensorer, slik at vi får såkalte «superbrains».

I september i år kom EGE, European Group on Ethics in Science and New Technologies, en gruppe som leverer anbefalinger til Europakommisjonen, ut med en ny kunngjøring. Denne anbefaler blant annet å definere og styrke beskyttelsen av nevrodata og slutninger utledet fra nevrodata i henhold til EUs personvernlovgivning.

Vi mangler svarene

Er dagens lovgivning tilstrekkelig, og kan teknologien reguleres? Det er ikke sikkert, fordi teknologien utvikles mye fortere enn vi rekker å regulere den, mener Tønseth.

I diskusjonen hun ledet, var det ingen som hadde klare svar, heller ikke blant de mest kompetente, forteller hun.

- Det nærmeste svaret vi kom er at man er avhengig av mange faktorer når man vurderer loven opp mot den teknologiske utviklingen. Det andre var at man kanskje må tilbake til mer grunnleggende etiske spørsmål - det er ikke alt det er mulig å lovregulere seg ut av, oppsummerer hun.

- Dette gjelder særlig i internasjonalt perspektiv, og i u-land som har ekstra mye å vinne på å ta i bruk ny teknologi. 

Hun ser med bekymring på at det i England er sterke politiske krefter i sving for å kutte tilskuddene til Den europeiske menneskerettskonvensjon (EMK), som Tønseth mener gir god personvernbeskyttelse.

- Å bryte grunnleggende menneskerettsprinsipper vil uansett være i strid med konvensjonen, og den er kanskje det beste ytre vernet som finnes. I Europa risikerer vi at vi er de eneste som står som forkjempere for grunnleggende prinsipper, uten å vite om vi får med oss de andre landene.

Kunne gjenkjenne Pink Floyd-sang

Richard Susskind er en av verdens ledende eksperter og mest siterte forskere på hvordan KI vil forandre advokatbransjen, juss og rettsvesenet. Han har særlig gjort seg kjent gjennom sine seks hypoteser om hvordan fremtiden med KI vil utspille seg.

Også Susskind lar seg fascinere stort av nevroteknologi.

Han trakk frem et eksempel hvor hjerneaktiviteten til 29 epilepsipasienter ble registrert.

- Den samme sangen ble spilt for pasientene, før deres hjerneaktivitet ble registrert. De la datasettene inn i et KI-system og ba det om å gjenskape lydene som pasientene hadde hørt. Du kan høre på det på nettet - det er litt uhyggelig, men du kan høre at det er «Another Brick in the Wall» av Pink Floyd, sa Susskind.

Jurister og advokater verden over får ikke nok av KI. Temaet utpeker seg helt tydelig som årets hotte potet under IBA-konferansen, og det kom ikke som noen overraskelse at Susskinds foredrag var et kraftig trekkplaster. Blant poengene hans denne uken var at konsekvensene av KI på kort sikt overvurderes kraftig, samtidig som at konsekvensene av KI på lang sikt, undervurderes.

Han mener at dagens KI bare er det aller siste kapittelet i en historie som strekker seg tilbake til 1950 - året han mener markerer starten for KI. 

- Robotikk interesserer meg. Jeg spår her og nå at robotikk vil oppleve sitt «GPT-øyeblikk» i løpet av de neste årene. Robotene vil bli betydelig bedre. De kan allerede løpe raskere enn Usain Bolt og har slått verdensrekorden i maraton.