Med stort flertall satte EU-parlamentet onsdag sitt godkjentstempel på EUs nye KI-lov. Den skal blant annet sette stopp for masseovervåking.
523 av parlamentets 705 representanter stemte ja til forslaget, mens 46 sa nei og 49 stemte blankt.
EUs regelverk for kunstig intelligens (KI) regnes som det første i verden i sitt slag. Nå må loven gjennom en formell godkjenning i EUs ministerråd før den kan tre i kraft, noe som ventes å skje i 2025.
Da kommer EU til å ha et overgripende regelverk for all teknologi rundt kunstig intelligens. Selskaper som bryter loven, kan vente seg saftige bøter på opp til 7 prosent av deres globale omsetning.
– EU leverer
Ifølge tjenestemenn i EU vil regelverket på den ene siden beskytte borgerne mot mulige farer som masseovervåking, og samtidig sørge for å bygge opp under innovasjon og teknologiutvikling.
– EU leverer. Ikke noe hvis, men eller senere, sier representanten Dragos Tudorache, som har vært ansvarlig for å få lovteksten gjennom EU-parlamentet, ifølge AFP.
– EU setter nå en global standard når det gjelder troverdig KI, istemmer EUs kommissær for det indre markedet Thierry Breton.
Det danske EU-parlamentsmedlemmet Christel Schaldemose mener at den nye loven blant annet vil beskytte barn mot negative konsekvenser av kunstig intelligens.
– Vi var altfor trege med å regulere sosiale medier. Det går i høy grad ut over barna våre, sier hun ifølge nyhetsbyrået Ritzau.
Fire risikokategorier
Grovt sett deler den nye loven dagens KI-systemer inn i fire risikokategorier, med minimal og uakseptabel risiko i ytterkantene. De fleste KI-tjenestene ventes å havne i midten – med enten begrenset eller høy risiko.
Eksempler på sistnevnte er å bruke KI innen transport og ansettelser, mens begrenset risiko handler om krav til innsyn, at man har krav på å vite om et bilde eller video er KI-generert, såkalt deepfake, eller om det er en KI-tjeneste man snakker med.
Høyrisiko KI-leverandører må heretter gjennomgå risikoanalyser før produktene kan sendes ut på markedet.
Uakseptabel risiko, som EU nå setter en stopp for, gjelder blant annet sanntidsovervåking med ansiktsgjenkjenning og KI-systemer for å sette sosiale «poenger», som blant annet finnes i Kina.
Det blir også forbudt å bruke KI i systemer som bruker biometrisk informasjon til å kartlegge rase, religion eller seksuell orientering.
EU-kommisjonen overvåker ChatGPT
De ulike områdene skal overvåkes av landenes myndigheter. Unntaket er generell KI som ChatGPT.
Slike tjenester kommer EU-kommisjonen selv til å overvåke fordi de per definisjon er grenseoverskridende, sier den svenske juristen innen medierett Daniel Westman til nyhetsbyrået TT.
– Markedsledende aktører som Open AI har mulighet til å svelge dette, men mindre programvarebedrifter, som er vant med å eksperimentere, må nå ha et systematisk sikkerhetsarbeid, sier han.
Kappløp med utviklingen
EU har gjennomført en real sprint for å holde tritt med en rasende utvikling på KI-feltet.
Allerede i 2021 foreslo EU-kommisjonen et regelverk. Men etter at tekstgenereringsmodellen ChatGPT inntok markedet, har det vært nødvendig å bruke tid på å samkjøre lovteksten.
I desember i fjor ble det enighet om et sett kjøreregler. Men deretter gikk Frankrike og Tyskland et skritt tilbake i frykt for at lovverket ikke var solid nok.
Lobbyister advarer på sin side om at de nye reglene er uklare og kan bremse utrullingen av nye KI-tjenester i Europa.
– En riktig gjennomføring er derfor avgjørende for å sikre at AI-regelverket ikke legger en for stor byrde på selskapene, sier Boniface de Champris fra en av de største tech-lobbyistene, CCIA Europe, til AFP.
(©NTB)
