EU vedtok lovforslag mot AI
Skal hindre forhåndsdømming og ansiktsgjenkjenning.
EU har i en tid jobbet med å regulere kunstig intelligens (AI), og nå er unionen ett stort steg videre. Torsdag denne uken vedtok to komitéer et utkast til lovforslag med konkrete forbud mot enkelte typer bruk av AI, og måter å håndtere andre former for AI.
I forslaget er for eksempel sanntidsidentifisering av personer på offentlig sted ved hjelp av biometri bannlyst. Det kan for eksempel dreie seg om ansiktsdata eller hvordan du går, som begge gjør det enkelt for en maskin å gjenkjenne deg. Håndheving av lover basert på forutseende AI skal også være forbudt.
I lovforslaget er det lagt opp til et skille mellom fire ulike trusselnivåer fra AI, der det laveste får fritt leide, mens det høyeste ikke blir tillatt. Mellom der er det ulike grader av reguleringer for å håndtere risikoen.
Forbyr «Minority Report»
Sanntidsidentifisering handler altså om kamera som henger og titter på befolkningen løpende. Også AI-styrt identifisering i etterkant vil være generelt forbudt, men med unntak for der domstolene godkjenner det i alvorlige straffesaker.
Også kategorisering ved hjelp av AI basert på sensitive grupper, så som etnisitet, kjønn og religion vil være forbudt dersom utkastet ender med å bli lov.
Det EU kaller «predictive policing», altså at AI kan forutse hva du gjør og agere på det vil være forbudt. Her tenkes det etter alt å dømme på noe liknende det vi kjenner fra filmen «Minority Report», bare at det er AI-prosesser som baserer spådommene på tidligere oppførsel eller gruppetilhørighet.
Regulerer også sosiale medier
Gruppert under risikofylt bruk av AI havner aktiviteter som kan gjøre skade på folks helse, sikkerhet, rettigheter eller miljøet. Dette er altså blant aktivitetene som EU ønsker å regulere.
Inkludert i høyrisiko-AI regnes også AI brukt til å påvirke i valgkamper og måten sosiale medier foreslår innhold.
Innskrenker ChatGPTs muligheter
Av de mindre risikable, men fortsatt usikre, aktivitetene krever lovforslaget gjennomsiktighet, slik at bruken kan ses i kortene. Det kan innebære å registreres i en database, eller å identifisere alt som kommer ut av prosessen som skapt av kunstig intelligens.
Slik antydes det også at tjenester som OpenAIs ChatGPT kan måtte operere. Heri ligger også forslag om at slike tjenester kan forbys fra å automatisk lage sammendrag av data under opphavsrett som er brukt i opplæringen.
På det siste punktet foregår det stadige diskusjoner på tvers av både musikk, billedkunst og andre felt allerede. Der eksempler på AI-skapte bilder med vannmerker fra bildetejenester har vist at løsningene kan skape bilder som er relativt tett på treningsdataene som er brukt.
Såkalte «AI Act» har ligget på EUs bord en stund. Du kan lese mer om utkastet her:
