Slik blir de nye KI-reglene
EUs nye KI-forordning skal rulles ut i løpet av de neste to årene. Dette innebærer at systemer som bruker kunstig intelligens skal kategoriseres etter risiko og kravene til merking blir strenge.
Slik skal KI reguleres
Kunstig intelligens kan øke både kvaliteten og effektiviteten på arbeidsplassen, men har også høy risiko hvis det brukes feil. Nå er EUs KI-forordning på plass, som skal sikre trygg bruk av de nye verktøyene.
– Mange er nok kjent med AI Act, eller KI-forordningen, som ble vedtatt av EU i mars 2024 og skal implementeres de neste to årene. Antakelig vil denne gjelde i Norge fra 2025, og høyst sannsynlig får vi i tillegg noen særnorske regler rundt bruken av kunstig intelligens, slik vi allerede har når det gjelder retusjering, forteller Linn Tidemandsen, rådgiver og kreatør i Involve.
Hun deltok nylig på kurset med den treffende tittelen No Bull§hit, der lovlig bruk av kunstig intelligens stod på agendaen. Frem til i år har det eksistert få reguleringer når det gjelder bruk av kunstig intelligens, men de neste to årene skal den nye KI-forordningen implementeres i alle land i EU.
Formålet med det nye EU-reglementet er å fremme bruk av pålitelig kunstig intelligens, sikre helse, menneskerettigheter og demokrati, og skape like rammer for utvikling og bruk av KI i Europa.
Grad av risiko
Den nye KI-forordningen kategoriserer KI-systemene etter risiko, der systemer som havner i kategori 1 innebærer en uakseptabel risiko, og derfor forbys. Dette er eksempelvis systemer som utnytter sårbarhet eller underbevissthet, eller som benytter biometri som identifiserer mennesker på offentlige steder.
Systemer med lavere grad av risiko havner i de de resterende tre kategoriene, med tilhørende krav til regulering. Kategori 2 innebærer høy risiko for mennesker og samfunn, kategori 3 klassifiseres som begrenset risiko, og kategori 4 har minimal eller ingen risiko, og krever derfor heller ikke noen tiltak.
Åpenhetskrav til leverandører og brukere
I den nye KI-forordningen stilles det strenge åpenhetskrav, både til leverandører og brukere av kunstig intelligens. For leverandørene innebærer kravene at det må komme tydelig frem i de tilfeller kunstig intelligens samhandler med mennesker, og lyd, bilde, video og tekst må merkes dersom det er generert av KI.
Brukere av KI-baserte systemer må på sin side informere berørte personer dersom KI-systemene brukes til følelsesgjenkjenning eller biometrisk kategorisering. Og dersom det tas i bruk KI til å generere eller manipulerer bilde, lyd eller video må dette oppgis og merkes. Det samme gjelder i de tilfeller KI-generert tekst benyttes for å opplyse allmennheten om innhold av offentlig interesse.
Tydelig ansvar
– Noe av det viktigste vi i bransjen kan gjøre er å følge godt med når vi tar i bruk nye apper og hjelpemidler. Vi må være kritiske, og spesielt viktig er det å påse på personvernet ikke trues, forteller Tidemandsen.
Hun er tydelig på at man som bruker av KI må se på helheten, ikke kunstig intelligens alene, men i kombinasjon med åndsverkloven, opphavsrett, GDPR, markedsføringsloven og andre reguleringer som allerede brukes. Ifølge de nye europeiske lovene må tilbyderne av KI-systemer kunne dokumenterer hvor de får læringen sin fra, og som markedsfører har du ansvar for at KI ikke truer andre reguleringer.
– Vi som byrå har ansvar for at det vi lager til våre kunder ikke strider mot noen av disse reguleringene. Vi må for eksempel påse at vi ikke bruker en KI-generert logo som er for lik en eksisterende logo, sier Tidemandsen.
Bruker KI i innovasjonsarbeid
Kunstig intelligens er allerede en stor del av arbeidshverdagen til mange, og Involve har også tatt i bruk mulighetene den nye teknologien gir.
– Vi bruker mye KI i vårt arbeid i dag, spesielt i forbindelse med innovasjonsarbeid og idéutvikling, men også til analyse og innsikt. Det er en fantastisk måte å kickstarte et prosjekt og få tankene i gang, ofte i retninger man kanskje ikke hadde kommet på selv. Men det er et verktøy man må lære seg for å få gode resultater, det er nok av eksempler på dårlig bruk av kunstig intelligens så vi har sikret oss ekspertise internt, sier Tidemandsen.
Hos Involve bruker de også KI til mer tidkrevende oppgaver og research, men arbeidet kvalitetssikres alltid av mennesker.
– Vi har en egen KI-policy med retningslinjer på hvordan vi bruker KI, den gjør at det ikke blir usikkerhet rundt hva og hvordan systemene skal brukes, sier hun.
KI-kampanje for Glasmagasinet
Involve har allerede laget sin første KI-genererte kampanje i samarbeid med Glasmagasinet, der kunstig intelligens ble brukt til å manipulere et fotografi til å vise en modell i tradisjonell bunad som eldes fra ung til gammel.
- – Selv om KI-forordningen foreløpig ikke har tredd i kraft her i Norge, tenker vi det er greit å være føre var og opptre ryddig. Derfor merker vi bilder som er laget med hjelp av kunstig intelligens, og vi orienterer alltid kunden om hvordan vi jobber med KI, forteller Tidemandsen, som ser at kunstig intelligens også har sin bakside.
- – Det lages enorme mengder KI-generert innhold på sosiale medier og mange blir lurt. Det har blitt vanskelig å vite hva som er ekte, så det stilles høye krav til kildekritikk. Men brukt riktig åpner det store muligheter for å heve kvaliteten på det vi kan levere og til å ta i bruk kreative løsninger som ikke mulig tidligere, sier hun.
