Digital inkludering

Hvorfor jobber vi med dette?

I et stadig mer digitalisert samfunn, blir konsekvensene av å ikke mestre eller ha tilgang til digitale løsninger også enda større. Om man skal søke om trygdeytelser eller opprette en bankkonto, blir man oppfordret til å laste ned en app. Selv det å kjøpe en bussbillett krever digital kompetanse. Digitale barrierer gjør at mange ikke kan dra nytte av alle mulighetene som digitaliseringen gir, noe som begrenser mulighetene til å bidra og delta i samfunnet. Dette er et likestillingproblem.

Hvordan jobber vi?

Vi utfordrer og samarbeider med aktører som er ansvarlige for utvikling og bruk av digitale løsninger. For eksempel har vi arrangert en rekke dialogmøter med aktører med ansvar for digitale læremidler i grunnskolen. Vi jobber også med å sørge for at myndighetene får på plass elektronisk identifisering, eID, for alle på høyeste sikkerhetsnivå. I samarbeid med IT-bransjen utvikler vi gode retningslinjer for utvikling av digitale verktøy.

Hva ønsker vi å oppnå?

• At digital teknologi er tilgjengelig for alle, uavhengig av funksjonsevne, etnisk bakgrunn eller alder.
• At universell utforming skal være bygget inn fra start til slutt i utviklingen av digitale løsninger. Dette kaller vi innebygget diskrimineringsvern.
• Økt kompetanse om digital inkludering blant utviklere og innkjøpere av digitale løsninger i både privat og offentlig sektor.

• Se video fra ombudets årskonferanse om digital utenforskap

Kunstig intelligens og diskriminering

Hvorfor jobber vi med dette?

Det siste tiåret har man ved flere tilfeller avslørt at algoritmer og KI-systemer bidratt til diskriminering. Et eksempel er fra Nederland, hvor et KI-system ble brukt til å avdekke trygdesvindel. Systemet utpekte feilaktig titusener av innvandrere som trygdesvindlere, blant annet basert på etnisitet. Dette var systematisk diskriminering ved hjelp av KI, uten menneskelig innsyn eller demokratisk kontroll.

KI-systemer kan predikere fremtidig adferd og persontilpasse tjenester på et nytt nivå. Risikoen for diskriminering er størst der man bruker KI til å ta beslutninger som berører enkeltmenneskers rettigheter og muligheter, for eksempel ved kredittvurdering, kontroll av trygdeytelser, rekruttering eller kriminalitetsbekjempelse.

Samtidig som bruken av KI øker raskt, er det fortsatt lite kunnskap om hvordan KI kan diskriminere, i både offentlig og privat sektor. For eksempel har Riksrevisjonen pekt på at mange statlige virksomheter mangler nødvendig kompetanse, både teknologisk og juridisk, for å sikre ansvarlig bruk av KI.

Hvordan jobber vi?

Diskriminerende bruk av KI kan være vanskelig å avdekke fordi det ofte er vanskelig å få forstå hvordan systemene fungerer. Men når skaden først har skjedd, kan konsekvensene være svært alvorlige. Derfor jobber ombudet med å forebygge diskriminering i KI-systemer. Dette kaller vi innebygget diskrimineringsvern.

• Vi veileder både offentlige og private virksomheter i hvordan man kan forebygge og /avdekke risiko for diskriminering i KI-systemer.
• Vi gir veiledning til enkeltpersoner som har opplevd algoritmisk diskriminering.
• Vi bidrar til utvikling av lovverket i samarbeid med forskningsmiljøer.
• Vi holder foredrag om KI og algoritmisk diskriminering
• Vi gir innspill til politikere og myndigheter

• Les veilederen "Innebygd diskrimineringsvern"

• Les utredningen "Algoritmer, kunstig intelligens og diskriminering"

Hva ønsker vi å oppnå?

For å hindre diskriminerende bruk av KI er det viktig med kunnskap og reguleringer som fremmer ansvarlig bruk av denne teknologien. Vi jobber for

• at myndighetene har nødvendig kontroll på og regulerer bruken av KI, slik at hensynet likestilling og ikke-diskriminering er ivaretatt.
• at alle som er ansvarlige for utvikling og bruk av høy-risiko KI-systemer skal gjøre grundige vurderinger av risiko for diskriminering.
• økt tverrfaglig dialog mellom teknologifag og samfunnsfag med mål om å utvikle gode verktøy for å forebygge diskriminering.

Digital vold

Hvorfor jobber vi med dette?

Digitaliseringen har senket terskelen for å trakassere, true, kontrollere, forfølge, begå overgrep og utpresse folk for private bilder og informasjon på nett. Digital vold omfatter alle former for vold og overgrep som foregår på eller ved hjelp av internett og digitale plattformer.

Bruk av KI har bidratt til å akselerere omfanget av digital vold, særlig mot jenter og kvinner. For eksempel anslår en studie at mellom 90 og 95 prosent av alle pornografiske deepfake-videoer på nettet er laget uten samtykke. 90 prosent av disse videoene viser kvinner.

Å bekjempe digital vold er avgjørende for å sikre likestilling og trygghet i digitale rom. Digital vold forsterker eksisterende kjønns- og maktstrukturer og kan også utløse eller forsterke andre former for vold. Selv om forskningen på feltet er mangelfull, er det sannsynlig at digital vold utløses av de samme årsakene. Med den akselererende teknologiutviklingen er det avgjørende å rette søkelyset på de mange truslene mot likestillingen som digitaliseringen også fører med seg.

Hvordan jobber vi?

Ombudet sprer kunnskap og bevissthet om hvordan vold kan foregå digitalt og samarbeider med sivilt samfunn om forebygging og bekjempelse av denne typen vold. Vi har blant annet uttrykt vår bekymring for utviklingen på internett og i sosiale medium i vår seneste rapport til FNs kvinnekomité. Vi gir også anbefalinger til myndighetene i hvordan forebygge og motvirke kjønnsbasert digital vold.

Hva ønsker vi å oppnå?

Vi jobber for et tryggere internett, og oppfordrer plattformer og politikere til å ta større ansvar for å beskytte brukerne mot digital vold, avhengighetsskapende design og annet skadelig innhold på nett.