Unesco vil ha inn kvinner i utviklingen av kunstig intelligens (KI). De frykter en teknologi dominert av menn. Norges likestillingsombud deler bekymringen.
FNs organisasjon for utdanning, vitenskap og kultur (Unesco) advarer om at det globalt ser ut til at menn har tatt ledertrøya i utvikling av kunstig intelligens. Unesco har derfor opprettet et nettverk av kvinnelige eksperter for å sikre at kunstig intelligens (KI) ikke resulterer i en teknologi som domineres av menn – og utvikles for menn.
– I en tid hvor digitale teknologier endrer hverdagen vår, ser vi at kvinner er underrepresentert i forskningen og utformingen av disse nye teknologiene, understreker Unesco.
Behovene og opplevelsene til kvinner og jenter blir ofte oversett. Dataene som blir brukt til å trene opp KI, ivaretar ikke kvinners behov, men favoriserer mannlige behov, mener organisasjonen.
Likestillings- og diskrimineringsombud Bjørn Erik Thon mener initiativet med å få et kvinneperspektiv inn i KI-teknologien er svært viktig.
– Vi deler bekymringen over at kunstig intelligens utvikles av menn og for menn. Vi har allerede sett mange eksempler på det når ny teknologi utvikles, sier han.
Kvinner sitter mindre trygt i bil
– Mennesker erstattes av maskiner, flere viktige avgjørelser vil bli truffet av en algoritme vi ikke har forutsetninger for å forstå. Men sjansen for at den er utviklet av en mann er overhengende stor, sier Thon.
Han bruker et eksempel fra en annen teknologisektor for å vise hvordan det kan slå skjevt ut dersom det ikke tas hensyn til flere behov.
– Sikkerhetsutstyret i en bil er designet for en viss vekt og størrelse. Det gjør at en kvinne som kolliderer front mot front har 44 % større sjanse for få en moderat nakkeskade, og 79,9 % sjanse for å få en skade i beina, sier Thon, som er sikker på at kollisjonssikkerheten i biler er utviklet av menn.
– Derfor er det viktig å få inn et kvinneperspektiv i starten når KI nå utvikles, men det må gjelde alle grupper i samfunnet – også dem med ulike funksjonshemninger. Aldersperspektiv og etnisitet er også viktig, sier han.
-Skjermer på mobiltelefoner er et eksempel på universell utforming, de som ser dårlig, kan få større kontraster og sterkere lys, men andre kan ha den mer dempet, sier han.
– Universell utforming er bra for alle, derfor er det en vinn-vinn situasjon at teknologi utvikles for alle brukere – og det er derfor viktig at ulike grupper bidrar til utviklingen av ny teknologi – ikke minst KI-teknologien, understreker Thon.
Et presserende behov
Unescos generaldirektør Audrey Azoulay mener det er et presserende behov for å få likestilling i arbeidet med KI.
– Vi må unngå ensidige analyser og heller skape teknologier som tar hensyn til forventningene og behovene til hele menneskeheten, skriver hun i en presseuttalelse.
For å løse problemet har FN-organisasjonen opprettet Women4Ethical AI. Det er en samarbeidsforum som samler 17 kvinnelige eksperter fra akademia, sivilsamfunn, privat sektor og statlige myndigheter fra hele verden, skriver nyhetsbyrået DPA.
Meningen er at forumet skal dele informasjon om forskning og bidra til en informasjonsbank for god praksis. Forumet vil jobbe for ikke-diskriminerende algoritmer og datakilder og dessuten oppmuntre jenter, kvinner og underrepresenterte grupper til å delta i utviklingen av KI.
Kan sementere mønstre
Unesco er bekymret for at utviklingen og bruken av KI ellers vil sementere og forsterke eksisterende kjønnsskjevheter og skape nye.
Dersom KI-teknologien ikke gjenspeiler samfunnets mangfold, er det alvorlig fordi teknologien påvirker hverdagen til alle, påpeker Unesco.
Som eksempel trekker Unesco fram den skadelig effekten det vil ha hvis medisinske diagnoser baseres på innsamling utelukkende fra menn.
Beate Sletvold Øistad, seniorrådgiver og fagansvarlig for KI i Likestillings- og diskrimineringsombudet, sier i en kommentar til NTB at det finnes en rekke eksempler på at kunstig intelligens (KI) reproduserer eller forsterker kjønnsstereotypier og diskriminering av kvinner.
Hun deler Unescos problembeskrivelse fullt ut og jobber med å utvikle veiledning til offentlige og private virksomheter om hvordan man kan utvikle KI som fremmer likestilling og hindrer diskriminering, sier hun i en skriftlig kommentar til NTB.
Få kvinner i bransjen
I dag er det på globalt nivå 25 prosent mindre sannsynlig at kvinner og jenter har kunnskap om hvordan man utnytter digital teknologi til grunnleggende formål enn menn. Det er fire ganger mindre sannsynlighet for kvinner å kjenne til hvordan man programmerer datamaskiner, og 13 ganger mindre sannsynlig at kvinner søker om en IKT-patent.
FN-organet påpeker også at bare 20 prosent av ansatte i bedrifter globalt som jobber med maskinvareteknikk, er kvinner. Antallet faller til 12 prosent når gjelder forskere på kunstig intelligens, og bare 6 prosent jobber som profesjonelle programutviklere.
– Vi må plassere etikk og likeverd i forkant av diskusjonen om KI-styring og forplikte oss til å sette ut i livet etiske anbefalinger som et middel for å beskytte menneskerettigheter, grunnleggende frihet og menneskeverd, understreker direktør for KI og datavitenskap i Shutterstock, Alessandra Sala.
Et politisk spørsmål
Unesco mener at viktige verktøy for å sikre kvinners inkludering og medbestemmelse i alle stadier av KI-livssyklusen, er budsjettbevilgninger og støtte til kvinner innen forskning, akademia og entreprenørskap.
Thon mener spørsmålet i høy grad er et offentlig ansvar og savner interesse fra politikerne.
– V har startet arbeidet med å vurdere nye måter å utvikle teknologi på – blant annet når det gjelder offentlige tjenester. Vi må jobbe både nasjonalt og internasjonalt – og vi må få politikerne med oss, sier han.
(©NTB)
