Abelia

Innhold

Kommer algoritmene for å ta oss?

Nyhet, Kommentar

Publisert

#005

Foto: Håkon Jøssang og Aftenposten

Kombinasjonen av kunstig intelligens og naturlig dumskap er farlig.

Digitale dilemmaer

Innlegget er den den tredje i en serie om digitale dilemmaer, publisert av Aftenposten og skrevet av Håkon Haugli og Camilla Tepfers.

Serien inngår i vårt arbeid med digitalisering, teknologi og IKT. Les mer om det her

 

Det norske samfunnet har kvaliteter som kan hindre misbruk av kunstig intelligens, men vi må satse før andres algoritmer kommer og tar oss.

Amazon skrotet nylig sitt verktøy for AI-rekruttering.

Modellen viste seg å være kvinnediskriminerende.

EVRY har også forsøkt robotrekruttering. Hos dem resulterte det i at kvinneandelen blant nyansatte økte fra 20 til 33 prosent. Hvorfor ble det sånn?

Fordommer i dataene

Kunstig intelligens burde i utgangspunktet ha en styrke ved at den ikke er beheftet med forutinntatte meninger og fordommer. Til forskjell fra oss mennesker.

Så viser det seg at fordommer likevel kryper inn i dataene som maskinene lærer av.

Når dette kombineres med den dramatiske skaleringsevnen til digitale verktøy, og at ytterst få forstår de underliggende algoritmene som styrer AI-modellene, kan vi se omrisset av en uønsket utvikling.

Det som gikk galt i Amazons tilfelle var at modellen ble fôret med historiske data på vellykkede rekrutteringer. Hos Amazon, som i de fleste teknologitunge miljøer, er menn dominerende. Dette ble raskt gjenkjent av algoritmen. Den konkluderte derfor med at «mann» var et av flere selvstendige suksesskriterier. Eksempelet er ikke enestående, og vi har bare sett begynnelsen.

Når maskinlæring og forsterkning av etablerte (menneskeskapte) mønstre samspiller negativt, kan konsekvensene bli uheldige.

«Matteødeleggelsesvåpen»

Forskere ved Universitetet i Washington har studert Googles bildesøk. De søkte på «CEO» (konsernsjef), og Google viste 11 prosent kvinner, til tross for at 27 prosent av amerikanske konsernsjefer faktisk er kvinner. De søkte på «forfattere» og fikk 25 prosent kvinner, mens andelen kvinnelige forfattere er 56 prosent. Så søkte de på «telefonmarkedsfører». Der viste søkemotoren 64 prosent kvinner, selv om kjønnsbalansen i yrket er jevn.

Boken Weapons of math destruction («matteødeleggelsesvåpen») beskriver en rekke eksempler på hvordan forfeilede algoritmer kan skade samfunnet. Det kan altså være etisk betenkelig å benytte kunstig intelligens til å løse samfunnsmessige problemer. Men det kan også være etisk betenkelig ikke å gjøre det.

Algoritmen var «rasistisk»

Et beskrivende eksempel er bruk av kunstig intelligens for å forbedre resultatene av prøveløslatelse. Basert på strafferegistrene til 7000 personer skulle fare for gjentatt kriminalitet beregnes. Resultatet var en algoritme hvor svarte i større grad var høyrisikopersoner enn hvite.

Algoritmen hadde fått med seg rasefordommer basert på et skjevt datasett.

På den annen side kan samfunnsgevinsten være svært høy. Forskere ved universitetene Stanford, Harvard og Cornell har gjennomført en studie av prøveløslatelser og kunstig intelligens. De har gjort algoritmesimuleringer med meget gode resultater: 25 prosent redusert kriminalitet uten å øke antall arrestasjoner, samtidig som rasemessige skjevheter reduseres.

Vi kan ikke sette utviklingen på vent

Utviklingen innen kunstig intelligens kan ikke settes på pause. Det er ikke mulig å be om betenkningstid, der vi setter utviklingen på vent mens vi får evaluert farer og muligheter i fred og ro. Selv om vi hypotetisk kunne innføre et forbud mot uvettige AI-algoritmer i Norge, eller Europa for den saks skyld, vil vi ikke kunne hindre virksomheter i andre deler av verden i å jage sine mål om å bli verdensledende. Vår passivitet vil snarere fremskynde andres dominans på feltet.

Norge har et godt utgangspunkt for å gripe mulighetene i en digital økonomi. Vi har økonomiske ressurser, et omstillingsdyktig næringsliv og en digitalt kyndig befolkning. Men ingenting skjer av seg selv.

Nei, algoritmene som kommer tar oss ikke

En rekke land har utarbeidet nasjonale strategier for kunstig intelligens. Det har digitaliseringsminister Nikolai Astrup nå kunngjort at Norge også skal gjøre. Det sentrale er imidlertid ikke selve strategidokumentet, men om det aktivt legges til rette for at norsk næringsliv og offentlig sektor kan gripe mulighetene og samtidig adressere utfordringene.

Lurer du på noe? Kontakt meg gjerne:

Fant du det du lette etter?

Fant du det du lette etter?

Gi oss gjerne en kommentar i tillegg - hvordan kan vi forbedre oss? Du er anonym med mindre du oppgir din e-postadresse slik at vi kan kontakte deg.

Takk for kommentaren!

Kommentar sendt

Hei!

Hei!

Vil du få vårt ukentlige nyhetsbrev på e-post?

Avmeldingen er mottatt!

Din e-post:

 

Meld deg på 1 nyhetsbrev: