Human Algorithms, den menneskelige siden ved algoritmene

Kunstig intelligens/Machine Learning (maskinlæring)/Deep Learning er samlebegreper på «intelligente» eller lærende algoritmer. Dermed kan de få en menneskelig slagside, det vi kaller «Human Algorithms» – den menneskelige siden ved algoritmene.

Kunstig intelligens er et samlebegrep for teknologier som gjør datasystemer “intelligente” i den forstand at de er i stand til å løse problemer og lære av egne erfaringer. I dag er Machine Learning (maskinlæring eller lærende programvare) blant de mest kjente og brukte av disse teknologiene. 

Algoritmer handler om å bruke matematikk, statistikk, regler, informatikk, nevrologi og lingvistikk til å systematisere og gjenkjenne mønstre i store datamengder

Forenklet handler algoritmer om å bruke matematikk, statistikk, regler, informatikk, nevrologi og lingvistikk til å samle inn, systematisere og gjenkjenne mønstre i store datamengder. 

En algoritme er en beskrivelse av en serie operasjoner, som brukes for å løse ett eller flere problem(er). Mer presist; en algoritme er en fortsettelse av matematiske ligninger med en logikk og et hierarki. En algoritme på en datamaskin er i utgangspunktet en utførelse av kommandoer som vil gjøre en oppgave.

Det er nå det er på tide å trekke frem den menneskelige (slag)siden ved algoritmer. Siden algoritmer (i denne sammenhengen) er avanserte dataprogrammer, er det fort gjort å tenke på dem som objektive eller sanne. 

Det er dette vi i Cegal kaller den menneskelig siden ved algoritmer eller Human Algorithms.

Imidlertid, algoritmer er programmerte eller lært (Machine Learning (maskinlæring)/Deep Learning) av mennesker eller menneskelig adferd. Det er dette vi i Cegal kaller den menneskelig siden ved algoritmer eller Human Algorithms.

Noen ganger kan algoritmene gjennomskue våre fordommer og ta bedre avgjørelser enn folk. Andre ganger forsterker algoritmene våre fordommer enten ved at vi har programmert dem inn eller ved at vi lærer dem opp med våre fordommer eller som en kombinasjon av disse. 

Her er tre eksempler på sistnevnte:

1. De første algoritmene for ansiktsgjenkjenning (Machine Learning) var dårlige på å gjenkjenne fargede/mørkhudede ansikter fordi som utviklet dem var hvite og datasettet som lærte algoritmene ikke var mangfoldig nok. Med andre ord, datasettet inneholdt stort sett bilder av hvite.
   
   https://www.nytimes.com/2018/02/09/technology/facial-recognition-race-artificial-intelligence.html
   
   
2. Apple-kort og kredittvurdering: En dansk utvikler oppdaget at han fikk 20 ganger høyere kreditt enn sin kone, på tross av de hadde tilnærmet lik økonomi og at hun hadde høyere kredittrating enn ham. Kjønnsskeivheten kan komme av skjevhet i datagrunnlaget bak algoritmene.
   
   https://www.washingtonpost.com/business/2019/11/11/apple-card-algorithm-sparks-gender-bias-allegations-against-goldman-sachs/
   
   
3. Microsofts kunstig intelligens-chatbot Tay og søskenbarnet Rinna utviklet seg ganske forskjellig. Tay, som lærte av amerikanske Twitter-kontoer ble raskt rasist, siterte Hitler, fornektet Holocaust og utviklet en heller ubehagelig personlighet, før Microsoft så seg nødt til å fjerne Tay fra nettet. Rinna, som ble lært opp i Japan, omtalte Hitler positivt, rakket ned på Microsoft, men var stort sett positiv og hyggelig, før «hun» plutselig gikk inn i en «tenåringsdepresjon».
   
   Tay og Rinna er omtalt mange steder på nettet, blant annet her:
   
   https://techcrunch.com/2016/03/24/microsoft-silences-its-new-a-i-bot-tay-after-twitter-users-teach-it-racism/

Den menneskelige siden eller skjevheten ved algoritmene gjør at vi må måle og teste algoritmene for å gjøre de bedre

Denne mulige menneskelige siden eller skjevheten ved algoritmene gjør at vi må måle og teste algoritmene slik at vi lager dem bedre og rettferdige. Hvordan?

• Analyse av data og resultatene fra treningene. Korriger dataene hvis det er en skjevhet.
• Oppdag mulige skjevheter i forkant.
• Opplæring og testing med syntetiske data.
• Mer mangfold når algoritmene utvikles. De må lages av team sammensatt av folk med ulik bakgrunn, kjønn, opprinnelse osv.
• Bedre regelverk generelt. Kanskje algoritmer bør testes slik samfunnet tester medisiner?
  
  

Cegal og Human Algorithms

I Cegal har vi en rekke konsulenter med erfaring fra ulike prosjekter innen maskinlæring og løsninger innenfor kunstig intelligens. Cegal har også flere eksperter innen Data Science. Våre Data Scientists hjelper kunder med å lage skreddersydde løsninger for maskinlæring og analyse. 

Les mer om Cegal sine tjenester innenfor Data og Analytics > 

Dagfinn Ringås holdt et foredrag på tema "Human Algorithms" som du kan se her >

Relaterte ord:

Data Scientist, Artificial Intelligence, kunstig intelligens, maskinlæring, Deep Learning, Chatbot, RPA, Roboter, Machine Learning

Cegal teknologiordbok

Du kan også lese mer om hvordan Cegal definerer ulike ord og uttrykk relevant for vår bransje i vår egen teknologi ordbok>