Human Algorithms

Vad är Human Algorithms?

Artificiell intelligens/Machine Learning/Deep Learning är samlingsbegrepp för «intelligenta» eller lärande algoritmer. Algoritmerna är skapade eller tränade (Machine Learning/Deep Learning) av människor eller mänskligt beteende.

Det är detta som vi på Cegal kallar den mänskliga sidan av algoritmer, eller «Human Algorithms». Med «Human Algorithms» fokuserar vi på de mänskliga aspekterna av algoritmerna.

Artificiell intelligens är ett övergripande begrepp för teknologier som gör datasystem «intelligenta» i den meningen att de kan lösa problem och lära av sina egna erfarenheter. Idag är Machine Learning (maskininlärning eller lärande programvara) en av de mest kända och använda teknologierna.

På ett förenklat sätt handlar det om att använda matematik, statistik, regler, datavetenskap, neurologi och lingvistik för att samla in, systematisera och känna igen mönster i stora datamängder.

En algoritm är en sekvens av operationer som används för att lösa ett eller flera problem. Mer noggrant uttryckt är en algoritm en följd av matematiska ekvationer med en logik och hierarki. I en dator är en algoritm i grund och botten en serie kommandon som utförs för att utföra en uppgift.

Nu är det dags att lyfta fram den mänskliga sidan av algoritmer. Eftersom algoritmer (i detta sammanhang) är avancerade dataprogram, kan det vara lätt att tänka på dem som objektiva eller sanna.

Ibland kan algoritmerna genomskåda våra fördomar och fatta bättre beslut än människor. Ibland förstärker algoritmerna våra fördomar antingen genom att vi har programmerat dem på ett visst sätt eller genom att vi har lärt dem med våra egna fördomar, eller en kombination av dessa.

Här är tre exempel på detta:

1. De första algoritmerna för ansiktsigenkänning (Machine Learning) hade svårigheter att identifiera ansikten med färg eller mörk hy eftersom de som utvecklade dem var vita och datasetet som användes för att träna algoritmerna inte var tillräckligt mångsidigt. Med andra ord, datasetet bestod främst av bilder på vita personer. Läs mer om detta i en artikel från The New York Times >
   
   
2. Apple-kort och kreditvärdighet: En dansk utvecklare upptäckte att han fick en kredit som var 20 gånger högre än sin fru, trots att de hade nästan identisk ekonomi och hon hade en högre kreditvärdighet än honom. Denna könsobalans kan bero på snedvridning i det datamaterial som användes för algoritmerna. I det här fallet tränades modellerna på historisk kreditdata från 1970-talet, utan att ta hänsyn till kvinnors ekonomiska oberoende. Läs mer om ämnet i denna artikel från The Washington Post >
   
   
3. Microsofts artificiella intelligens-chatbot Tay och dess kusin Rinna utvecklade sig på olika sätt. Tay, som lärde sig av amerikanska Twitter-konton, blev snabbt rasistisk, citerade Hitler, förnekade Förintelsen och utvecklade en obehaglig personlighet, vilket ledde till att Microsoft var tvunget att ta bort Tay från nätet. Å andra sidan, Rinna, som tränades i Japan, talade positivt om Hitler, kritiserade Microsoft, men var överlag positiv och trevlig, innan "hon" plötsligt gick in i en "tonåringsdepression".. Tay och Rinna är omtalade på många platser på nätet, bland annat i den här artikeln från techcrunch.com >

Den mänskliga aspekten eller snedvridningen av algoritmerna gör att vi behöver mäta och testa dem för att skapa dem bättre och rättvisare. Hur gör vi det?

• Granska data och resultaten från träningsprocesserna. Korrigera eventuella snedvridningar i datamaterialet.
• Identifiera potentiella snedvridningar i förväg.
• Träning och testning med syntetiska data.
• När algoritmerna utvecklas är det av stor vikt att ha en diversifierad skapelseprocess. Teamen bakom dem bör bestå av individer med varierande bakgrund, kön och ursprung för att säkerställa en bred och inkluderande synvinkel.
• En förbättring av regelverket överlag skulle kunna vara att testa algoritmer på ett liknande sätt som samhället testar mediciner.

Cegal och Human Algorithms

Vi på Cegal har konsulter inom olika machine learning-projekt och lösningar för artificiell intelligens. Vårt team av Data Scientists stödjer våra kunder genom att skapa skräddarsydda lösningar för machine learning och analys.

Möt en av våra Data Scientists, Anais, och se vad hon har att säga om Human Algorithms > 

Läs mer om Cegals tjänster inom Data och Analys >