Dataingenjören Melanie Mitchell har befunnit sig i centrum av den amerikanska AI-forskningen sedan 1984. Inom många områden har utvecklingen överträffat förväntningarna, men artificiellt förnuft visade sig vara den svåraste nöten att knäcka.

Melanie Mitchell, professor i datavetenskap, är aktuell med boken "Artificial Intelligence, A guide for thinking humans".Melanie Mitchell är professor i datavetenskap vid Portland State University och en flitigt citerad författare inom artificiell intelligens. Vägen dit började med en doktorandtjänst hos en av AI-forskningens förgrundsgestalter, Douglas Hofstadter i början på 1980-talet.  Som nyutexaminerad matematiker hade hon ingen erfarenhet av dataprogrammering men efter att ha läst Hofstadters numera klassiska bok GEB var hon säker på att det var detta hon ville syssla med.

Från att ha varit ett relativt smalt forskningsområde på universitet och högskolor som få trodde skulle få något större genomslag, så förändrades bilden 1997 när IBM:s schackdator Deep Blue besegrade den dåvarande världsmästaren Garry Kasparov. 2001 gjorde IBM:s Watson detsamma i Jeopardy och AlphaGo och vann med 4–5 över en av de ledande spelarna i Go. Sedan dess har AI-program som Google Översättning och Apples röstassistent Siri blivit en del av vår vardag.

Smartare än en människa

Förväntningarna är höga men också farhågorna. Vad händer när AI:s kapacitet överträffar vår egen?

Generellt kan man säga att AI är bra på smala uppgifter som att spela schack eller att känna igen ansikten men inte på sådant som kräver en allmän kunskap och erfarenhet.

Boken The Singularity is near, som skrevs av Googles utvecklingschef Ray Kurzweils 2005, beskriver ett framtidsscenario där AI utvecklas bortom vår kontroll med ödesdigra konsekvenser för mänskligheten. Ett händelseförlopp som känns igen från många science fiction-filmer.

För att avgöra hur långt bort ett sådant scenario ligger behöver man först definiera vad som menas med intelligens.

– Synen på intelligens som något mätbart har vilselett många människor. Det är ett spektrum och kan användas på många olika sätt. John McCarthy, som myntade begreppet artificiell intelligens 1956, önskade ibland att han hade kallat det något som inte var lika laddat, säger Melanie Mitchell.

AI-forskningen har mycket att lära av den naturliga intelligensen och hur vi människor hämtar in och använder kunskap i vår vardag.

Melanie Mitchell är just nu tjänstledig från sin professorstjänst och sitter i sitt arbetsrum på Santa Fe-institutet i New Mexico.

Komplext att definiera intelligens

– Generellt kan man säga att AI är bra på smala uppgifter som att spela schack eller att känna igen ansikten men inte på sådant som kräver en allmän kunskap och erfarenhet.

För AI är svåra saker enkla och enkla saker svåra, som att dra generella slutsatser utifrån de objekt vi har omkring oss.  Med tillräcklig mängd övningsmaterial kan vi lära AI att känna igen katter i en video på YouTube, men det kräver att en människa tillhandahåller både datan och uppgiften. Hos människan kan redan ett litet barn se skillnad på en hund och en katt även om båda har fyra ben och en svans.

Många förespråkar att människan alltid måste ha sista ordet när människoliv ligger i vågskålen.

En sak Melanie Mitchell förstått sedan hon började forska inom AI är hur lite vi egentligen vet om den mänskliga hjärnan. AI-forskningen har mycket att lära av den naturliga intelligensen och hur vi människor hämtar in och använder kunskap i vår vardag.

– Utvecklingen av våra datorer har varit exponentiell. De har blivit mindre och snabbare. Men mjukvaran har inte genomgått samma utveckling.

Briljerar inom avgränsade områden

Datorer kan i dag inte använda intelligens utanför de områden de är tränade för. Varken Deep Blue eller AlphaGo skulle klara av att spela ett parti Fia med knuff. Att överföra kunskap från ett område till ett annat ligger långt borta. Men kanske går det att hitta nyckeln genom att studera kognitions- och psykologiforskning för att förstå hur den naturliga intelligensen fungerar.

Melanie Mitchell berättar att det finns två läger inom AI-forskningen just nu: de som tror att de kan lösa utmaningen genom att tillföra mer data och de som liksom hon själv tror att man behöver förstå intelligens på ett mer generellt plan för att komma vidare.

Bilkörning kräver snabba beslut

Det vi kallar sunt förnuft är ofta en förmåga att lära av erfarenhet och använda den kunskap vi har i nya situationer.

– AI presterar bra inom områden som schack och Go där reglerna är specificerade. Men i verkliga livet finns inga tydliga regler för hur vi ska agera.

Det förklarar också varför vi inte kommit längre med självkörande bilar trots att experiment pågått sedan 1980-talet.

Förutom medtrafikanter behöver självkörande bilar behöver lära sig avkoda vägmärken, trafiksignaler, skyltar och anvisningar – i alla väder – för att färdas säkert i trafiken.

– Problemet med bilkörning är att vi hela tiden hamnar i nya situationer. När är det rimligt att stanna för ett hinder på vägen: När vi möter en flygande plastpåse eller när det ligger glassplitter på marken?

Som människor vet vi att konsekvenserna av att köra över glasbitarna är värre än att köra på den flygande plastpåsen, men att programmera algoritmer som gör det ställningstagandet är svårare.

En fråga om liv och hälsa

Det finns också etiska dilemman att ta ställning till när man lämnar över beslutsfattandet till algoritmer. Om den självkörande bilen hamnar i en situation där den måste välja mellan att offra passagerarens liv eller köra på fyra fotgängare. Hur ska den välja då? De flesta är överens om att bilen ska offra passageraren eftersom det innebär att minst antal personer kommer till skada. Men om man istället frågar om de kan tänka sig att köpa en sådan bil, så blir svaret nej.

– Många förespråkar att människan alltid måste ha sista ordet när människoliv ligger i vågskålen.

Skulle man kunna lära AI moral?

– Det är svårt eftersom man då först måste bygga AI som förstår konceptet.

Robotikens tre regler

I science fiction-romaner talar man ibland om robotikens tre regler som går ut på att en robot aldrig får skada en människa. Men Melanie Mitchell säger att ”skada” är ett diffust begrepp. På samma sätt som det är svårt att definiera vad som är ett sjyst beteende. Det skiftar från situation till situation och ser olika ut i olika samhällen.

Det finns en föreställning att beslut som fattas med hjälp av AI är helt fördomsfria och rationella. Men det är en bild som Melanie Mitchell vänder sig emot.

– AI är beroende av den data och programmering den har tillgång till. Resultaten behöver sedan tolkas av en människa.

När är det ok att använda ansiktsigenkänning för att identifiera personer på offentliga platser?

Utifrån det övningsmaterial som använts för att utveckla ansiktsigenkänning så fungerar tjänsterna i dag bättre för vita män än för mörkhyade och kvinnor.  Och hur är det egentligen med AI vid anställningsförfaranden?

– Al kan snappa upp statistiska mönster kring saker vi inte planerat. Som vilka efternamn tidigare anställda i företaget har. En människa förstår att den informationen inte är relevant men AI kan inte alltid göra det ställningstagandet.

Transparent AI

Inom EU finns i dag dataskyddsförordningen GDPR som reglerar rätten att på ett transparent och tillgängligt sätt få veta hur ett IT-system gjort en bedömning av ens person, ett så kallat algoritmbaserat beslutsfattande. I praktiken kan det vara svårt att få veta exakt hur ett system för kreditvärdighet eller marknadsföring fungerar och vilken data den haft tillgång till.

Själv raderade Melanie Mitchell sitt konto på Facebook som en reaktion på företagets agerande under Cambridge Analytica-skandalen då det avslöjades att data från 50 miljoner användare samlats in utan tillåtelse.

– Det störde mig. Och jag har faktiskt inte saknat att vara där, jag finns på Twitter, säger hon.

Ansiktsigenkänning och deep fakes

När AI används inom fler och fler områden ökar behovet av lagstiftning som håller jämna steg med utvecklingen i samhället och gör att medborgarna kan känna sig trygga med tekniken.

När är det till exempel ok att använda ansiktsigenkänning för att identifiera personer på offentliga platser? Och hur ska man skydda sig mot manipulation med deep fakes – videor som manipulerats med hjälp av AI så att användaren tror sig se en händelse eller ett uttalande som aldrig ägt rum.

Trots att framtiden rymmer många utmaningar tror Melanie Mitchell att AI kommer erbjuda fantastiska möjligheter för människan. Inte minst inom sjukvården där den kan användas för att diagnosticera patienter och hitta nya behandlingar.

Att vi inom den närmsta tiden skulle få se en ondskefull superdator som HAL i Stanley Kubricks klassiska rymdäventyr 2001: A Space Odyssé är väldigt osannolikt. Men när det gäller artificiellt förnuft och människors användning av AI så gäller det att vara observant och sätta säkerheten först.