ARTIFICIELL INTELLIGENS 2 Robot Pepper

Smarta roboten Pepper.

Teknik-teologi är ett nytt ord som lanserades på prästmötesdagarna i Lund i denna vecka.
Biskop Johan kallade samman alla präster i Skåne-Blekinge till överläggningar om etiken bakom den artificiella intelligensen (AI).

Detta inlägg är en fortsättning på det föregående.

Vi människor är mjuka och sköra, envisa och hårdföra, irrationella och trötta. Vi har begränsad ork och måste äta och sova. Och sköta magen. Vi är så långt ifrån en robot man kan komma!

Drygt 400 personer var samlade i den anrika AF-borgen, Akademiska Föreningen. Det var högsta nivå och kvalitet på föreläsarna, och jag vill strax dela ännu ett föredrag.
Men det står en lustig figur på scenen...

En Humanoid. Edith och Pepper.

Detta är en Humanoid.

Robot Pepper sa "hej" till oss och hans "mamma" Edith berättade att han jobbade på ett sjukhus.
Vi satt skeptiska och lyssnade till vad den här varelsen gör; ledsagar patienter till rätt rum, den kan lyssna tålmodigt och skapar lugn hos den som är orolig.
Pepper kan ta blodtrycket och underlättar för sjukvårdspersonalen och minskar deras stress.

Ja, den här roboten har till och med tjänstgjort som buddhistisk präst... men det gick inte så bra.
Fast om det är Nirvana och utslocknandet som är målet så spelar det kanske ingen roll.

- Nu ska jag sjunga en psalm, sa han stötigt.
Vi skrattade till, generade.
- Tryggarekaningenvara… pfffdm.

Humanoidens fördelar...

Där gick luften ur. Eller elektroniken tog slut. Uppkopplingen dog.
Nej, det är nog ingen risk att vi blir ersatta av robotar i framtiden!

Men vi kände oss gamla, min kollega och vän som satt bredvid.
- Varje generation blir förr eller senare passé, sa han milt.
- Jag vägrar vara passé, sa jag, men jag erkänner att detta är på gränsen till vad jag förmår fatta.

Jasså.

Nu vill jag dela med mig av Maria Hedlunds föredrag. Hon är statsvetare och har forskat på DEMOKRATI OCH ETISKA ASPEKTER AV ARTIFICIELL INTELLIGENS.

Artificiell Intelligens (AI) är till god hjälp för oss inom många samhällsområden; sjukvården, vid kreditvärderingar, inom polisyrket.
Men vad händer när det blir negativa konsekvenser av AI's beslut? Vilken etik skall vara vägledande?
Hur skall detta beslutas?
Och av vem?

Här kom tre livsviktiga frågor på rad, där vi inte har svar.

Hon tog ett exempel hur självlärande AI kan förstärka fördomar.

- Algoritmer sorterar bort kvinnor och blir rasistiskt.
Varför? Det var flest män som sökte dessa arbeten som undersöktes, och då förmerade algoritmerna det.

- Microsoft skapade ett självständigt Twitterkonto - en "bot" som kan agera autonomt - som hette Tay. Den skulle testa konversationsspråk och kopierade det som skrevs på Twitter. Det dröjde inte länge förrän Tay var både rasistisk och totalt korrumperad...
Microsoft fick ta bort Tay...

Biskop Johan har skrivit en utmärkt artikel i DN och ställt frågan:
- Hur skall vi kunna undvika att programmera in vår ondska?

Twitter-boten Tay visar att den artificiella intelligensens maskininlärning kan få svåra konsekvenser. Se upp!
Kriterierna är oklara. Den sorterar människor. Vår ofullkomlighet lurar i bakgrunden.

Förstärker fördomar.

Frågorna bara växer.

Vem är ansvarig för maskinens beslut? Skaparen? Ägaren? Brukaren?

Vilka värden skall vägleda? Vems moral? Vem skall besluta om det?
- Konsekvens-etik? Situations-moral?

Maria Hedlund lyfte fram att Montreaux-deklarationen arbetar med dessa frågor, liksom Future of Life.

Hur komma fram till Vilken moral?

Människor styrs av känslor. Det gör inte maskiner.

Man gjorde ett experiment på nätet där folk fick studera den "Moraliska Spårvagnen".
Hur skulle den agera om en människa dök upp på spåret, eller ett djur?
Vilken moral vill vi att det självstyrande fordonet skall ha?

- Skulle den självstyrande spårvagnen undvika att krocka med människan men offra djuret?
Skulle den väja för unga människor men köra på gamla?
Det var många alternativ men de majoriteten av svaren, från många olika länder och kulturer, menade att kvinnor och barn skulle räddas först.

Den moraliska maskinen.

Nästa exempel handlade om Artificiell Intelligens som ett demokratiskt redskap.
Fungerar det?

AI har ju anklagats för att ha stört politiska val och fejkat resultat. Hur kommer man tillrätta med det?

Är det möjligt att ha AI som en artificiell modell för oss alla? Den skulle kunna representera mig och den kan vara min delegat.
Men.
Vad händer med den demokratiska debatten om roboten redan vet vad jag tycker och vad du tycker...?! Och vem blir ansvarig för resultatet?

Nej, här finns fortfarande en alltför stor okunskap och omognad hos AI, det vill säga oss som utvecklar den...

Val. Vilket val?

Statsvetaren Maria Hedlund tog fram nästa tanke.

Artificiell Intelligens suddar ut gränsen mellan liv och icke-liv.
Hur skall vi förhålla oss till följande:

- Kan en maskin vara levande?
- Vilken moralisk status skall den då ha?
- Har den rättigheter?

EU vill att man ska kunna stänga av en robot - alltså "döda" den.
Eller kan en "elektronisk person" hållas ansvarig för de skador den orsakar?

Saudiarabien har gett en robot medborgarskap... men inte kvinnor... för att visa att de minsann kan mer än bara sälja sin olja.
Och jag tänkte sliriga, svarta tankar där jag satt... att om robotar programmeras därifrån, då - - -

Har vi lättare att acceptera vår egen ondska när vi jämför oss med robotar?

Är det över huvud taget möjligt att göra den artificiella intelligensen moralisk??

Suddar ut gränser.

Det är av yttersta vikt, betonade hon, att vi behåller kontrollen över utvecklingen av AI så att vi inte tappar den.
Sverige behöver utveckla regler för AI.

- Experter står för kunskapen, men de är inte representativa för dem som ska ta konsekvenserna av robotarnas funktioner.
- Moral och etik måste utvecklas i takt med AI.
- Många måste få deltaga i den demokratiska värderingen hur AI skall fungera. Olika röster måste få vara vägledande.

Jag satt klarvaken och helskärpt på min stol.
Runt omkring mig lyste det blått i ansiktet på dem som valde att kolla Facebook istället... alltså de umgicks heller med den artificiella intelligensen än ifrågasatte dess konsekvens. Hick!

Demokratiska processer.

Teologi-tekniken har bara börjat. Eller tvärtom; teknik-teologin är bara i sin linda.

Den där roboten Pepper har jag ingen större lust att lära känna.
Men, kanske även jag kan bli så desperat på vårdcentralen att jag börjar berätta en massa ledsna saker till den snälla roboten som kan lyssna i all oändlighet, och trösta lite.

Frågan är vad den sedan gör med allt det jag berättar... Om den har ett självlärande system som utvecklar sig själv, och jag anförtrodde den en hemlighet, vet alla det i stan sedan?

Tryggarekaningenvaraängudslilladesperataskara - - -

Följ mig. NÄ du!

Fysiskt mänskliga hälsningar från eder privatsekreterare,

Helene Sture Arificiellfelt,

- teknik-teolog i sin linda.