ARTIFICIELL INTELLIGENS Prästdagar i Lund

Artificiell Intelligens (AI).

Det här är alldeles för svårt. Det överskrider min fysiska intelligens... men jag skall försöka.

Biskop Johan har under två dagar sammankallat Lunds stifts präster till teologiska överläggningar kring temat Artificiell Intelligens (AI).
Vi är nog många som länge har undvikit ämnet, men det går inte längre.

Teologer är experter på existentiella frågor, men inte alltid lika skärpta vad gäller digital teknik, och ännu mindre artificiell intelligens.

Självkörande bilar, robotar inom sjukvården som ställer diagnoser, robotar i hemmet... Detta är bara början på den fjärde industriella revolutionen, där den första var ångmaskinen, sedan elektriciteten, därefter elektroniken och nu den artificiella intelligensen.

Robotar i hemmet.

Biskopen har i en artikel i DN ställt frågan:
- Det handlar inte om vad vi kan göra, utan vad vi bör göra.

Nu har utvecklingen gått så fort och så långt att många forskare ställer sig frågan:

- Vad är en människa? Egentligen? Går utvecklingen av AI mot en ny livsform?

Utvecklingen går oerhört fort, och den går vidare oss förutan... om inte vi tar tag i denna kunskap och deltager i samtalet!
Biskop Johan visade hur flera forskare efterlyser det stora samtalet om etik och moral i den nya tekniken med självlärande robotar.

Och nu är vi här.

Jag skall tappert dela med mig av mina anteckningar, som mest består av frågor...
Följ med till AF-borgen i Lund!

Akademiska Föreningen.

Vi inleder som sig bör med den eviga frågan om vad en människa är, med hjälp av en tretusen år gammal text; Psaltaren kapitel 8:

NÄR JAG SER DIN HIMMEL
   DINA FINGRARS VERK
     MÅNEN OCH STJÄRNORNA
       SOM DU HAR BERETT,

VAD ÄR DÅ EN MÄNNISKA
   ATT DU TÄNKER PÅ HENNE?
    ELLER EN MÄNNISKOSON
     ATT DU LÅTER DIG VÅRDA OM HONOM?

DOCK GJORDE DU HONOM NÄSTAN
   TILL ETT GUDAVÄSEN
     MED ÄRA OCH HÄRLIGHET
       KRÖNTE DU HONOM... Psalt 8:4-6.

Är vi underbara?

2012 såg jag regissör Harald Hamrells TV-serie "Äkta människor" - Hubotar - med skräckblandad förtjusning. Här var de mänskliga robotarna en verklighet, och de var nu nära att ha en så pass utvecklad intelligens att de började bli ett hot för de fysiska människorna.

Han var en av de inbjudna föreläsarna, och jag skall återkomma till honom i ett annat inlägg, men jag vill börja med att lyfta fram en annan inbjuden gäst.
Sara Wrige; teknologie doktor i fysik tillika präst i Borås, innehar båda kompetenserna till samtalet om TEKNIK-TEOLOGI.

Hon hjälpte oss att förstå de tre nivåerna av artificiell intelligens:

1. AI kan vara ett allmänt begrepp om "ny teknik" och inrymma allt som är nytt och innovativt.

2. "Svag AI" är de självlärande systemen där en maskin är programmerad att kunna att utveckla det inmatade systemet genom träning.
Exempel är schackspelande datorer, som nu är så skickliga att de överträffar de mänskliga schackmästarna…

3. Tredje nivån är "stark AI" med superintelligens som är så intelligenta att de kan börja liknas vid självständiga väsen.
Där är vi dock inte än, påpekade Sara Wrige, men utvecklingen går rasande fort åt det hållet.

Teknologie doktor och präst Sara Wrige.

En fråga som ställdes var:

- Har vi som kyrka några relevanta berättelser som kan hjälpa oss alla att förstå vad det är som händer med oss i den artificiella utvecklingen?

Jag satt och tänkte på 1 Mosebok 1 där människan äter av Kunskapens Träd.

HERREN GUD LÄT NÄMLIGEN ALLA SLAGS TRÄD SOM VAR LJUVLIGA ATT SE PÅ OCH GODA ATT ÄTA VÄXA UPP UR MARKEN, OCH LIVETS TRÄD MITT I LUSTGÅRDEN, LIKASÅ KUNSKAPENS TRÄD, PÅ GOTT OCH ONT.
1 Mosebok kap 2:9

När vi äter av kunskapens frukt då kommer de bevingade orden från "ormen":

INGALUNDA SKALL NI DÖ, MEN GUD VET ATT NÄR NI ÄTER AV DET, DÅ SKALL ERA ÖGON ÖPPNAS SÅ ATT NI BLIR SÅSOM GUD OCH FÖRSTÅR VAD GOTT OCH ONT ÄR.
1 Mosebok 3:4.

Och så fick människan lämna paradiset, inte som ett straff tänker jag, utan som en konsekvens av kunskapen. Gå nu ut i världen och lev kunskapen...
Där är vi nu!
Och har alltid varit.
Människan är obotligt nyfiken, en ingenjör av Guds avbild... Vi är "såsom Gud" - dock inte Gud själv.

Kunskapens träd?

Sara Wrige fortsatte:

- Den allmänna uppfattningen om AI handlar alltså om teknik. Tänk vilken förändring det blev när kugghjulet uppfanns! Bensinmotorn... pacemaker till hjärtat och så vidare. Hela tiden flyttar vi fram vårt tekniska kunnande och nu är detta väl etablerat.

Det fanns en tid då forskare definierade människan som "den enda varelsen som använde redskap". Idag vet vi att det är fel. Även olika djurarter använder redskap i sin vardag.
Människans svar på livets problem är att söka ständiga förbättringar.

Baksidan med dagens utveckling är att ju större möjligheter vi skapar, desto större bli de även de negativa konsekvenserna, med klimatförstöring och massförstörelsevapen.

Framtidens utveckling medför också nya risker. Tekniken skruvar upp tonläget både vad gäller möjligheterna och konsekvenserna.
Man kan se vår Fantasi + vår Förmåga = som den gudslikhet vi skall förvalta.

Som den teolog och naturvetare hon är poängterade även hon att det är omöjligt att stoppa utvecklingen… men vi ska vara med och styra den tekniska utvecklingen!
Många forskare diskuterar och förordar regleringar av AI. Kan vi vara "realistiska teknik-optimister"?

Olika discipliner måste samtala med varandra! Vi kan inte utelämna varandra i detta livsviktiga samtal! Och vi måste göra det utan förutfattade meningar.

Hur kopplar du??

Hur skall vi då ställa oss till AI i kyrkan?

- Vi kan inte vara oreflekterat rädda och komma med plattityder. Nu är tiden inne för konstruktiva samtal om hur AI kan användas för mänsklighetens bästa.

Hon lyfte fram betydelsen av artificiell intelligens för dem som är utanför den sociala gemenskapen eller har funktionshinder av något slag. Då kan AI vara till stor hjälp att kommunicera och få ett meningsfullt liv.

- Var finns nördens plats i kyrkan?
Sara Wrige menade att det för hennes del av lättare att vara kristen och präst när hon deltog i brädspel än att vara nörd i kyrkan... Det kostar på att dölja sina andra sidor än de teologiska… där behöver vi se varandra bättre!

Nörd i kyrkan?

Vi uppehöll oss kring "svag artificiell intelligens" en stund till.

Även om denna intelligens hos robotar till exempel kan känna igen ansikten, så har den ingen självständig intelligens. Den bara upprepar de algoritmer som är inmatade.
Kommande system kommer att kunna behandla fler typer av in-data och t ex kombinera både bild och text för att avslöja t ex påhittade nyheter.

Men vem har ansvar för en robot med AI? Vem tar ansvar för de beslut/ diagonser som en sjukvårdsrobot fattar?
Vad händer när de självinlärda systemen fattar egna beslut som blir fel?
Hur ska en självstyrande bil avgöra hur den skall väja för att undvika en olycka? Vem tar ansvar för det?
Brukaren? Tillverkaren? Ägaren? Vem?

Och hur besiktigar man en självkörande bil? Hur testar man den? Vad är människans roll i detta?

Om vi kan acceptera "den mänskliga faktorn", kan vi då också acceptera den felande "systemfaktorn"?
Hur kan vi undvika att mata in fel uppgifter?
Om den självkörande bilen räddar fler människoliv än vad vi gör, kan vi ändå acceptera att den kan vara inblandad i dödsolyckor?

Bilbesiktning.

 

Nu började det bli komplicerat...

Sara Wrige fortsatte:

Människan sägs vara skapelsens krona. Men vi är inte längre bäst... Människan har inte evolutionerat mer än i 200.000 år, menade hon, och vi är inte bäst på att flyga; det är fåglarna, inte bäst på att simma; det är fiskarna, inte bäst på att känna lukter; det är hundarna.
Vad är då människans framgång?

Det handlar om en kombination av samarbete, tumgrepp, verktygsanvändning.
Men är vi väsensskilda från andra varelser?

Om tekniken nu gör saker bättre än vad vi gör, vad är människan då??

Vad är vi egentligen?

Ett obehagligt exempel är de autonoma vapensystemen. Sverige har fått kritik för att vi inte velat förbjuda dessa, "eftersom vi inte vet vad det är som skall förbjudas" (?).
Sara citerade Tegmark och Häggström som menade att vår inställning är extremt farlig att låta system själva bestämma i krigssituationer. Mördardrönare finns redan...

Lagstiftning måste styra tekniken och motverka missbruk.
Utan regler kan ingen upprätthålla lagen.
Svåra moraliska beslut ska tas av ett ansvarigt subjekt som går att ställa till svars. Det skall inte överlåtas åt den artificiella intelligensen!!

Teknik, juridik och etik måste gå hand i hand.

Etikprövningsnämndes kansli...

 

Det var en koncentrerad tystnad i AF-borgen bland alla de 400 prästerna. Vi tänkte många tankar och vi insåg allvaret. Och nödvändigheten att vi är med, både som aktörer och etiska samtalspartners.

Jag låter Sara Wrige säga några saker till om "stark AI", som alltså ännu inte finns.
Hon frågade:

- Hur vet du att jag är en människa? Tänk om jag lyfter på en lucka i skallen och visar dig mina sladdar... Får jag ett annat värde då?

Vad händer den dagen då vi skapat robotar som har ett eget system som kan koppla ihop många olika algoritmer att det börjar likna en självständig intelligens. Är de att jämföra med oss då?
Har de ett medvetande då?
Kan de känna känslor?
Vi vet inte ännu. Vår okunskap är ännu stor och vi vet inte om detta kan komma att realiseras.
Kan ett starkt AI utvecklas ur ett svagt AI? Vi har inte svaret.

Jodå.

Till sist.

Vad är teologins roll i allt detta?

Vår "in-data" är texter och tankegods med tusenårig historia.

Jag satt och tänkte på Babels torn, då människorna undrade hur högt de egentligen kunde bygga... kanske ända upp till himmelen... och verkligen bli som Gud?
Är inte detta den eviga berättelsen... om hur vi pressar kunskapen till det yttersta?!

För mig är vårt tids AI vara en avancerad variant av Babels torn. Problemet är att vi inte alls utvecklat vår moral och vårt samvetet vad gäller "rätt och fel" lika mycket som vårt tekniska kunnande.

Prästen och doktorn i fysik Sara Wrige menade att det behövs en helt ny juridik då ett starkt AI tillverkas. Det moraliska ansvaret är mycket stort och vi utsätter oss för enorma risker i dessa möjligheter.
Vill vi verkligen gå denna väg?

Vilken väg skall vi gå?

Trons stora kritiker Stephen Hawkins har uttryck att han är oerhört rädd för denna utveckling. Han menar att vi redan tappat kontrollen.
Om den artificiella intelligensen blir medveten, då har vi faktiskt inte kontroll längre.
Det är ingen garanti att de är goda väsen - vi kan ha matat in algoritmer som kan vändas emot oss...
Slutresultatet kan bli ett annat än där vi började utvecklingen...

Vad är godhet? För vem?

AI förstärker alla våra sidor, både goda och dåliga. Hur förhindrar vi det?

Och vad händer om en självständigt tänkande robot kan känna smärta och lidande? Får vi göra vad vi vill med den? Stänga av den? Är det att "döda" den? Är det bara en maskin, eller är den något mer?
En ny slav-ras?

Ska vi som teologer räkna AI då som "en av dessa mina minsta" som vi måste värna om?

Vilken är vår roll när forskningen nu börjar gå bortom vårt förstånd?
Det är meta-forskningen som forskar på detta... Vi hänger själva inte med.

Frågor att fundera vidare på.

Jag tittade mig omkring bland mina kollegor.
Flera hade slutat lyssna... de orkade inte spänna tanken så mycket.
De ägnade sig istället åt... Facebook... åt artificiell intelligens...


Högst verkliga hälsningar från Helene F Sturefelt,

- antecknare av denna utmärkta genomgång av teknikteologi i Lund, torsdagen den 31 januari 2019.

To be continued…

Upp i det blå? Gråzon...