Ej blot til lyst – AI skal debatteres
Debatten om AI er aktuel i teaterstykket, The Robot Project, som kognitionsforskeren Kristian Martiny selv spiller en aktiv rolle i. Formand for ATV-Rådet for Teknologi og Samfund, Poul Toft Frederiksen, har taget en snak med ham om behovet for en demokratisk samtale om AI.
Mødet mellem teknologi og menneske er en urfortælling, der går helt tilbage til oldtidens Grækenland. Det er fortællingen om billedhuggeren Pygmalion, der forelsker sig i sin egen elfenbensfigur af idealkvinden. Urfortællingen, som senere gengives i Frankenstein, møder vi i dag i The Robot Project. En teaterforestilling om en mand, der prøver at genskabe sin afdøde bror ved hjælp af AI.
Formand for ATV-Rådet for Teknologi og Samfund, Poul Toft Frederiksen, tog en snak med Kristian Martiny, som er kognitionsforsker og forskningsleder hos Enactlab . I forbindelse med teaterforestillingen foretager han et videnskabeligt studie af tilskuernes forhold til AI. Forestillingen er allerede blevet vist virtuelt fra Aalborg Teater, og de første sæt data fra publikum er kommet ud af den forestilling. Fysisk var der premiere på Folketeatret d 29. maj.
Poul Toft Frederiksen startede med at spørge Kristian Martiny, hvordan pygmalionmyten passer ind i en fortælling om AI.
Kristian Martiny:
Teaterforestillingen handler om mødet mellem teknologi og mennesker. Det fungerer rigtigt godt, for når teknologi kommer på scenen, så giver det masser af respons. Publikum elsker det. Som kognitionsforsker er det interessant, fordi jeg synes det er spændende, når mennesker forholder sig til noget. Det er især interessant at kigge på kunstig intelligens til forskel fra anden teknologi, fordi kunstig intelligens har sin egen agens og handlekraft. Det gør, at forholdet mellem menneske og teknologi bliver dynamisk og spændende at se på.
Pointen i vores forestilling er, at robotten aldrig bliver menneske. Problemet er, at den kunstige intelligens fjerner den døde brors fejl, f.eks. de psykiske lidelser som han kæmpede med i sit liv. Lærdommen er, at man ikke kan gøre den kunstige intelligens levende. Det skaber et fundament for en efterfølgende samtale med publikum om forholdet mellem mennesket og kunstig intelligens.
Poul Toft Frederiksen: Det er fordi, vi har svært ved at definere den unikke menneskelige faktor i beslutninger. Hvis vi kunne definere den, kunne vi skrive en algoritme, og den ville ikke længere være unik. Derfor er det også afgørende, at vi får en debat om kunstig intelligens. Vi kan nemlig slet ikke se enden på, hvordan det vil påvirke mennesker og samfund.
I Kina ser vi for eksempel algoritmer, der giver sociale point, og som de facto har overtaget noget magt fra kommunistpartiet. I Silicon Valley ser vi techgiganter og enkeltpersoner, der har en magt, der er uset i verdenshistorien. Vi ser, hvordan kunstig intelligens bliver brugt til at manipulere mennesker for profit. Så står vi i Europa og spørger os selv, om der mon er en tredje vej.
Det er den vej, vi forsøger at bane. ATV har jo som fokus, at hvis vi skal have et solidt velfærdssamfund, så skal vi have masser af teknologi. Derfor skal vi være med, men vi skal gøre det på en ordentlig måde. På en måde som er i overensstemmelse med vores grundværdier, og hvor det handler om, at teknologien skal være til bred samfundsnytte.
Vi skal have en debat
Kristian Martiny:
Jeg har det på samme måde. Det skal give mening for os alle sammen, det skal ikke bare give mening for Facebook. Da jeg var i USA for flere år tilbage i forbindelse med min forskning, blev jeg opmærksom på, at de store techvirksomheder har en virkelig god forståelse for, hvordan kognition, intelligens og bevidsthed hænger sammen. Men kan sammenligne dem lidt med tryllekunstnere. Fordi de lægger information lige under bevidstheden, så mennesker ikke opdager det, men mennesket handler på det. Det gjorde mig interesseret i kognitive biases, hvordan de store techgiganter nudger os til at gøre det, de vil have, vi skal gøre. Men vores bevidsthed var jeg usikker på. Derfor fik jeg også lyst til at spørge danskerne, hvordan de oplever AI, og hvad de tænker.
Sådan fordeler bekymringen for AI sig blandt publikum. Data er fra Enactlab og er foreløbige.
- 45%: AI som beslutningstager
- 23%: Mangel på følelsesmæssig intelligens
- 20% Arbejdsproces
- 4%: Konceptuelt problematisk
Det er det spørgsmål, som projektet her forsøger at besvare. Ud fra de besvarelser vi allerede har fået ind, tegner der sig allerede et billede. Overordnet set, så synes langt størstedelen af publikum, at kunstig intelligens er godt, når vi skal forbedre velfærd. Men der er tre områder, som umiddelbart bekymrer publikum. Det ene er ansvar. De er bange for, at vi kommer til at overlade vigtige beslutninger og dermed ansvaret til en kunstig intelligens. Det andet er det følelsesmæssige aspekt. De ønsker ikke de varme hænder erstattet af en kunstig maskine, som ikke har den følelsesmæssige intelligens. Det sidste punkt er arbejdsprocessen, som handler om usikkerheden om, hvorvidt AI arbejder ud fra en begrænset mængde data - at AI ikke arbejder transparent og at data kan blive misbrugt.
Poul Toft Frederiksen:
Jeg kommer til at tænke på en stor dansk bank, som er begyndt at benytte AI, når de skal kigge på lånebevilling. Det fungerer rigtig fint nu som rådgivning og beslutningsstøtte. Men om 10 år er det mere usikkert. Mennesker bliver jo ikke opgraderet. På et tidspunkt vil vi konstatere, at AI kan mere end mennesket, og så frygter jeg, at vi kommer til at tilsidesætte den menneskelige beslutningskraft til fordel for AI. Derfor vil ATV gerne sætte gang i en bred folkelig debat, så vi som borgere kan stille krav. Og vi som ingeniører tager et etisk ansvar. Jeg mener f.eks., at vi bør have et ingeniørløfte på linje med lægeløftet.
Kristian Martiny:
Det er faktisk en rigtig god ide. Der skal lovgivning inden for det her. Tech er overalt, og udviklingen sker eksponentielt, mens udviklingen af menneskelige etik og moral går langsomt. Men det vi vil med teaterforestillingen er at finde ud af hvad vi skal lovgive omkring. Jeg vil gerne høre hvad publikums oplevelser og overvejelser er.
Og fra vores streamede forestilling har vi fået en god start. Der var mere end 3000, der så det, hvilket fortæller mig, at de moralske spørgsmål omkring teknologi er noget, som interesserer danskerne. Folk vil enormt gerne snakke om det. Kulturprodukter har altid været en god indgang til at få folk i tale. Med teaterforestillingen skaber vi en debat nedefra, fra personers levede liv. Det tror jeg er vigtigt.
Poul Toft Frederiksen
Det her er et af de vigtigste politiske emner vi har. Det er det, der kommer til at forme samfundet mere end noget andet. Lovgivning er og skal være en tung og langsom proces, men imens løber de store techvirksomheder i cirkler rundt om Vestager & Co. Så det er derfor det er vigtigt, at vi har debatten. Så vi hver især tager stilling, og hver især kan sige til og fra. Der er både et kollektivt og et individuelt ansvar her.
ATV-Rådet for Teknologi og Samfund fokuserer på samspillet mellem teknologi og samfund på tværs af ATV’s temaer.
Rådet arbejder i øjeblikket med at få debatter om ny teknologi i gang med andre målgrupper end ATV’s sædvanlige. I 2020 lavede rådet en tech-julekalender, og i 2021 arbejdes der med at udvikle et ’dilemma’-spil, som kan tages med fx på uddannelsesinstitutioner – eller med hjem.
