Dataetikken skal styrkes i Danmark: Brug for bredere faglighed
ATV's Digitale vismandsråd vil sikre en bredere og mere fagligt dataetisk debat i Danmark og har derfor etableret en arbejdsgruppe, kaldet "ATV's faglige dataetiske råd". Rådet ønsker at supplere debatten med bidrag fra datafaglige profiler og at stille skarpt på de gode og fornuftige ting, som algoritmer, data og AI m.m. kan bidrage til. I ATV's faglige dataetiske råd anerkender vi alle fagligheder, vægter diversitet, forståelse for det politiske - med fokus på et fundament af faglig viden om data, algoritmer og filosofi, som er omdrejningspunkt for dataetiske diskussioner.
ATV’s faglige dataetiske råd
Kunstig intelligens og brug af data kan gøre en positiv forskel f.eks. ved diagnosticering af brystkræft, ved forskning i nye lægemidler, forbedring af vandmiljøet og hjælp til udsatte borgere. Men debatter om kunstig intelligens bliver i mange tilfælde fagligt og etisk ensidige, og vi ser, at brug af kunstig intelligens og data stoppes som følge af debatter, som mangler it-faglig dybde. Samtidig er der eksempler på anvendelser af kunstig intelligens og data, som bryder etik og lovgivning, men som ikke stoppes af udvikleren eller af lovgivning. Eksempler er ulovlig deling af private billeder eller Cambridge Analytica-sagen, hvor Facebook videregav mange data, som de ikke havde hjemmel til.
Kan etik og øget brug af AI gå mere hånd i hånd? Og hvordan får vi mere og bedre AI til gavn for et bedre samfund? Der er brug for flere, gode etiske debatter, hvor teknologiens og den IT-faglige stemme er tydelig sammen med andre faglige stemmer.
ATV’s Faglige Dataetiske Råd består af repræsentanter fra ATV’s Digitale Vismandsråd og suppleres derudover af personer med relevans for vigtige debatter.
Bent Dalager, Partner, cand.scient. datalogi, KPMG NewTech, digital vismand, ATV
Jan Damsgaard, professor, Institut for Digitalisering, CBS, digital vismand, ATV
Pernille Kræmmergaard, ph.d., Direktør, DI2X, digital vismand, ATV
Sine Zambach, Adjunkt, Institut for Digitalisering, CBS
Stephen Alstrup, CEO, SupWiz, Professor, Datalogisk Institut, KU, digital vismand, ATV
Sune Hannibal Holm, ph.d. filosofi, lektor, Institut for Fødevare- og Ressourceøkonomi, KU
Vi vil udvide rådet flere medlemmer for at sikre en bred, faglig dialog blandet et medlem med dyb faglig kompetence inden for etik og filosofi.
Beslutningstagere har behov for nuancer i AI-debatten
Vi ser ikke alene en mangel på vilje til at prioritere, at eksisterende lovgivning overholdes, men også stor mangel på IT-faglig kompetence i den etiske debat, udformningen af loven og dernæst opretholdelsen af denne. Senest har Folketinget besluttet at skære ned på midler til Datatilsynet, på trods af industrien, fagforeninger, m.m. anbefaler at opruste Datatilsynet. Som konsekvens heraf sker der dagligt alvorlige brud på loven, og omvendt bliver AI ikke brugt nok til de positive potentialer, som også findes. ATV’s Digitale Vismandsråd nedsætter derfor et fagligt dataetisk råd for at skabe et forum, hvor der kan være en nuanceret debat om kunstig intelligens – på et stærkt fagligt grundlag. Rådet vil bidrage til en faglig solid og konstruktiv debat om AI.
Vi ønsker i rådet etiske løsninger på velfærdsområdet og på medmenneskelige udfordringer. Vi vil på faglig vis forholde os til teknologiernes potentiale, så disse kan fremme velfærd, klima, retfærdighed og medmenneskelighed, og samtidig sætte en stopper for de uetiske anvendelser af kunstig intelligens.
Målet er at igangsætte og deltage i debatter om kunstig intelligens på et bredt fagligt grundlag, og specielt vil vi sikre viden om IT, som i høj grad mangler i debatten.
Den dataetiske debat mangler faglighed
Dataetik synes i det offentlige rum at være defineret som at undgå, at det enkelte menneske kommer til at lide under forkert brug af data. Det vil sige, at den offentlige og etiske diskussion bliver fagligt ensporet til kun at handle om, hvordan vi undgår, at AI kommer til at skade mennesker. Men etik handler i sin grundessens om, hvorledes det kan sikres, at der opnås det gode for samfundet, eventuelt til ulempe for enkelte individer. Vi har som mennesker en etisk fordring om at gøre det gode, ikke blot at undgå det onde. Der skal således være plads til diskussioner om, at AI kan bruges på en måde, som er til menneskers og samfundets gavn.
En ensidig debat med al fokus på at begrænse den teknologiske udvikling uanset gode formål kan gøre, at vi går glip af nogle vigtige digitale redskaber og muligheder, der kan ikke bare understøtte, men også bidrage til at sikre velfærdssamfundet og skabe bedre liv for mennesker, og i nogle tilfælde ligefrem redde liv, som i eksemplet med kræftdiagnosticering eller øge velfærden, eksempelvis at anvende AI til at reducere arbejdsugen til 4 arbejdsdage.
Forestil dig et økonomisk råd uden økonomer
Baggrunden for at nedsætte et Fagligt Dataetisk Råd er, at de fleste råd, som har digitalisering eller data som omdrejningspunkt, udelukkende eller i stor udstrækning ikke består af personer med formelle faglige kompetencer inden for rådets domæne, se oversigter længere nede.
Ser man til gengæld på Det økonomiske råd (https://dors.dk/raad-vismaend/oekonomiske-raad), er der en overvægt af professorer i økonomi. En række medlemmer kommer dog også fra fagbevægelsen.
I modsætning til Det økonomiske råd har det nuværende og allerede eksisterende Dataetiske råd ingen medlemmer, der har en datalogisk uddannelse og få med en teknisk-naturvidenskabelig uddannelsesbaggrund, se figurer nedenfor. Digitaliseringsrådet har medlemmer fra det teknisk-naturvidenskabelige område, men samfundsvidenskabelige tager den største bid af kagen, og dernæst humaniora, hvilket vidner om en fagligt skæv balance.
Dette kan måske være en grund til, at der ofte er en ensidig debat i Danmark, og at der mangler faglige input. ATV’s faglige dataetiske råd ønsker at supplere debatten med input fra en bredere kreds af datafaglige profiler og at stille skarpt på både det gode og fornuftige, som kunstig intelligens og data kan bidrage til, og hvilke uetiske anvendelser der skal forhindres. Fundamentet for, at vi kan anvende data, er, at vi samtidig sikrer, at det sker på den gode måde. Derfor skal fx Datatilsynet opprioriteres og styrkes og ikke nedprioriteres, som det sker lige nu. Rådet vil gerne medvirke til at bevare det danske velfærdssamfund, også i fremtiden. Det at bruge data kan i nogle tilfælde være etisk forkert. Men ikke at bruge data til at redde liv og skabe velfærd kan også være etisk forkert. Der er således altid brug for balanceret stillingtagen.
I det faglige dataetiske råd anerkender vi alle fagligheder, vægter diversitet, forståelse for det politiske - med fokus på et fundament af faglig viden om data, algoritmer og filosofi, som er omdrejningspunkt for dataetiske diskussioner.
Vi lægger vægt på, at AI kan benyttes til at reducere de skadelige virkninger af menneskelige fordomme og bias.
Dogmer for kunstig intelligens og data skal sætte høj etisk og faglig standard
Vi præsenterer i det følgende vores dogmer, som vi mener kan være en ramme for diskussionen om kunstig intelligens i samfundet og mål, som vi kan arbejde med og mod:
De 5 dogmer forklaret
Dogme 1: AI kan styrke demokratiet
Vi vil bidrage til en ny digital oplysningstid, hvor brug af AI og data er med til at forme en demokratisk fremtid, hvor AI og data er understøttende. Det er i denne sammenhæng også vigtigt, at vi sikrer en vidensdemokratisering ved, at børn og unges digitale dannelse styrkes, eksempelvis ved at teknologiforståelse indføres i folkeskolen. Når IT samler vores hverdag, så er det nødvendigt, at borgere ved, hvad IT er for en størrelse.
Dogme 2: AI kan bevare og udvikle velfærdssamfundet
Vi vil bidrage til god velfærd til alle. Det kan kun sikres, hvis vi i højere grad end i dag anvender AI og data til at være supporterende som beslutningsstøtte til sundhedspersonale ved diagnose og behandling samt hjælp til ældrepleje. Derudover er det vigtigt, at vi udvikler og implementer muligheder for helt nye services, der kan støtte de fagprofessionelles arbejde.
Effekten er en forbedring af de fremtidige forhold for de ældre, elever, studerende, syge, etc. Det kræver, at vi opretholder et godt offentligt serviceniveau, og det er kun muligt med øget brug af AI og data fx til hurtigere at kunne udvikle nye behandlingsformer, nye lægemidler, individualiseret undervisning og nye forbedrede behandlinger.
Dogme 3: AI kan styrke klimaet
AI og data er afgørende for, at vi når klimamål og energimål. Her kan digitale teknologier være med at optimere energiforbrug og understøtte bæredygtig produktion.
Dogme 4: AI kan være med til at løse manglen på arbejdskraft
Mange opgaver, der laves i dag, ikke mindst i sundhedssektoren, kan afhjælpes, styrkes eller udføres af maskiner med AI og data. Der er mangel på arbejdskraft i Danmark, og dermed kan vi med fordel tænke AI ind som en effektiviseringsressource, der samtidig giver plads til flere varme hænder.
Dogme 5: AI kan være transparent og retfærdig med minimal (menneskelig) bias
AI kan være et vigtigt supplement i forhold til at sikre transparente løsninger med mindre bias. En veludviklet algoritme vil kunne afhjælpe en stor del af problemet med bias, fx i sagsbehandling, og kan godt være et hjælpemiddel. Et hold af dygtige udviklere med fokus på bias-problematikken kan udvikle understøttende kunstig intelligens, som kan overkomme en stor del af problemet med bias hos den enkelte sagsbehandler. Løsninger med AI og data kan være komplicerede, men AI er forklarlig og baseret på data, mens menneskelige beslutninger kan være simple, men ofte uforklarlige og baseret på mavefornemmelser. Løsninger kan gøres retfærdige, objektive og (næsten) uden bias, mens det tager årtier at ændre på menneskers fordomme, hvorefter nye blot dukker op.
Bemærk at menneskers bias og fejlvurderinger let kommer til at blive gentaget i AI-løsninger, medmindre vi er opmærksomme på det. Så det kræver et konstant fokus at undgå repetition af bias.
Mød ATV's Faglige Dataetiske Råd
Læs mere om medlemmerne her:
Bent Dalager
Bent Dalager er partner i KPMG, hvor han er leder af NewTech i Norden. KPMG NewTech udvikler AI-løsninger, og desuden rådgiver han NewTech om AI, herunder også om AI Etik og AI Compliance. Bent er endvidere global leder af KPMG’s Kvanteteknologi-hub og sidder i KPMG's globale Emerging Tech committee. Bent har over 30 års erfaring som rådgiver af nordiske og europæiske virksomheder og organisationer inden for teknologi i henholdsvis Accenture og KPMG. Bent er uddannet cand.scient. i datalogi med AI/Cognitive Science som fokus, samt bachelor i matematik-økonomi. Begge fra Aarhus Universitet. Desuden HD i virksomhedsledelse, samt kurser på Harvard og MIT. Bent er i bestyrelsen i IT-branchen (ITB) og formand for NewTech Policy Board i ITB. Bent er desuden medstifter af Danish Quantum Community, hvor han også er i bestyrelsen. Bent er endvidere medlem af Finanstilsynets Fintech/AI advisory board. Bent er digital vismand i ATV og medstifter af det faglige dataetiske råd. Bent er medlem af ATV. Desuden underviser han på CBS og Børsens bestyrelsesuddannelse i AI og digitalisering, hvilket han også gør på INSEAD Executive MBA i Fontainebleau. Desuden har han siddet i bestyrelsen for Red Barnet i 9 år, hvor han i dag er i Nationalt Udvalg.
Sine Zambach
Sine Zambach er adjunkt ved på Institut for Digitalisering på CBS, hvor hun underviser og forsker i data science og digitalisering. Sine er uddannet cand. scient. i bioinformatik fra Københavns Universitet og har en ph.d.-grad i datalogi på Roskilde Universitet inden for kunstig intelligens. Sine er forfatter til bogen ”Kvinde kend din kode” i 2018 og modtog i 2020 Nordic Women in Tech Awards pris som ”Tech Ambassador of the Year”. Derudover er Sine aktiv i Coding Pirates, hvor hun arbejder aktivt for demokratisering af teknologi for børn og unge. Hun mener, at alle skal præsenteres for, hvad der ligger under kølerhjelmen i den teknologi, vi alle benytter os af i dag.
Stephen Alstrup
Stephen Alstrup er algoritmeprofessor på Københavns Universitet/CEO SupWiz og har en dobbelt kandidatgrad i datalogi og filosofi, og en ph.d. i algoritmik. Han har i længere tid været medlem af ATV’s Digitale Vismandsråd, er medlem af ATV og har i flere år været rådgiver m.m. for diverse ministre/regeringer, herunder senest digitaliseringspartnerskabet. Stephen er medstifter af Octo-shape, en de største danske IT-succeser, med software installeret på hundredvis af millioner af maskiner, og gazelle AI-virksomheden SupWiz, og er en af de fem stiftere af IT-Universitetet i København. Han er tidligere medlem af bestyrelsen for Innovationsfonden, IT-projektråd og er i dag bl.a. ekspertrådgiver til datatilsynet. Slutteligt er Stephen medforfatter til banebrydende forskningsresultater, har ledet algoritmedelen af Danmarks største AI-forskningsprojekter, og er en af tre medstifter af Europas førende algoritmecenter BARC.
Pernille Kræmmergaard
Pernille Kræmmergaard er grundlægger og direktør i DI2X – Digitaliseringsinstituttet, hvor hun forsker og uddanner ledere i digitalisering og transformation. Pernille har en lang akademisk karriere bag sig og blev om 40-årig Danmarks første kvindelige professor i IT-ledelse. Først ved Aalborg Universitet, hvor hun etablerede Center for IT-ledelse og ny cand.it.-uddannelse, og siden som gæsteprofessor ved ITU, hvor hun var ansvarlig for uddannelsen Master i IT-ledelse. Pernille er uddannet cand.merc. og har en ph.d.-grad i informationssystemer, begge fra Aalborg Universitet. Hun er digital vismand og har været medlem ATV’s Digitale Vismandsråd siden dets start og er medstifter af det faglige dataetiske råd. Pernille har været medlem af en lang række komitéer og råd, og har udgivet en lang række artikler om anvendelsen af teknologi og data i virksomheder og organisationers værdiskabelse, samt bøger om emnet både herhjemme og i udlandet.
Jan Damsgaard
Jan Damsgaard er professor på Institut for Digitalisering på CBS, hvor han underviser og forsker i digitalisering. Jan er uddannet cand. scient. i datalogi og har en ph.d.-grad i informationssystemer begge dele fra Aalborg Universitet. Jan er digital vismand i ATV og medskifter af det faglige dataetiske råd. Jan er medlem af ATV samt medlem af styregruppen for SMV:digital. Jan var medlem af Dansk Erhvervs Tigerråd der i 2022 formulerede en fremtidsvision for Danmark, som rådets medlemmer gerne selv vil leve i. Desuden var han medlem af Disruptionrådet, der med den daværende regering i spidsen havde fokus på at lande digitalisering til gavn og glæde for danskerne, den danske arbejdsmarkedsmodel og den danske velfærdsstat.
Sune Hannibal Holm
Sune Holm er lektor i etik og videnskabsfilosofi på Københavns Universitet. Han er Ph.d. i filosofi fra University of St. Andrews og har haft forskningsophold ved bl.a. Oxford University, New York University og Université Paris 1. Sunes forskning fokuserer på etiske spørgsmål der rejser sig i forbindelse med anvendelse af algoritmer i beslutningstagning. Han har publiceret en række forskningsartikler, hvor han analyserer problemstillinger i forhold til fairness, legitimitet, black-box problemet, privathed og statistisk evidens. Han deltager i flere interdisciplinære forskningsprojekter med fokus på at anvende algoritmer inden for sundhedssektoren. Sune er ansvarlig for et kursus om Algorithmic Governance på Københavns Universitet, og han giver jævnligt undervisning og oplæg om AI og etik på workshops, masterclasses, og PhD-kurser.
AI giver allerede vigtige løsninger til vores samfund
Når man snakker om anvendt AI, vil de fleste nok tænke på fremadstormende produkter såsom ChatGPT eller abstrakte koncepter som kun de mest intelligente computer-genier forstår. Men faktisk bruges AI overalt i vores hverdag og på mange måde bliver den gjort bedre deraf. ATV's faglige dataetiske råd giver her et overblik over nogle af de anvendelser inden for AI der gør vores hverdag bedre: