Folkemøde: Med lov skal AI vindes

Lovgivning kan ikke skabe teknologisk fremskridt og innovation – eller kan den? 
Digitalisering til gode formål har tidligere været hjulpet på vej af god lovgivning, og med den store bølge af generativ AI, der har store potentialer, er der brug for lovgivning til at sikre, at gode digitale løsninger kan bruges. 

Et godt eksempel fra 2010’erne er lovkravet om, at al offentlig post skulle være digitalt, som Bjarne Corydon foreslog den 13. april 2012. At vi tidligt har fået internet og har kunnet indføre en række digitale løsninger som en ny service til borgere, og det har gjort Danmark til et foregangsland, hvad angår offentlige services. 

Behovet for og potentialerne for digitale teknologier er store, og her udfordrer lovgivning, som tilmed blokerer for etisk brug af AI. Debatten dykker ned i dette skisma og fokuserer på to aktuelle eksempler. AI har fx store potentialer inden for sagsbehandling, da AI kan behandle store datamængder hurtigt og foreslå et outcome til sagsbehandling, som en sagsbehandler kan forholde sig til. I øjeblikket medfører GDPR-lovgivningen etiske dilemmaer i forhold til brug AI. Men også mere enkle digitale løsninger som Chromebook forbydes. 

Paneldeltagere

Glæd dig til at høre fra

• Bent Dalager, partner, New Tech, KPMG, digital vismand, ATV, medlem af ATV’s faglige dataetiske råd
• Morten Hauge Larsen, kommunikationskonsulent, Videnscenter om handicap
• Frederik Nordentoft Andersen, Kontorchef, Digitalisering & Teknologi, KL

AI i undervisning og sagsbehandling

I debatten debatteres Chromebook-sagen og brug af AI til tildeling af hjælpemidler til handicappede, der i et GDPR-hensyn umyndiggøres. 

Lovgivning kan ikke skabe teknologisk fremskridt og innovation – eller kan den?

I sagen om brug af Google Workspace i folkeskolerne vurderer Datatilsynet, at der ikke er hjemmel til videregivelse af personoplysninger til Google til alle de formål, der videregives til i dag. Derfor giver Datatilsynet nu et påbud til kommunerne om at bringe behandlingen i overensstemmelse med reglerne og anviser forskellige måder, det kan gøres på.

Chromebook-sagen handler om, at Datatilsynet for nylig har vurderet at brugen af Google’s Learning platform i 53 kommuner til undervisning ikke er lovlig. Det skyldes, at der sker overførsel af persondata (som f.eks. e-mail-adresser) til formål, som, Datatilsynet vurderer, ikke har med læringsformålet at gøre. 

Når AI kommer i brug til sagsbehandling som beslutningsunderstøttende, som det er tilfældet i sagen med tildeling af hjælp til handicappede. Så sker det, at brug af AI vurderes til at være ulovligt grundet, at man anses som underlegen i et magtforhold som handicappet og dermed ikke kan give samtykke til, at ens data bruges. Er det rimeligt, at mennesker må bruge data til beslutninger, men at AI ikke må bruge de samme data til beslutningsstøtte?

Brug af læringsplatforme via Chromebook og tildeling af hjælpemidler til handicappede er god AI-brug, der forhindres, og som rummer etiske dilemmaer. Og snart kommer AI-forordningen, hvor administrationen af den ligger i digitaliseringsstyrelsen. Hvordan administrerer vi de to lovgivninger, der påvirker brug af digitale teknologier og AI-udviklingen?

Debatten vil centrere om, hvordan vi håndterer de etiske dilemmaer, og om lovgivningen kan administreres bedre. Derudover behovet for ny lovgivning der understøtter en positiv brug af data og AI.

ATV's debat på Folkemødet er en del af projektet Guide til et resilient Danmark, som er støttet af fem fonde og alle landets universiteter

Billede