AI og demokratiske principper: Medierne har et særligt ansvar, siger forsker

Igennem vores interview vender Claes de Vreese flere gange tilbage til, præcist hvor afgørende gennemsigtighed er for borgernes tillid til offentlige institutioner såvel som til de medier, der skal gå dem efter i sømmene. Men hvordan bevarer og udvikler vi den gennemsigtighed, i takt med at kunstig intelligens og automatisering integreres i både det offentlige og i mediernes eget arbejde?

Til Claes de Vreese’s overraskelse svarede de adspurgte borgere i hans nye forskningsprojekt om opfattelsen af AI, at de på en række områder havde ligeså meget eller endda højere tillid til automatiserede beslutninger.

”Som samfundsvidenskabelig forsker havde jeg nok et udgangspunkt, der hed, at folk ville være utrygge ved automatiserede beslutninger i offentlige institutioner. Man kan så også tilføje, at selvom algoritmer og AI bliver stadig mere udbredt, er europæiske borgere ikke blevet eksponeret for fejlagtige, AI-beslutninger i stort omfang. Vi har dog allerede eksempler fra bl.a. U.S.A. Ud fra et medieperspektiv bliver spørgsmålet så, hvordan vi sikrer, at medier ligesom med den sagsbehandling, vi kender i dag, har en reel mulighed for at gå beslutningerne efter i sømmene,” siger Claes.

AI skal være underlagt de samme demokratiske principper som sagsbehandleren

Brugen af AI i det offentlige er stadig begrænset. Netop derfor mener Claes de Vreese, at det er nu, vi kan sikre, at den ligesom sagsbehandleren bliver underlagt etiske retningslinjer og demokratiske principper såsom lige rettigheder.

Hvis ikke man i implementeringen indskriver demokratiske principper, står intet i vejen for, at en algoritme fx begynder at diskriminere mod bestemte befolkningsgrupper. Efterfølgende kan det så vise sig noget nær umuligt for både borgere og medier at få svar på, hvorfor de har fået en uretfærdig eller endda lovstridig behandling. Her vælger Claes de Vreese med et ironisk grin at bruge halvtredsårige hvide mænd som eksempel, men tilføjer i samme åndedrag, at man fra det amerikanske retsvæsen jo har reelle eksempler på algoritmer, der diskriminerede mod afroamerikanere. Vel at mærke ikke, fordi algoritmen var blevet fodret med data om etnicitet, men fordi den i praksis lærte at være alt andet end farveblind.

Men der er vel forskel på, om det er beslutninger inden for retssystemet, skattevæsen eller fx sygehusvæsenet, der bliver automatiseret?

”Jo, der er selvfølgelig forskel på, om det er beslutninger vedrørende din selvangivelse, et behandlingsforløb på et sygehus eller en fartbøde, men det hele afhænger af, hvordan det bagvedliggende system er implementeret. Der er ikke nødvendigvis nogle områder, som er helt uproblematiske, hvis borgeren oplever ikke at kunne få svar på, hvorfor en beslutning er blevet truffet. Det bliver jo fx endnu sværere at få fat i skattevæsenet, når beslutningen er genereret af et system. Er systemet så rent faktisk designet til, at man kan gå tilbage og anfægte beslutningen med argumenter? Og hvem skal i sidste ende holdes ansvarlig for beslutningen?”

Claes de Vreese understreger, at der er mange aspekter, som skal tænkes ind, før man automatiserer beslutninger i det offentlige. I sidste ende kommer kunstig intelligens i offentlige beslutninger til at tilføje endnu en dimension til mediernes arbejde.

”Hvis man lægger et blik hen over hele den demokratiske proces, kan man sige, at der er forandringer på vej, og vi skal stille de gode spørgsmål, før vi implementerer AI. Det gælder ikke kun folk med tekniske kompetencer. Det er også journalister, jurister og humanister, som skal være med til at sikre demokratiske principper. Og så kan det også være, at medierne på redaktionerne skal opgradere med nogle specifikke kompetencer, ligesom de løbende har gjort det på andre områder.”

Medierne skal efterstræbe den samme gennemsigtighed

Medier skal altså ifølge Claes de Vreese være med til at sikre, at automatiserede beslutninger i det offentlige bliver underlagt demokratiske principper. De skal også overveje, om de har kompetencerne til at grave det frem, hvis beslutninger i det offentlige alligevel ikke lever op til dem.

Samtidig fylder automatisering også mere ude på redaktionerne, hvor algoritmisk nyhedsudvælgelse målrettet den enkelte bruger spiller en stadig større rolle.

Men hvor meget fylder det egentlig på redaktionerne? Er det ikke stadig mest noget, vi taler om?

”Der er meget, som stadig er i begynderstadiet. I mine øjne gør det, at det er lige nøjagtigt nu, vi skal have de her samtaler. Når først vi har fundet noget, der fungerer godt, så er det svært at gå tilbage og spørge, om vi har fået de rigtige værdier med ind.”

Claes understreger, at det for medierne ligesom i det offentlige handler om at få sine demokratiske – og publicistiske – principper tænkt ind fra starten.

”Man kan jo sagtens have en metric, der handler om, hvor længe læseren bliver på siden, men så er man jo samtidig en avis, der har en mission om at oplyse borgerne. Medier bliver nødt til at tage deres læsere med i den proces og oplyse dem om, hvad det er i deres læsevaner, der gør, at de bliver præsenteret for en bestemt artikel. Man kan også forestille sig, at man kategoriserer nogle artikler som ”den her viser vi alle”, fordi man som medie vil være med til at sikre et fælles informationsniveau og en delt offentlig diskussion. I den anden ende kan man også forestille sig et dashboard, hvor læseren fx selv kan gå ind og sige, at nu vil jeg gerne have noget mere om religion, eller nej, selvom jeg er fodboldfan vil jeg faktisk gerne have artikler om andet end FCK og Brøndby.”

Er den problemstilling i grunden ikke ret tidsløs? Spørgsmålet om at give folk det, de ”vil have”, eller det, man som publicistisk medie mener, de har brug for at få at vide?

”Jo, man skal selvfølgelig kunne balancere de to, men demokratiet handler også om at være gennemsigtig og give agency til borgeren. Det gælder både, når man læser avisen, eller når man får sin sag behandlet i det offentlige, at man skal opleve, at man har en stemme. Den stemme har medierne et særligt ansvar for at sikre, i takt med at AI kommer til at spille en stadig større rolle i demokratiet”.