Debat om dataetik: Mulighederne med dataanalyser er næsten uendelige – så hvor skal grænsen gå?

De vigtige dataetiske overvejelser står i kø i takt med, at både det offentlige og de private virksomheder får stadig flere muligheder for at indsamle og analysere data om borgere og kunder. Læs kommentarerne fra livlig debat om dataetik.

- Det allervigtigste dataetiske princip er, at man spørger, hvem der har gavn af databehandlingen? Er det mennesket, er det dine aktionærer, virksomheden eller effektiviseringen af systemet i det offentlige? Det er her, at mennesket altid skal være i centrum. 

Sådan lød en kommentar fra Pernille Tranberg, medstifter af tænkehandletanken Data Ethics, under en debat på Folkemødet, som Akademikerne havde arrangeret. 

Her var temaet, hvordan vi som samfund skal håndtere en digital virkelighed, hvor man med algoritmer og big data eksempelvis kan forudse og påvirke børns fremtid. Debatten kom i høj grad til at dreje sig som dataanalyser til profileringer af borgere, og hvor grænsen bør gå i dette spørgsmål. 

Kim Escherich, executive innovation architect i IBM, sagde blandt andet: 

- Paradokset er, at vi på den ene side siger, at det er okay at bruge data og machine learning til at finde pædofile, mens vi på den anden side ikke synes, at det er okay at bruge det til at finde børn, der har problemer. Det er et etisk paradoks, at vi det ene øjeblik synes, at noget er okay, mens vi i det andet øjeblik ikke synes, at det er det. Så spørgsmålet er, hvor grænsen går?

Her bliver brugen af problematisk
Dansk IT blander sig løbende i debatten om brugen af data og om, hvad dataetik egentlig er. Rikke Hvilshøj, administrerende direktør i Dansk IT, argumenterede i debatten på Bornholm for, at vi skal være bevidste om, hvad det er for en udvikling, vi er vidne til. 

- Det er helt sikkert nogle dilemmaer, vi står med, og grænsedragninger er rigtig svære. Vi taler meget om profileringer, og jeg tror sådan set, at landbetjenten også for 100 år siden i sit lokalområde godt vidste, at der skulle holdes ekstra godt øje med Bjarne henne om hjørnet, fordi hans forældre havde det lidt svært. 

- Så det er ikke fordi, at man ikke har kørt data sammen tidligere. Det er det, vi gør i vores hoveder. Nu kan vi bare gøre det i en skala, der er ny for os, og så får det en anden karakter, sagde Rikke Hvilshøj og tilføjede:

- Derfor er det store spørgsmål, hvor langt vi skal gå? For vi vil naturligvis gerne finde frem til de udsatte børn, inden det går galt. Dér, hvor vi skal være særligt opmærksomme, er hvis de her systematiske samkørsler af data og forsøget på at forudsige noget går hen og bliver en sandhed, som man så lige pludselig bliver konfronteret med. Eksempelvis ved, at man får besked om, at det er sådan man bliver engang i fremtiden.

Pensionsselskabernes brug af data
Med i debatten var også Morten Lund Madsen, der er økonomidirektør i Sampension. Han argumenterede for, at pensionsselskabernes brug af data adskiller sig fra eksempelvis en kommunes forsøg på at spotte udsatte familier ved brug af data. 

- Der er kæmpe stor forskel på syvårige Jesper og så på en pensionskunde hos os. Også fordi vores pensionskunder har muligheden for at sige fra og for at bestemme, hvad de vil dele med os. Vi er en kundeejet virksomhed og er der for kunderne. Vi har ingen interesse i at gøre noget, som de ikke er interesseret i, lød det fra Morten Lund Madsen. 

- Vi er interesseret i at give kunderne det bedste produkt til den bedste pris, og det er klart, at der kommer data også ind. Men det er på et nationalt plan, at vi laver den type beregninger. Eksempelvis en beregning af, hvor gammel du bliver, og hvor meget du skal spare op for at få en ordentlig tilværelse som pensionist. 

Tine Segel, formand i Bibliotekarforbundet, slog et slag for vigtigheden af tavshedspligt – også i en databaseret verden. 

- Min mor var sygeplejerske i et lille samfund, men hvis der var sket eller andet, kom hun altid hjem og sagde, at hun havde tavshedspligt, så derfor kunne hun ikke fortælle noget om det. Når vi taler systemer, der samkører data i dag, er tavshedspligten der stadig hos de mennesker, der behandler data – men den er der ikke helt i systemerne, for de kan egentlig fortælle alt om dig.

Handler det ikke altid om effektiviseringer i sidste ende?
Moderatoren spurgte paneldeltagerne, om det – trods alle de vigtige dataetiske overvejelser – alligevel i sidste ende ikke oftest vil ende med en debat om, hvad der bedst kan betale sig i økonomisk forstand?

- Al digitalisering har hidtil handlet om, hvad der kan betale sig, for vi lever jo i et effektiviseringsregime, hvor vi hele tiden skal gøre tingene bedre. Forskellen er, at teknologierne i morgen vil have et andet indgreb i vores liv, når vi taler digitalisering. Der kommer pludselig nogle helt nye etiske problemstillinger, lød det fra Kim Escherich, IBM.

Tine Segel fra Bibliotekarforbundet mente også, at debatten om data er begyndt at tage drejning i den rigtige retning:

- I starten blev man betragtet som værende lidt sølvpapirshat-agtig, når man talte dataetik, men der er sket et skift. Der er heldigvis mange, der er kommet på banen i forhold til behovet for et dataetisk råd, for selv man kan noget, er det ikke sikkert, at man skal. 

Både muligheder og udfordringer med brugen af data

Pernille Tranberg fra Data Ethics kom i debatten også med en klar opfordring til den offentlige sektor:

- Jeg tror, at man i den offentlige sektor næsten er nødt til at genopfinde sig selv og måske også at sige nogle af de ting, vi mennesker tager for givet. Vi har en meget høj tillid til den offentlige sektor, men den offentlige sektor er så også nødt til at gå ud og sige, at man sæter mennesket i centrum.

- Det dataetiske er, at man arbejder ud fra, at mennesket er i centrum. Det er ikke systemerne, lød det fra Pernille Tranberg, der samtidig kom med et konkret eksempel: 

- En af vores værdier er, at hvis man har begået en fejl og eksempelvis kommer i fængsel, så får man en ’second chance’ bagefter. Hvis vi ikke holder fast i det, risikerer vi, at der sker det samme som i USA, hvor du ødelægger resten af dit liv på en lille fejl, du har begået som ung. Så vi er nødt til at tale om værdier, og det skal det offentlige også være med til.

Rikke Hvilshøj fra Dansk IT kom samtidig med en kommentar om, at det er vigtigt at kigge på både mulighederne og udfordringerne med dataanalyser:

- Jeg synes ikke, at det er digitaliseringen i sig selv, der gør, at vi har en diskussion om, hvad der kan betale sig. Den diskussion kører også uafhængigt af digitaliseringen. Det digitale kan være et redskab, som du kan bruge rigtig fornuftigt, og så kan du gå for langt. Det er altid en balancegang.  

- Data kan også bruges til at være beslutningsunderstøttende, så de mennesker, der er omkring os, rent faktisk kan træffe nogle mere kvalificerede beslutninger i forhold til tidligere. Så det er en afvejning – det er ikke et enten eller. Vi kan få rigtig meget værdi ud af data, men vi skal bare tænke os om. Vi skal lære at sætte nogle nye grænser, sagde Rikke Hvilshøj i debatten på Folkemødet.

Debat på Folkemødet
De fem paneldeltager var (fra højre) Kim Escherich, Tine Segel, Rikke Hvilshøj, Morten Lund Madsen og Pernille Tranberg.

Nyhed - Tirsdag - d. 29/5/2018

Her er Dansk IT’s nye arbejdsgruppe for dataetik: Er netop gået i gang med det vigtige arbejde

Den nye arbejdsgruppe for dataetik under Dansk IT skal udpege de store dataetiske udfordringer i vores samfund og komme med anbefalinger til, hvordan vi kan sikre god dataetik i fremtiden. Se medlemmerne af arbejdsgruppen her.