Dataetiske dilemmaer: Hvad er cool, og hvad er creepy?

På Folkemødet havde Forsikring & Pension inviteret DANSK IT’s Rikke Hvilshøj til en debat, der gik tæt på brugen af data inden for branchen. Debattørerne skulle forholde sig til dataetiske dilemmaer.

Forsikrings- og pensionsbranchen har altid brugt data til at pulje og vurdere risici. Men hvor branchen er gået fra at bruge nogle få data om den enkelte kunde, har den nu potentielt adgang til langt mere data. På Folkemødet inviterede de til debatten, Dataetik – hvor går grænsen for cool og creepy?

Her deltog Rikke Hvilshøj, administrerende direktør i DANSK IT og medlem af Dataetisk Råd, i debatten sammen med Thomas Brenøe, vicedirektør fra Forsikring & Pension, Christina Egelund, MF og retsordfører for Liberal Alliance og Vagn Jelsøe, vicedirektør hos Forbrugerrådet.

Når det handler om samspillet mellem etik, innovation og forretning er der et stort behov for at drøfte, hvad dataetik betyder i praksis og ikke mindst, hvor barren skal sættes?

I løbet af debatten blev deltagerne stillet overfor en række dilemmaer, hvor de skulle diskutere, hvad der er cool og creepy.

Er det cool eller creepy at have en dongle i sin bil for at få en billigere forsikring?

Panelet var enige om, at det som sådan ikke er creepy at få installeret en dongle i sin bil.

Faktaboks

 

Rikke Hvilshøj påpegede dog, at bilejerne skal have fuldstændig klarhed over, hvem der læser med, og hvad data bliver brugt til.

- Det afgørende er, at forbrugeren er klar over hvilke data, der bliver brugt og hvilke, der ikke bliver brugt. Kunderne må ikke lige pludselig opdage, at deres data bliver brugt i en helt anden sammenhæng. Tillid spiller også en stor rolle i sådan en beslutning. Det er jo ikke kun Forsikrings- og pensionsbranchen, der står i dette dilemma og nu har adgang til en stor mængde data, som er indsamlet i forskellige sammenhænge. Men fordi man samkører fem objektive data, så får man altså ikke en sjette objektiv sandhed, sagde Rikke Hvilshøj.

Fra publikum blev der desuden udtrykt bekymring om, hvorvidt data fra en dongle ville kunne have en negativ effekt på ens andre forsikrings- og pensionsforhold, hvilket fik moderator Mette Walsted

Vestergaard til at spørge Thomas Brenøe, om forsikrings- og pensionsbranchen godt kan administrere at have alle disse forskellige data og modstå fristelsen for at at samkøre data.

Det mente Thomas Brenøe dog godt, at branchen kan modstå. Men han forstod godt den skepsis, der er omkring adgang til data og påpegede, at nye biler i forvejen samler en masse data, de sender den bare til bilproducenterne i stedet.

Svaret fik Rikke Hvilshøj til at spørge Thomas Brenøe, hvordan man er sikret som kunde, hvis myndighederne beder private virksomheder om at udlevere data om deres kunder.

Debat Rikke Hvilshøj

 

Thomas Brenøe sendte ansvaret videre til myndighederne ved at svare, at en sådan handling fra myndighederne side fuldstændig ville erodere tilliden og forhindre en masse gavnlig brug af data.

Christina Egelund, MF og retsordfører for Liberal Alliance mente, at data bør tilhøre individet og at tilliden til databeskyttelse i fremtiden vil blive et konkurrenceparameter i branchen.

Er det cool eller creepy, at pensionskassen automatisk får besked, når en kunde bliver kritisk syg og dermed hurtigt kan udbetale penge?

Christina Egelund svarede straks, at det fandt hun ”mega creepy” for hvordan afgrænser man begrebet kritisk syg?

Dilemmaet er i kunden egen interesse, argumenterede Thomas Brenøe, fordi mange går glip af deres udbetalinger, fordi de glemmer, at de er forsikret.

Rikke Hvilshøj slog fast, at afgrænsningen er fuldstændig altafgørende i dette dilemma:

- Der skal være helt klar afgrænset, hvad data bruges til, og kunderne skal til enhver tid kunne trække deres tilladelse tilbage igen.

Vagn Jelsøe, vicedirektør hos Forbrugerrådet mente derimod, at kontrollen burde ligge hos forbrugerne, og at det burde være en integreret del af sundhedsvæsnet at informere patienterne om forsikringsmuligheder i forbindelse med sygdom. Han påpegede desuden den øgede risiko for læk og misbrug i forbindelse med oprettelse af et nyt register.

Grænsen skal trækkes i andre fora

- Forsikrings- og pensionsbranchen skal tage datadiskussionen med kunderne og skabe tillid, åbenhed og transparens og skabe differentierede produkter, der passer til kundernes ønske om afgivelse af data, sagde Thomas Brenøe om branchens videre arbejde.

Ifølge Vagn Jelsøe er der allerede trukket en grænse med GDPR og hovedopgaven er, at får virksomhederne og organisationerne til at forstå, hvad dataforordningen indebærer, og hvor den sætter grænsen.

- Så kommer hele diskussionen om dataetik som et lag oven på forordningen. Andre steder i verden vil man hellere tale om regulering end dataetik. Og jeg er enig med, at man ikke må bruge den dataetiske diskussion i virksomhederne som undskyldning for ikke at forholde sig til de reelle dilemmaer, der opstår ved anvendelse af kunstig intelligens og algoritmestyrede beslutninger. Der skal regulering sørge for at holde trit med udvikling. Det kan den dog ikke helt, så når virksomheder vil gøre mere end lovgivning kræver, så skal vi da klappe i hænderne, udtaler Vagn Jelsøe.

- Man kan ikke lave en regulering, der tager stilling nok, og derfor må vi tage etisk stilling nogle år endnu og på sigt vil etikken blive lovfæstet. Men at tro at vi kan sætte os ned nu og regulere i bund, det vil være helt utopisk, svarede Thomas Brenøe.

Også Dataetisk Råd, som Rikke Hvilshøj er medlem af, skal føre debatten videre, hvilket moderatoren bad hende fortælle mere om.

- Valget har jo forhindret os i at mødes endnu. Men jeg mener, at den vigtigste opgave for os som samfund er at forstå værdien af de data, som vi hver især afgiver. Vi skal stille de kritiske spørgsmål til dem, som vi er kunde hos og til offentlige myndigheder. Det kræver en bevidsthed om, hvad data er, og de rammer skal slås fast, fortalte Rikke Hvilshøj om det arbejde, som Dataetisk Råd forventes at starte på i den nærmeste fremtid.

Dataetik

Nyhed - Onsdag - d. 21-11-2018

18 dataetiske anbefalinger fra DANSK IT

DANSK IT's arbejdsgruppe for dataetik har udgivet en publikation om dataetik. Den indeholder 18 konkrete anbefalingerne til, hvordan dataetikken kan styrkes.
Folkemødet 2019 - debat 1

Nyhed - Tirsdag - d. 18-6-2019

Kompetencer er afgørende for Danmarks position som et digitalt foregangsland

Hvis Danmark og resten af Europa skal være en teknologisk og digital supermagt, kræver det, at arbejdsstyrken har de rette kompetencer, er omstillingsparat og agil til at kunne reagere på de forandringer, der sker. Sådan lød budskabet i debat med topcheferne fra Grundfos, Netcompany og Dansk Metal.
Rikke Hvilshøj direktør dansk it

Nyhed - Onsdag - d. 3-4-2019

Regeringen udpeger nyt Dataetisk Råd - DANSK IT's Rikke Hvilshøj er blandt medlemmerne

Dataetisk Råd skal give input og nuancer til den offentlige debat om dataetik, som fylder mere og mere. Samtidig skal rådet hjælpe til, at erhvervslivet og den offentlige sektor bruger data ansvarligt. Rådet er nedsat af regeringen, som nu har udpeget formanden og ni medlemmer - heriblandt er Rikke Hvilshøj, adm. direktør i DANSK IT.