Rapport fra den dataetiske frontlinje: Sådan kan dataetik vendes til konkurrencefordel

Kim Escherich (til venstre) og Johan 
Busse.
Kim Escherich (til venstre) og Johan Busse.

Techgiganten IBM har sat danske Kim Escherich i spidsen for arbejdet med at finpudse den dataetiske profil. Og tidligere på året blev Johan Busse formand for Dataetisk Råd. Her deler de deres tanker og erfaringer med Complidia.

Dataetikken befinder sig i øjeblikket i et vadested.

Den overordnede fortælling står klart: Etisk forsvarlig omgang med borgernes og kundernes data er morgendagens vindersag. En ny konkurrencefordel, som med korrekt timing og eksekvering kan blive det næste danske erhvervseventyr.

Historien er fortalt før. Og i sidste uge mødte Complidia en af dataetikkens fremmeste forkæmpere på dansk jord - Pernille Tranberg - til en status. Hvordan går det så med at høste de nye konkurrencefordele?

Desværre går det ikke helt så tjept, som hun havde håbet. Erhvervslivet træder i disse år sig selv over tæerne af frygt for at være de første, der springer ud af startblokken, som hun forklarer det til Complidia.

Det falder sammen med, at vi med sommerens magtskifte har fået en socialdemokratisk regering, som har været aldeles karrig med de digitale udmeldinger.

Men så forrige uge var der nyt: En ny mærkningsordning skal hjælpe virksomhederne til at brande sig som dataetisk forsvarlige. En oplagt vindersag vil nogen mene, mens andre er af den overbevisning, at ordningen i bedste fald er redundant og i værste fald skaber falsk tryghed. Det vender vi tilbage til.

Midt i bemeldte vadested har Complidia opsøgt to aktører, som på hver deres måde er placeret i den dataetiske skudlinje:

  • Kim Escherich, der i august blev udråbt som dataetisk ombudsmand i IBM. Efter alt at dømme Danmarks første af slagsen - og i øvrigt også IBM’s første medarbejder på globalt plan, som har fået til opgave at vejlede virksomhedens medarbejdere i etisk omgang med data.
  • Johan Busse, der i maj blev sat i spidsen for et nyt Dataetisk Råd. Johan Busse er konstitueret landsdommer i Østre Landsret og har i mange år arbejdet som borgerrådgiver i Københavns Kommune. Nu skal han være med til at bane vejen for udarbejdelsen for nye rammer for dataetik.

"Jeg har ingen klare svar"
Vi begynder hos Kim Escherich og IBM.

Hvad bruger en dataetisk ombudsmand egentlig sin tid på?

“Det er en konstruktion, som kommer af mange interne diskussioner om, hvordan vi skal håndtere en voksende kompleksitet i teknologiske løsninger. Der er ikke nogen klare svar på etiske spørgsmål. Hver uge eller måned præsenterer den teknologiske udvikling os for dilemmaer, som ikke fandtes før - eksempelvis i forhold til brug af kunstig intelligens. Og det er så min opgave at hjælpe IBM til at tackle de udfordringer.”

“Min rolle er ikke klart defineret. Traditionelt er it-branchen vant til, at risici skrives ind i kontrakter og håndteres af juridiske afdelinger. Nu betyder udviklingen i kunstig intelligens, at den enkelte udvikler skal gøre op med sig selv, om hvad han gør, er etisk forsvarligt. Det giver en masse potentielle hovedbrud, og her bliver jeg medarbejdernes fortrolige sparringspartner.”

“Heldigvis har der ikke været så mange problematiske sager endnu, så min tid går mest med at skabe opmærksomhed internt og eksternt på dataetiske spørgsmål. Men det er klart, at hvis nu Københavns Politi ringede i morgen og spurgte, om ikke vi kunne hjælpe med at udrulle ny avanceret ansigtsgenkendelse i byrummet, så ville jeg skulle inddrages i de etiske overvejelser. Dybest set ville vi nok takke ja til opgaven, men det ville være nødvendigt med en grundig debat om metoden for at undgå at havne i en shitstorm.”

Dataetik har ikke fortrængt overvågningskapitalisme
Er der modsætning mellem dataetik og profit?

“Det er et vanvittigt godt spørgsmål. Dataetik kan på den ene side styrke virksomhedens brand. Og med den verserende debat om overvågningskapitalisme vil den dimension kun blive forstærket. På den anden hjælper cookies og trackere virksomhederne med at tiltrække nye kunder. Og er man klar til at give slip på det? Det kan jeg godt tvivle på.”

“Mit indtryk er, at det styrker IBM’s troværdighed, at vi nu hejser det dataetiske flag. Det er ikke sådan, at kunderne vælter ind af den årsag, og der vil vi skulle længere frem for at se en egentlig effekt (selv om den altid vil være svær at måle). Men det bringer os samtidig i en sårbar position: Det er klart, at vores rum for etiske fejltrin mindskes i takt med, at jeg løfter pegefingeren i den offentlige debat.”

Et nyt dataetisk mærke skal ifølge regeringen styrke bevidstheden hos forbrugere og virksomheder. Er det et tegn på, at samfundet følger i hælene på IBM?

“Jeg mener, at mærket er med til at skabe falsk tryghed i samfundet. I stedet for at maskere sandheden bag mærker med tvivlsom troværdighed, burde vi hæve befolkningens dataetiske dannelse, så vi selv bliver i stand til at agere som systemtænkere, forstå sammenhænge og forholde os kritiske - hvilket vil tvinge virksomhederne til at hæve de etiske standarder. Ellers ender vi med et dataetisk curling-samfund, hvor ingen kan navigere og alle kan manipuleres.”

Formand: Vi skal have borgerne med i diskussionen
Ligesom Kim Escherich er Johan Busse også ny i funktionen som formand for Dataetisk Råd.

Dataetisk Råd blev nedsat i maj af den tidligere VLAK-regering og har “til opgave at understøtte en ansvarlig og bæredygtig dataanvendelse i erhvervslivet og i den offentlige sektor”. Mere konkret skal rådet bidrage til en åben debat om brugen af nye digitale løsninger, data, kunstig intelligens og de dilemmaer, som de nye teknologiske muligheder rejser.

“Vi er kun nået at mødes to gange, så det er begrænset, hvad jeg kan fortælle på nuværende tidspunkt. Vi har smidt en masse bolde op i luften, og nu er øvelsen at gribe dem og få lagt en klar plan for arbejdet. Det er afgørende, at vi får defineret en klar metode: Vi skal ikke være et råd, som lægger fingeren på glasset og spørger, “hvad synes I så”.”

“Man kan ikke åbne en avis uden at finde artikler, der relaterer sig til dataetik. Det er alle vegne. Her skal vi være den saglige stemme, der udtaler os på vegne af dybdegående analyser. Men samtidig skal vi inddrage offentligheden og herunder borgerne i arbejdet. Det er også derfor, at vi eksempelvis afholder et debatarrangement 20. november på CBS.”

Savner debat om hvor samfundet skal hen
Hvordan står det til med dataetikken i dansk erhvervsliv?

“Det er svært at svare på. Der er ikke lavet større undersøgelse af emnet, men min oplevelse er, at danske virksomheder har høj grad af ordentlighed og etik. Jeg ser derfor ikke vores opgave afgrænset som et opgør med moralsk anløbne virksomheder, men snarere at skulle hjælpe og rådføre virksomheder, som ikke har fundet redskaberne endnu.”

“GDPR gav virksomhederne en række konkrete retningsanvisninger: Lev op til de og de krav, og du er på rette vej. Men dataetik er bredere end bare de juridiske aspekter. Og her tror jeg, at mange virksomheder kan få brug for en rettesnor.”

“En måde at angribe spørgsmålet på er at vurdere, om dataetik kan vendes fra at blive opfattet som et administrativt benspænd til en konkurrencefordel. Vi kan se, at IBM har fået en dataetisk ombudsmand, og i andre brancher tager man også spørgsmålet op. En dataetisk ekspertgruppe ledet af Christiane Vejlø har eksempel foreslået en etisk værktøjskasse, som skal gøre emnet håndgribeligt for virksomhederne. Og senest har regeringen præsenteret et dataetisk mærke, som kan guide forbrugere og virksomheder.”

Hvordan ser det så ud i den offentlige sektor?

“Jeg kan godt savne en bredere debat om, hvilken retning samfundet skal bevæge sig i vedrørende brug af data i den offentlige sektor. Vi står midt i en teknologisk udvikling, som giver myndigheder politikerne adgang til nye og mere effektive metoder at indrette samfundet. Men hvad er de mere generelle effekter, og er vi villige til at betale prisen? Det er en debat, som vi ikke bliver færdige med lige foreløbigt.”

Skrevet af

Klaus Ulrik Mortensen

Klaus Ulrik Mortensen, journalist

Journalist og rådgiver med flere års erfaring fra Altinget, Teknologiens Mediehus, Jyllands-Posten og ni år på Christiansborg. Han har fordybet sig i grøn omstilling og energipolitik samt økonomiske og etiske aspekter af den teknologiske udvikling.

Klummer

Se alle