”Det er ikke teknologien, der er noget galt med. Det er måden, den bliver brugt på.” Hvis du følger med i diskussionerne om digitalisering, har du sikkert hørt udsagn som dette før. Udsagnet afskriver eventuel skyld eller problemer med teknologien og afspejler i stedet en generel enighed om, at digitaliseringen er positiv. Blandt andet fordi vi kæmper med faldende fødselstal og mindre årgange i Vesten. Det kan føre til behov for mere digitalisering og automatisering af arbejde, der i dag bliver løst af mennesker.
Men digitalisering er ikke kun for det gode. Dels bør det være en politisk diskussion, hvilke områder vi vil digitalisere. Er vi for eksempel indstillede på at lade personlig pleje og pasning blive udført af robotter i stedet for mennesker? Og hvilke muligheder kan vi tilbyde mennesker i de brancher, som risikerer at få deres arbejdstid formindsket af digitalisering og automatisering? Dels ligger der menneskelige valg bag teknologien, så udsagnet fra før om, at det ikke er teknologien, der er noget galt med, kan være misvisende. For det er, som om det fjerner et etisk ansvar fra teknologien og den måde, teknologien bliver designet på.
Hvis vi skal forme en bedre, mere retfærdig, ansvarlig og etisk verden, er vi imidlertid nødt til at forholde os kritisk og etisk til de designbeslutninger, som vores teknologi og digitalisering bygger på.
Tilsyneladende tilforladelige designbeslutninger
Vi har nok alle sammen hørt historier om store virksomheder, der indsamler enorme mængder personlige data, og som bruger snedige algoritmer til at manipulere, påvirke, vække følelser og samle mennesker i ekkokamre. Og holde disse ekkokamre op imod hinanden for at skabe polemik og konflikt. Det kan også være, at de ansætter hjerneforskere til at gøre os afhængige af deres produkter eller programmer.
Måske virker det fjernt at referere til Facebook, Instagram, Cambridge Analytica osv., når man er en helt almindelig dansk virksomhed, som skal træffe beslutninger om fremtidige digitale løsninger. Men fælles for Facebook, Instagram, Cambridge Analytica og den helt almindelige danske virksomhed er udgangspunktet. Dette udgangspunkt er, at teknologien begynder med tilsyneladende tilforladelige designbeslutninger.
Muligvis ønsker vi bare at designe det bedste program og overser, at digitale løsninger kan få utilsigtede konsekvenser. Muligvis afholder designet nogle målgrupper fra at benytte teknologien. Og muligvis fører designbeslutninger til langsigtede konsekvenser, vi ikke har overvejet.
For at forsøge at undgå utilsigtede problemer og for at fremme en mere etisk digital fremtid anbefaler Dansk Digital Center at basere teknologier og designet af digitale løsninger på deres digitale etikkompas.
Det digitale etikkompas
Det digitale etikkompas er en tjekliste, som hjælper med at stille etiske spørgsmål til digitale løsninger. Kompasset er tænkt som et arbejdsredskab, der hjælper med at sikre, at etikken er en tro følgesvend i hele udviklingsforløbet. I midten af kompasset findes fem grundlæggende principper for ansvarligt og etisk digitalt design. Det drejer sig om:
- Sæt mennesket i centrum
- Undgå at manipulere
- Gør teknologien forståelig
- Undgå at skabe ulighed
- Giv brugerne kontrollen.
I etikkompassets næste ring ligger tre kategorier. De er: a) automatisering, b) adfærdsdesign og c) data. Under hver af de tre kategorier er en række spørgsmål – 22 i alt – som hjælper med at afdække etikken i de overvejelser, vi gør os, når vi udvikler digitale løsninger. Samtlige spørgsmål er næppe relevante at konsultere ved hver beslutning, men undervejs i udviklingsarbejdet er de givtige og gavnlige at overveje.
Hos Garuda har etikkompasset været et helt centralt og nødvendigt arbejdsredskab i udviklingen af Garuda Universe. De etiske overvejelser er nemlig særligt relevante at forholde sig til, når man som os beskæftiger sig med personprofiler og udvikling af digitale løsninger, som giver indsigter til udvælgelse, rekruttering og medarbejderudvikling.
Åbenhed er afgørende
Et af de steder, hvor vores tolkning og konkretisering af etikken kommer til udtryk, er med vores virksomhedsværdi ”Åbenhed”. I arbejdet med personprofiler kan der hurtigt indsnige sig et ulige forhold mellem kandidat eller medarbejder og arbejdsplads. Vi beder respondenten om at svare ærligt og afgive information om sig selv og sin personlighed i en erhvervskontekst – i udfyldelse, tilbagemelding, dialog, CV og ansøgning. Det fører en etisk fordring med sig, som vi forsøger at imødegå med fuldstændig åbenhed for at nivellere misforholdet og sikre en ligeværdighed mellem respondent og arbejdsplads.
Respondenten kan med rette stille krav til, at vi er åbne, forståelige og gennemskuelige. Det gælder formålet med personprofilen, spørgerammen og resultaterne. Åbenheden i resultaterne omfatter også besvarelsen af de enkelte spørgsmål, og hvordan de har påvirket respondentens profil. På dette punkt adskiller vi os fra andre på markedet. Vi mener nemlig, at selve forudsætningen for personprofiler er, at respondenten har fuldstændig tillid til profil og tilbagemelder, og den tillid kan kun vokse frem gennem åbenhed, ærlighed og gennemskuelighed.
Der kan være en tro på eller fordom om, at personprofiler skal komme arbejdsgiver særligt til gavn. Det er jo arbejdsgiver, der betaler og skal rekruttere eller udvikle en medarbejder, så arbejdsgiver har brug for information. Men vi er af den opfattelse, at udbyttet skal gavne respondent og arbejdsgiver ligeligt. Arbejdsgiver skal blive klogere på respondenten, men respondenten skal også blive klogere på sig selv, stillingen og arbejdsgiveren. Kun på den måde kan man skabe balance.
Åbenhedens afskygninger
Hos Garuda kommer åbenheden også til udtryk andre steder – men altid ud fra et mål om at bygge ligeværd. Det er derfor, du oplever, at vi kontinuerligt analyserer og visualiserer data fra vores personprofiler, som du kan inddrage, når du rekrutterer eller udvikler, for eksempel til at sammenligne kandidater med andre, der normalt præsterer på et højt niveau i samme branche.
Garudas modeller (blandt andet Hoved-Hjerte-Ben-modellen og FokusProfilen) er pædagogiske og letforståelige, så kommunikationen af modellerne og samtalen om de indsigter, respondenten får på baggrund af modellerne, bliver bedre.
Desuden er vores algoritmer udviklet med digital etik som rettesnor, og vi har en vision om at gøre algoritmerne så gennemskuelige som muligt, så brugere af vores digitale platform, Garuda Universe, kan se og forstå, hvorfor den digitale platform gør, som den gør.
Ved at samarbejde med Garuda får du en dansk leverandør, der tager personprofilers etiske fordring alvorligt. Vi er ikke perfekte og laver garanteret fejl, efterhånden som vi bliver klogere, men vi stræber efter fuldstændig åbenhed og et ligeværdigt forhold mellem respondent og tilbagemelder. I den digitale udvikling afspejler etikken sig i etikkompassets fem imperativer, nemlig: 1) Sæt mennesket i centrum, 2) undgå at manipulere, 3 gør teknologien forståelig, 4) undgå at skabe ulighed og 5) giv brugerne kontrollen.
