Ansigtsgenkendelse – en teknologi til debat

I takt med, at den teknologiske og digitale tidsalder udspiller sig for øjnene af os, øges teknologiens indgriben i vores liv ligeså. Du har måske oplevet tilfredsstillelsen ved den lethed, det giver, at du låser din telefon op med dit ansigt – og samtidigt oplevet et snigende ubehag ved, at en teknologi på den måde kan genkende dig?

 

En af de teknologier, som for alvor er kommet på dagsordenen de senere år, og hvis indflydelse er stadigt voksende, er netop ansigtsgenkendelse og særligt dens potentielle anvendelse inden for overvågning. 

 

Den øgede overvågning har skabt en frygt for, at de kameraer, vi ser rundt omkring, er udstyret med ansigtsgenkendelse. Det har medført, at der udvikles forskellige metoder til at forvirre og overvinde disse ansigtsgenkendelsessystemer.

 

Bliv klogere på både problematikker og muligheder ved ansigtsgenkendelse når jeg i denne blog undersøger, hvordan modstanden mod denne teknologi blandt andet ser ud i form af forskellige typer gadgets, og derefter ser på et eksempel på ansigtsgenkendelse som en godgørende teknologi. 

 

Når teknologien bliver politisk

 

Under sidste års Hong Kong-protester så vi, hvordan teknologien og ansigtsgenkendelse i høj grad er blevet et politisk redskab, da demonstranter ødelagde adskillige lygtepæle udstyret med kameraer af frygt for at blive overvåget og identificeret og registreret som modstandere af regeringen. 

 

Protesterne illustrerer også, at overvågning og ansigtsgenkendelse potentielt kan misbruges til at tvinge sig adgang til din telefon, som ofte indeholder personfølsomme data. Eksempelvis forsøgte politibetjente at få adgang til en demonstrants telefon ved at holde den foran hans ansigt, efter han var blevet pågrebet. Demonstranten blev pågrebet grundet mistanke om, at han i en Facebookgruppe skulle have delt, at han arbejdede på at udvikle en algoritme, der kunne identificere de betjente, der nedkæmpede protesterne. 

 

Hvor der i Hong Kong primært var eksempler på, hvordan ansigtsgenkendelse anvendes som et redskab til undertrykkelse og magt, ser vi under de nuværende protester i Hviderusland også eksempler på det modsatte. Her er det nemlig lykkedes en digital kunstner at udvikle et ansigtsgenkendelsessystem, som kan “afmaskere” de bevæbnede sikkerhedsstyrker, der bekæmper demonstrationerne i den hviderussiske hovedstad Minsk. Andrew Maksimov illustrerer i sin video på Youtube, med over 1 mio visninger på under én måned, hvordan algoritmen finder og afmaskerer de hviderussiske sikkerhedsstyrker. Man taler endda om, at han har startet en digital modstandsbevægelse, som er et koncept vi med sikkerhed vil se mere til de kommende år.

 

Til trods for de mange fordelagtige muligheder ved ansigtsgenkendelse, viser disse eksempler, at det desværre er en teknologi der, som så mange andre, kan være relativt nemt at misbruge og gøre til et digitalt våben. Derfor kræver videreudviklingen og den fremtidige anvendelse af ansigtsgenkendelse omtanke for design, anvendelse og etik, hvis ikke modstanden mod den mulighedsrige teknologi skal vokse sig endnu større. Denne overvejelse har man også gjort sig hos IT-giganten IBM, som i sommeren 2020 har standset al udvikling, salg og research indenfor feltet af ansigtsgenkendelse baseret på etiske bekymringer, omkring teknologiens potentielle overtrædelse af menneskerettigheder, indgriben i privatliv samt masseovervågning.

 

Hvor intelligent er teknologien egentligt?

 

Vi ser altså en øget tendens til, at ansigtsgenkendelse er gået hen og blevet et politisk redskab. Men hvordan skal vi forholde os til, at teknologier som denne bliver til politiske våben? Og er det virkelig nødvendigt at bortkaste teknologien helt, som IBM har valgt at gøre?

 

Som mine eksempler viser, ser vi en øget tendens til forsøg på at snyde intelligente systemer ved brug af forskellige typer påklædning og ansigtsmaskering. For at forstå, hvorfor disse typer af modstand mod ansigtsgenkendelse virker, er det essentielt først at forstå, hvordan algoritmen i et sådan system fungerer (nu bliver det lidt nørdet, så hæng i!). 

 

Teknisk defineres en algoritme ved at være en række formelle veldefinerede skridt, som løser en specifik opgave. Disse skridt udgøres som udgangspunkt af sekvens, selektion og iteration. I hverdagssprog betyder det, at systemet indsamler viden om dig og husker den viden til næste gang. Når en algoritme i et ansigtsgenkendelsessystem skal identificere en person, tager den primært udgangspunkt i et læringssystem, som foregår således: 

 

Man viser et neuralt netværk, en masse billeder af forskellige personer, samtidig med at man navngiver dem. Det lærer delvist netværket selv at bestemme de features, som kendetegner individuelle ansigter, og det kan være alt fra øjenfarve, mængde af hår, bredde på næsen osv. Når netværket så ser et ukendt billede af en person, som den allerede har set på et andet billede og navngivet tidligere, vil den være i stand til finde lignende features og derved bestemme, hvem det er. Begrænsningerne ligger derfor ofte i træningsmaterialet. Hvis et netværk aldrig har set personen med dele af ansigtet dækket, kan det gøre algoritmen ude af stand til at identificere features, som den kender fra tidligere – medmindre personen har nogle andre træk, der er tilstrækkeligt unikke. 

 

Så kom vi igennem den lidt tunge tekniske del, og jeg håber ikke, jeg har skræmt dig helt væk – for her kommer pointen: Når en persons ansigt indeholder ukendte elementer, vil svaret fra databasen derfor som udgangspunkt være, at dette ansigt ikke findes, og personen derfor ikke kan identificeres. Dette er et godt eksempel på, hvorfor brugen af begrebet kunstig intelligens om algoritmer kræver en for-forståelse for, hvad der menes med “intelligens” i denne sammenhæng. En algoritme er altså ikke mere intelligent, end at den kan forvirres af simple uregelmæssigheder i det billede, som den præsenteres for. 

 

Dette kan dog løses gennem en endnu mere avanceret træning af algoritmerne, og det vil derfor sandsynligvis kun være et spørgsmål om tid, før de maskeringsteknikker, vi ser i dag, ikke længere vil være tilstrækkelige til at forstyrre algoritmerne i ansigtsgenkendelsessystemer.

 

“Forvirrede” algoritmer

 

Pointen er altså, at der skal mennesker til at re-designe algoritmen, hver gang den skal tilpasses og trænes i en ny type modstand. Og så vil en uendelig cirkel af modstand og optimering af teknologier se dagens lys. Dette understreger mit argument om, at etik og teknologi hænger uløseligt sammen, og både design og anvendelse af nye såvel som velkendte teknologier kræver dybdegående etiske og demokratiske overvejelser.

 

Modstanden i denne form for teknologi ses blandt andet i form af forskellige typer påklædning, som er designet til at forvirre algoritmen i ansigtsgenkendelsessystemer og dermed gøre dem ubrugelige. Et eksempel er blandt andet denne maske af en polsk designer ved navn Ewa Nowak, som går under navnet “Incognito”. Den har til formål at forstyrre ansigtsgenkendelsessystemerne i overvågningskameraer og dermed slå et slag i kampen for privatliv i en stadig mere overvåget verden. De uregelmæssigheder, som masken skaber, skal gøre algoritmen ude af stand til at identificere personen, som bærer dem.

Skal det være lidt mere teknisk, har den hollandske studerende ved navn Jing-cai Liu udviklet en projektor, som bæres på hovedet og projekterer et kunstigt ansigt ned ovenpå dit eget. Ansigtet, som projekteres, udskiftes ofte og designet forhindrer på denne måde kameraer med ansigtsgenkendelse i at genkende og spore vedkommende, som bærer projektoren.

Når teknologien gør noget meningsfuldt

 

Et anderledes eksempel på politisk brug af ansigtsgenkendelse er den britiske kampagne mod vold i hjemmet ved navn “Look at me”. Kampagnen blev udført i form af billboards med et interaktiv billede af en forslået kvinde, som kigger direkte ind i kameraet og dermed søger de forbipasserendes øjenkontakt. Nederst på skærmen vises en live optagelse af de forbipasserende, der kigger på skærmen.

 

I takt med at flere mennesker bemærker billedet og kigger på kvinden, svinder hendes skader ind, og da de efter nok opmærksomhed er svundet helt, dukker et “Thank you” op på skærmen. Hvis de forbipasserende ignorerer kvinden og ikke retter blikket mod billboardet, vil hendes skader og blå mærker forøges.

 

Kampagnens formål er at skabe opmærksomhed omkring vold i hjemmet og illustrere, at det er et fælles ansvar at komme volden til livs ved først og fremmest at bemærke og anerkende ofrene for volden. 

Teknologien bag det interaktive billboard er en metode, som registrerer antallet af blikke rettet mod skærmen, og i takt med at dette tal stiger, ændres det billede, som vises. Ansigterne registreres kun som et tal, og ingen data fra de forbipasserende gemmes eller anvendes på anden vis, end til formålet. Der er derfor ikke tale om den form for ansigtsgenkendelse, der er omtalt i forrige afsnit, men i stedet et system, som genkender features ved det, den forstår som et ansigt – uden at gemme og registrere personen på anden vis. 

 

Det interaktive aspekt ved teknologien inviterer i stedet de forbipasserende til at rette opmærksomheden mod skærmen, og kampagnens reelle og velgørende formål afspejles dermed i måden, hvorpå de digitale virkemidler sættes i spil for at skabe blikfang og skabe opmærksomhed. 

 

For mig illustrerer eksemplet, hvorfor ansigtsgenkendelse, på trods af massiv modstand og misbrug, ikke er en teknologi, der bør bortkastes. Potentialet ved ansigtsgenkendelsessystemer, hvis de bruges ansvarligt, er enormt, når det kommer til kreativ markedsføring af velgørende formål og kampagner, som kan skabe en reel positiv forskel i verden. 

 

Kampagnen vandt desuden over 20 forskellige priser for den kreative udnyttelse af teknologien og de resultater, som kampagnen skabte i form af opmærksomhed på området. 

 

Hvordan ser fremtiden ud?

 

Der er fordele og ulemper ved al ny teknologi. Ansigtsgenkendelse gør vores hverdag nemmere ved at låse vores telefoner op, at agere kodeord for vores netbank og som betaling i supermarkeder. Men som nævnt herover er det ikke udelukkende gode ting teknologien bliver brugt til. Og den er heller ikke uden fejl nede i maskinrummet. Ansigtsgenkendelse har senest været i modvind grundet teknologiens bias, utroværdige resultater og en udtalt slagside i forhold til race og køn. 

 

Hos Innovation Lab interesserer vi os for, hvordan den teknologiske udvikling påvirker vores liv og samfund nu og i fremtiden. Spørgsmålet om, hvordan ansigtsgenkendelsesteknologien anvendes på en hensigtsmæssig, meningsfuld og ansvarlig måde, er blot én blandt mange interessante aspekter af digital og teknologisk udvikling, som vi er optaget af.

 

Teknologi skaber gode nuancerede diskussioner, og det skaber nye forventninger til produkter og services. Vi har gennem de sidste 17 år samlet teknologier hjem fra hele verden til vores Demolab, da håndgribelige eksempler på fremtiden er fænomenale til at belyse, hvordan verden ændrer sig. I vores Demolab får I således nye indsigter samt perspektiver og nytænkning i forhold til jeres egen organisation og forretning. 

Hvis du ønsker et inspirerende indblik i, hvad fremtidens teknologier kan bidrage med i din virksomhed, så book et Demolab for dig og dine kolleger, hvor vi kommer ud og demonstrerer vores samling af tech og indgår en indsigtsfuld dialog med jer om de forskellige emner.