Falske kolleger i videomøder: Sådan afslører du et deepfake i realtid

Scenariet virkede som ren fiktion for blot få måneder siden, men rammer nu virksomheder med fuld kraft. En økonomidirektør eller driftsansvarlig træder ind i et opkald på Teams, Zoom eller Google Meet. Ansigtet er velkendt, stemmen lyder identisk, og den forretningsmæssige kontekst virker fuldstændig troværdig. Alligevel eksisterer personen på skærmen ikke: der er tale om et syntetisk videostream, manipuleret i realtid af cyberkriminelle for at gennemføre uautoriserede bankoverførsler eller stjæle kritiske adgange.

For CISO'er, IT-sikkerhedsansvarlige og direktionen ændrer denne nye bølge af direktørsvindel (CEO fraud 2.0) spillereglerne markant. Den intuitive tillid til levende billeder forsvinder, når generative AI-modeller kan klone en nøglemedarbejder ud fra ganske få minutters offentligt tilgængeligt materiale. Hvordan kan man afsløre et deepfake i virksomhedens videomøder uden at lamme de daglige arbejdsgange?

Hvilke visuelle og auditive tegn afslører et deepfake i et videomøde?#

Kort sagt: For at opdage et deepfake i realtid skal I holde øje med manglende læbesynkronisering, unaturlig blinken, forvrængninger omkring kæbelinjen ved hurtige hovedbevægelser samt metalliske tonehøjder i stemmen, der skyldes beregningsforsinkelser i algoritmerne.

Generativ video har nået et imponerende niveau, men rendering i realtid kræver enorm regnekraft. Dette skaber uundgåeligt tekniske fejl. Ved at observere mistænkelige streams opmærksomt træder flere faresignaler frem:

• Læbeforsinkelse og mikropauser: Læbernes bevægelser matcher sjældent de udtalte stavelser præcist. Der opstår ofte en tidsforskydning på brøkdele af et sekund mellem lydbølgen og mundens motorik.
• Uskarpe ansigtskonturer og lysuoverensstemmelser: Når en deepfake-figur drejer hovedet eller fører en hånd foran kinden, flimrer billedet eller sløres omkring kæben. Lyskilden på ansigtet matcher desuden sjældent baggrundens faktiske belysning.
• Stift blik og fravær af naturlig mimik: Mange AI-modeller kæmper stadig med at gengive spontan øjenkontakt og ubevidste mikrobevægelser. Personen virker ofte til at stirre fastlåst og unaturligt direkte ind i webkameraet.
• Metalliske lydartefakter: Stemmekloning i realtid resulterer ofte i et fladt toneleje, mangel på situationsbestemt intonation og små digitale knaselyde mellem sætningerne.

Hvordan afslører man en svindler under opkaldet med adfærdstest?#

Kort sagt: Test en mistænkt samtalepartner ved at bede vedkommende om at dreje hovedet i profil, føre en hånd hen over næsen eller ved at stille uventede interne spørgsmål, som en ekstern angriber umuligt kender svaret på.

Hvis der opstår tvivl i forbindelse med en usædvanlig anmodning eller atypisk adfærd, skal man reagere med det samme. Angriberen forsøger typisk at fastholde kontrollen over sit manuskript ved at henvise til en ustabil forbindelse eller ekstrem tidsnød. I kan bryde den teknologiske illusion med enkle metoder:

1. Fremtving fysiske brud i videostreamet

Bed personen om at dreje hovedet 90 grader og kigge til siden, eller om at vifte med hånden tæt foran ansigtet. De fleste realtidsværktøjer til ansigtsmanipulation mister omgående de geometriske pejlemærker omkring øjne og næse, hvilket resulterer i tydelige billedfejl eller i, at den digitale maske falder helt væk et øjeblik.

2. Stil uforudsigelige, interne kontrolspørgsmål

Cyberkriminelle forbereder deres social engineering grundigt, men de kender sjældent hverdagen på kontoret. Stil et uventet spørgsmål, der ligger uden for dagsordenen: "Virker kaffemaskinen på 2. sal igen?" eller "Hvad hed den studentermedhjælper, der var med på afdelingsmødet i går?". Tøven, bortforklaringer eller et undvigende svar bekræfter ofte manipulationen.

Hvorfor er praktisk erfaring det eneste holdbare forsvar?#

Teoretiske præsentationer eller statiske retningslinjer er ikke tilstrækkelige, hvis organisationen skal beskyttes mod avancerede angreb. Medarbejderne skal have set og afprøvet teknologien selv for at gennemskue begrænsningerne og opbygge en sund skepsis.

Det er fundamentet i Brain Securitys Deepfake Studio, vores interaktive læringsstudie, hvor medarbejdere kvit og frit kan eksperimentere med deepfakes direkte i browseren uden oprettelse af en konto. Ved selv at manipulere ansigter og stemmer i et sikkert miljø oplever medarbejderne på tætteste hold, hvor let materialet genereres, men også hvilke visuelle fejl der opstår. Denne praktiske erfaring afmystificerer teknologien og skærper den kritiske sans mere effektivt end traditionelle advarsler.

Desuden understøtter disse praktiske forløb organisationens samlede foranstaltninger inden for cybersikkerhed og AI-oplysning, hvilket bidrager til at dokumentere ledelsesmæssig omhu og interne tiltag i lyset af anbefalinger fra CFCS samt kravene til AI-kompetencer i AI Act artikel 4.

BRAIN SECURITY I PRAKSIS · Deepfake Studio

Hvilke faste procedurer modvirker hasteoverførsler?#

Selv veltrænede medarbejdere kan manipuleres af målrettet social engineering. IT-sikkerheden i virksomheden skal derfor hvile på et ufravigeligt princip: Kritiske handlinger må aldrig godkendes udelukkende på baggrund af et videoopkald.

• Out-of-band bekræftelse: Enhver hasteanmodning om overførsel af midler, ændring af bankoplysninger eller udlevering af fortrolige adgangskoder skal verificeres via en uafhængig kanal (eksempelvis ved direkte telefonopkald via et kendt internt nummer eller en godkendt beskedplatform).
• Tilladelse til at afbryde: Ledelsen skal formulere en utvetydig politik: Hvis en medarbejder fatter mistanke, er det altid legitimt at afbryde opkaldet med det samme for at ringe tilbage på et verificeret nummer, uden frygt for negative konsekvenser.

Ønsker I at styrke jeres medarbejdere mod interaktive trusler og opleve, hvordan vores læringsværktøjer kan integreres i organisationen, kan I kontakte vores rådgivere for en uforpligtende dialog.

Læs videre: relaterede artikler og løsninger fra Brain Security#

Relaterede artikler om dette emne

• Hvorfor HR er cyberkriminelles foretrukne phishingmaal (og hvordan I handler) (Phishing & Social Engineering) : Beskyt jeres rekruttering mod HR-phishing og skadelige CV'er. Realistisk traening og tekniske greb styrker cybersikkerheden og overholder NIS 2 og GDPR.
• Intern phishing: Hvad gør man, hvis en phishingmail kommer fra en kollegas konto? (Phishing & Social Engineering) : Modtaget en mistænkelig mail fra en intern kollegas rigtige adresse? Lær de afgørende forholdsregler ved kontoovertagelse og intern phishing her.
• Infostealers : Hvorfor lagring af arbejdsadgangskoder i uadministrerede browsere udgør en kritisk risiko (Phishing & Social Engineering) : Lær hvordan infostealers stjæler loginoplysninger og session cookies i uadministrerede browsere for at infiltrere danske organisationer.
• Økonomiafdelingen: 5 svindelnumre du straks skal teste mod bogholderiet (Industries & Roles) : Falske fakturaer, CEO-fraud og deepfakes: Se de kritiske angreb mod bogholderi og finans, og lær hvordan I træner medarbejderne effektivt.

Udforsk Brain Securitys løsninger på vores hjemmeside

• Relateret løsning : Deepfake Studio : Bevidsthed om deepfakes og stemmekloning: beskyt ledelsen og økonomiafdelingen mod AI-svindel.
• Se use cases efter sikkerhedsmål og branche
• Sammenlign vores formater til cyber- og AI-bevidsthed
• Udforsk hele det interaktive katalog fra Brain Security
• Tal med vores team om jeres behov (demo og opsætning)