Falske kolleger i videomoter: Slik avslorer du deepfakes i sanntid

Dette scenariet tilhorte science fiction for bare kort tid siden, men rammer na virksomheter for fullt. En okonomidirektor (CFO) eller en operasjonell leder kobler seg pa et Teams-, Zoom- eller Google Meet-mote. Ansiktet er velkjent, stemmen er identisk, og den forretningsmessige konteksten virker helt logisk. Likevel eksisterer ikke personen pa skjermen: Det dreier seg om en syntetisk videostrom manipulert i sanntid av trusselaktorer for a omdirigere utbetalinger eller stjele kritiske tilganger.

For CISO, IT-sikkerhetsledere og ledergruppen endrer denne nye generasjonen med CEO-svindel (direktorbedrageri 2.0) risikobildet radikalt. Tilliten til videosamtaler forvitrer i mote med generative AI-verktoy som kan klone en ansatt ved hjelp av bare noen fa minutters offentlig tilgjengelig opptak. Hvordan kan man da oppdage en deepfake i bedriftens videomoter uten a lamme den daglige samhandlingen?

Hva er de visuelle og auditive tegnene pa en deepfake i et videomote?#

Kort oppsummert: For a oppdage en deepfake i sanntid bor du se etter manglende leppesynkronisering, unaturlig blunking, forvrengninger langs ansiktskonturene ved raske bevegelser og metalliske klangforskjeller i stemmen, noe som avslorer den enorme regnekraften som kreves av sanntidsalgoritmene.

Visuell generativ AI gjor store fremskritt, men sanntidsgjengivelse krever massiv datakraft, noe som uunngaelig etterlater tekniske svakheter. Ved a folge noye med pa mistenkelige videostrommer vil flere signaler kunne avslore bedrageriet:

• Leppeforsinkelse og mikropauser: Leppebevegelsene matcher ikke stavelsene som uttales perfekt. Det oppstar ofte en forsinkelse pa noen brokdeler av et sekund mellom lydbolgen og munnens faktiske dynamikk.
• Uskarpe ansiktskonturer og lysuoverensstemmelser: Nar en deepfake snur pa hodet eller forer en hand foran kinnet, vil bildet ofte flimre, bli uklart eller forvrenges rundt kjevepartiet. I tillegg stemmer lyskilden pa ansiktet sjelden overens med belysningen i bakgrunnen.
• Stivt blikk og kunstig blunking: Generative modeller strever fortsatt med a gjenskape naturlig blunking og spontane mikrobevegelser i oynene. Personen ser ofte uvanlig stivt eller mekanisk inn i kameraet.
• Metalliske lydartefakter: Kloning av stemmer i sanntid produserer flate frekvenser, mangel pa kontekstuell intonasjon og sma digitale stoyavvik i overgangene mellom setninger.

Hvordan avslore en bedrager under samtalen ved hjelp av atferdstester?#

Kort oppsummert: Sett en falsk kollega fast ved a be vedkommende snu hodet bratt i profil, fore handen foran nesen, eller ved a stille uventede interne kontrollsporsmal som ingen ekstern angriper kan svare pa der og da.

Dersom det oppstar tvil nar noen fremmer en uvanlig foresporsel eller oppforer seg uvanlig, ma du ikke vente til videomotet er over med a reagere. Angriperen forsoker a beholde kontrollen pa regien ved a skylde pa darlig nettforbindelse eller ekstrem hastverk. Du har flere effektive grep for a bryte illusjonen:

1. Krev fysiske avbrudd i videostrommen

Be samtalepartneren rett og slett snu hodet 90 grader for a vise seg i profil, eller fore handen opp foran ansiktet. De fleste sanntidsverktoy for ansiktsmanipulering mister umiddelbart den geometriske forankringen av oyne og munn, noe som skaper tydelige bildefeil eller gjor at den digitale masken faller helt bort i et oyeblikk.

2. Still uventede interne kontekstsporsmal

Cyberkriminelle forbereder scenariene sine for sosial manipulering svært noye, men de kjenner sjelden bedriftskulturen i detalj. Still et sporsmal pa siden som det er umulig a forutse: "Fungerer forresten kaffemaskinen i tredje etasje igjen na?" eller "Husker du navnet pa vikaren som var med pa fellesmotet i gar?". Noling eller unnvikende svar bekrefter som regel at noe er galt.

Hvorfor er praktisk erfaring det eneste varige forsvaret?#

For a ruste medarbeiderne effektivt mot disse avanserte truslene, holder det ikke lenger med teoretiske presentasjoner eller skriftlige retningslinjer. Ansatte ma ha sett og provd teknologien selv for a forsta svakhetene og innarbeide de rette refleksene.

Dette er fundamentet i Brain Securitys tilnærming med Deepfake Studio, vart pedagogiske studio for opprettelse av deepfakes, tilgjengelig kostnadsfritt pa nett uten registrering av brukerkonto. Ved a manipulere ansikter og stemmer i et trygt miljo erfarer de ansatte hvor enkelt det kan gjores, men ogsa hvilke visuelle uregelmessigheter som gar igjen. Denne formen for praktisk erfaring avmystifiserer verktoyene og bygger en kritisk sans som varer langt lenger enn en tradisjonell sikkerhetsadvarsel.

I tillegg gir slike praktiske verksteder solid grunnlag for tiltak knyttet til opplaring og risikoforstaelse rundt kunstig intelligens. Dette stotter opp under virksomhetens interne styringsrutiner og de innsatsforpliktelsene som stilles i henhold til AI Act artikkel 4, samt anbefalingene i NSMs grunnprinsipper for IKT-sikkerhet.

BRAIN SECURITY I PRAKSIS · Deepfake Studio

Hvilke operasjonelle rutiner ma etableres ved okonomiske hastehenvendelser?#

Selv med godt opplaerte medarbeidere kan sofistikert sosial manipulering lure menneskelig vaktsomhet. Sikkerhetsarbeidet ma derfor bygge pa et urokkelig prinsipp: Godkjenn aldri kritiske handlinger utelukkende basert pa en videosamtale.

• Out-of-band bekreftelseskanal: Enhver hasteforesporsel om bankoverforinger, endring av kontonummer (kontonummerbedrageri) eller deling av sensitive tilganger ma verifiseres via en separat kanal (direkte telefonoppringning til et offisielt registrert nummer, eller via en verifisert intern meldingstjeneste).
• Rutine for a avbryte samtalen: Innfor en tydelig policy i virksomheten: Ved mistanke er det aldri et brudd pa tjenesteplikten a legge pa umiddelbart og ringe personen tilbake pa det kjente interne nummeret. Dette gjelder bade for SMB-markedet og storre virksomheter, sa vel som overfor tilsynskrav fra Finanstilsynet, DORA-forordningen og Digitalsikkerhetsloven.

Dersom du onsker a trene teamene dine mot de nyeste interaktive truslene og se hvordan vare opplaeringsverktoy kan integreres i deres virksomhet, ta kontakt for a kartlegge deres behov sammen med vare eksperter.

Les videre: relaterte artikler og løsninger fra Brain Security#

Relaterte artikler om dette temaet

• Hvorfor HR-avdelingen er cyberkriminelles favorittmal for phishing (og tiltakene som virker) (Phishing & Social Engineering) : Beskytt rekrutterere mot målrettet phishing og skadelige CV-filer. Oppdag hvordan realistisk trening og teknisk herding sikrer HR-avdelingen.
• Internt phishing: Hva gjor du nar e-posten kommer fra en kollega? (Phishing & Social Engineering) : Mistenkelig e-post fra en legitim intern konto? Lær hvordan du håndterer kompromitterte kontoer og internt phishing i tråd med NSMs prinsipper.
• Infostealere: Hvorfor lagring av jobbpassord i uadministrerte nettlesere er en kritisk risiko (Phishing & Social Engineering) : Finn ut hvordan infostealere stjeler innloggingsdetaljer og økt-cookies fra uadministrerte nettlesere for å infiltrere bedriftens nettverk.
• Stemmekloning med kunstig intelligens: Hvorfor en falsk melding pa 30 sekunder utgjor hele forskjellen (AI Literacy & AI Act) : Oppdag hvordan en demonstrasjon av stemmekloning med KI gjor sikkerhetsopplaering til en praktisk autentiseringsrefleks for ledelsen og de ansatte.

Utforsk Brain Securitys løsninger på nettstedet vårt

• Tilknyttet løsning : Deepfake Studio : Bevissthet om deepfakes og stemmekloning: beskytt ledelsen og økonomiavdelingen mot AI-basert svindel.
• Se bruksområder etter mål og bransje
• Sammenlign våre formater for cyber- og AI-bevissthet
• Utforsk hele den interaktive katalogen fra Brain Security
• Snakk med teamet vårt om deres behov (demo og oppsett)