AI-röster härmar dina släktingar: Så skyddar du dig mot bluffar

AI-röster har blivit så övertygande att det kan vara svårt att höra skillnad på en verklig familjemedlem och en datorgenererad röst. Med hjälp av några sekunders inspelat tal kan bedragare skapa röster som låter som en son, dotter, partner eller annan släkting. Därefter kan samtalen användas för att pressa mottagaren att snabbt föra över pengar eller lämna ut känsliga uppgifter. Problemet är särskilt allvarligt eftersom många agerar instinktivt när de tror att en närstående befinner sig i en nödsituation. Genom att känna till metoderna och använda enkla säkerhetsrutiner kan du minska risken att bli lurad av sådana bluffar.

Så fungerar bluffar med AI-röster

AI-röster bygger på teknik som kan analysera hur en person låter och sedan skapa nytt tal med liknande röstegenskaper. För en bedragare kan tekniken därför bli ett verktyg för att imitera en familjemedlem i ett telefonsamtal. Enligt amerikanska Federal Trade Commission, FTC, kan en kort ljudinspelning räcka för att skapa en övertygande röstkloning. Inspelningen kan exempelvis hämtas från material som redan finns publicerat på nätet. Det gör att en bedragare inte nödvändigtvis behöver ha haft direkt kontakt med personen som imiteras.

Rösten kan användas i en påhittad nödsituation

Ett vanligt upplägg bygger på att bedragaren kontaktar en anhörig och påstår att något allvarligt har hänt. Det kan handla om en bilolycka, ett gripande, en förlorad telefon eller en annan situation där pengar påstås behövas omedelbart. Om rösten dessutom låter precis som den person som ringer upp blir det lättare att skapa trovärdighet. FTC beskriver just familjebedrägerier som ett område där röstkloning kan användas för att få mottagaren att tro att en närstående behöver ekonomisk hjälp.

Bedragaren försöker ofta kombinera den falska rösten med information om familjen. Namn, relationer, resor, arbetsplatser och andra detaljer kan ibland hämtas från sociala medier eller andra öppna källor. Syftet är att samtalet ska kännas personligt och spontant snarare än som ett generiskt bedrägeriförsök. När mottagaren samtidigt får höra en röst som liknar en anhörigs kan flera trovärdiga detaljer förstärka varandra. FTC har beskrivit hur bedragare kan använda både AI och annan information för att göra så kallade familjeakutbedrägerier mer övertygande.

Brådskan är en viktig del av metoden

Ett återkommande inslag är att mottagaren uppmanas att agera snabbt. Bedragaren kan exempelvis säga att pengar måste skickas direkt för att lösa situationen och samtidigt be personen att inte kontakta någon annan. Den typen av tidspress gör det svårare att stanna upp och kontrollera uppgifterna. FTC rekommenderar därför att man inte litar enbart på rösten när någon oväntat ber om pengar eller känsliga uppgifter. Det är särskilt viktigt när samtalet innehåller krav på omedelbar betalning eller sekretess.

AI-rösten behöver inte heller vara perfekt för att fungera som en del av ett bedrägeri. Den kan kombineras med andra tekniker, exempelvis textmeddelanden eller falska uppgifter om var den anhörige befinner sig. FTC har samtidigt konstaterat att röstkloningstekniken utvecklas snabbt och att verktyg för att skapa syntetiskt tal har blivit mer tillgängliga. Det innebär att det blir allt mindre tillförlitligt att använda själva ljudet som bevis på vem som faktiskt befinner sig i andra änden av samtalet.

Tecknen som avslöjar en falsk röst

Det kan vara svårt att upptäcka en AI-genererad röst genom att bara lyssna på samtalet. Tekniken har utvecklats så att syntetiskt tal i vissa situationer kan låta mycket likt den person som imiteras. Därför bör mottagaren inte försöka avgöra äktheten enbart genom röstens tonfall, uttal eller känsla. Det viktigaste är i stället att granska själva situationen. En oväntad kontakt från en anhörig som snabbt övergår till krav på pengar, koder eller annan känslig information bör behandlas med försiktighet, även om rösten känns bekant.

Lyssna efter förändringar i samtalet

Det finns vissa omständigheter som kan göra ett samtal mer misstänkt. Personen kan exempelvis undvika enkla följdfrågor, byta ämne när du vill kontrollera detaljer eller hela tiden återkomma till att en betalning måste göras snabbt. Samtidigt är sådana signaler inte ett säkert bevis på att rösten är AI-genererad. En person som faktiskt befinner sig i en stressande situation kan också uttrycka sig annorlunda än vanligt. Därför bör enskilda språkliga detaljer inte användas som enda kontrollmetod när det handlar om en möjlig bluff.

Ett annat varningstecken är när den som ringer försöker hindra dig från att kontrollera uppgifterna. Bedragaren kan exempelvis säga att telefonen tillhör någon annan, att batteriet håller på att ta slut eller att det inte går att ringa tillbaka. I en familjebedrägeri kan det också förekomma instruktioner om att inte berätta för andra anhöriga vad som har hänt. FTC lyfter fram brådska, sekretess och stark emotionell press som återkommande delar av falska nödsituationer.

Kontrollera personen på ett annat sätt

Den säkraste kontrollen är att bryta den aktuella kontakten och själv ta kontakt med den anhörige genom en kanal du redan känner till. Om någon ringer från ett okänt nummer och säger att det är din dotter, bror eller förälder kan du avsluta samtalet och ringa personens vanliga nummer. Det spelar mindre roll om den första rösten lät exakt rätt. Poängen är att identiteten kontrolleras genom en separat kontaktväg som bedragaren inte styr över. FTC rekommenderar just denna typ av oberoende verifiering vid misstänkta familjesamtal.

Det kan också vara klokt att använda en överenskommen kontrollfråga inom familjen. Frågan bör handla om något som inte enkelt kan hittas på sociala medier och som inte är samma information som används för bankinloggning eller andra säkerhetsfunktioner. Ett sådant upplägg kan göra det svårare för en bedragare att lyckas enbart genom att imitera rösten. Samtidigt är en kontrollfråga ingen absolut garanti. Om en bedragare redan har tillgång till personlig information kan även sådana detaljer vara möjliga att gissa eller få fram.

Så skyddar du dig mot AI-genererade bedrägerier

Det viktigaste skyddet är att skapa rutiner som gör att en övertygande röst aldrig blir det enda beviset på vem som ringer. Familjemedlemmar kan exempelvis komma överens om att oväntade krav på pengar alltid ska verifieras genom en annan kontaktväg. Det kan också vara bra att prata om detta i förväg med äldre släktingar eller andra personer som kan vara särskilt utsatta för bedrägeriförsök. När rutinen redan är bestämd blir det lättare att följa den även när ett samtal försöker skapa stress och rädsla.

Gör det svårare att agera under press

En enkel grundregel är att aldrig skicka pengar enbart på grund av ett telefonsamtal, även om rösten låter bekant. Be personen vänta medan du kontrollerar situationen och ring sedan tillbaka på ett nummer som du själv har sparat. Om personen påstår att det finns ett akut problem kan du också kontakta en annan familjemedlem för att kontrollera uppgifterna. FTC rekommenderar att mottagaren bromsar processen och verifierar berättelsen innan pengar skickas. Det är särskilt viktigt när samtalet innehåller ovanliga betalningsmetoder eller instruktioner om att hålla saken hemlig.

Det finns också skäl att vara försiktig med hur mycket röstmaterial som publiceras öppet på nätet. Inspelningar där en person talar tydligt och länge kan i vissa fall ge bedragare material som kan användas för röstkloning. Det betyder inte att alla bör sluta använda sociala medier eller publicera videor. Däremot kan det vara klokt att gå igenom vilka personliga uppgifter och inspelningar som är offentligt tillgängliga. Integritetsinställningar kan minska mängden information som en okänd person enkelt kan samla in om dig och din familj.

Ha en fast kontrollrutin

När ett misstänkt samtal kommer kan följande steg hjälpa dig att hålla situationen under kontroll:

• Avsluta samtalet eller be personen vänta medan du kontrollerar uppgifterna.

• Ring den påstådda anhörige på ett nummer som du redan känner till.

• Kontakta en annan familjemedlem om den första personen inte går att nå.

• Skicka inte pengar eller lämna ut koder innan identiteten har verifierats.

• Spara information om samtalet om du misstänker ett bedrägeriförsök.

Tekniska lösningar för att upptäcka AI-genererade röster utvecklas också. FTC har exempelvis arbetat med idéer för realtidsdetektering, autentisering och metoder som kan identifiera syntetiskt ljud. Myndigheten har samtidigt betonat att det inte finns någon enskild teknisk lösning som eliminerar problemet. Det innebär att mänskliga kontrollrutiner fortfarande spelar en central roll. Att verifiera identiteten genom en separat kanal är därför en praktisk åtgärd även när tekniken för att upptäcka röstkloning fortsätter att utvecklas.

Var försiktig med pengar och känsliga uppgifter

AI-röstbedrägerier behöver inte bara handla om direkta penningöverföringar. En bedragare kan försöka få fram uppgifter som senare kan användas i andra bedrägerier. Därför bör även uppmaningar att lämna ut bankuppgifter, koder eller annan känslig information behandlas med samma försiktighet. Om någon påstår att en anhörig behöver ekonomisk hjälp är det bättre att ta några minuter för att kontrollera uppgifterna än att låta stressen styra beslutet. En trovärdig röst är trots allt inte samma sak som en verifierad identitet.