Utvecklingen gör det svårare att avgöra vad som är äkta. Den påverkar hur information behöver bedömas i en vardag där nyheter, underhållning och personliga inlägg ofta samsas i samma flöden.

Utmaningen är inte att allt är falskt, utan att det inte längre går att avgöra äkthet enbart genom att titta eller lyssna. Därför behöver fler förstå vad deepfake är, vad som menas med falska nyheter och hur tekniken används för att vilseleda människor i praktiken.

Vad är deepfake?

Deepfake är ljud, bild eller video som har skapats eller förändrats med hjälp av AI för att efterlikna en verklig person. Tekniken kan få någon att framstå som att den säger eller gör något som aldrig har hänt.

I praktiken tränas AI på stora mängder material, till exempel foton, filmer eller röstinspelningar. Resultatet kan bli mycket realistiskt, även för den som är van att granska digitalt innehåll.

När man talar om deepfake handlar det alltså inte om några framtidsscenarier. Deepfake förekommer redan idag, även i en svensk kontext. Det kan röra sig om manipulerade videor med kända personer, eller röstmeddelanden som låter som en chef, en släkting eller en myndighetsrepresentant.

Vad menas med falska nyheter?

Falska nyheter är information som medvetet är felaktig eller vilseledande och som presenteras i form av nyhetsliknande innehåll. Till skillnad från misstag eller slarv saknas ofta ett syfte som är journalistiskt. Innehållet ska i stället påverka, skapa reaktioner eller leda mottagaren till ett visst beteende.

Falska nyheter skiljer sig också från satir eller rykten. Satir är öppet skämtsam och saknar vilseledande avsikt. Rykten kan uppstå spontant. Falska nyheter är däremot ofta genomtänkta och utformade för att uppfattas som trovärdiga.

Spridningen sker ofta via sociala medier, mejl eller meddelandeappar, där innehåll delas vidare snabbt och utan källkontroll.

Deepfake kan användas i bedrägerier.

Vid bedrägerier används deepfake ofta för att skapa förtroende snabbt. Målet är vanligtvis konkret och tidskritiskt. Innehållet ska få mottagaren att agera direkt, till exempel genom att betala pengar eller lämna ut uppgifter.

Det kan handla om ett telefonsamtal där rösten låter som en närstående och ber om hjälp.

Det kan också vara en video där någon som utger sig för att vara chef eller ansvarig person uppmanar till en snabb betalning.

Lokala exempel på fake news och deepfake.

Exempel på fake news som får spridning rör ofta frågor som många berörs av i vardagen. Innehållet presenteras i ett nyhetsliknande format och sprids snabbt, trots att uppgifterna saknar grund.

Det kan till exempel handla om påståenden om nya eller förändrade bidrag. Artiklar eller inlägg kan ge intryck av att stöd införts eller villkor ändrats, även när ingen sådan information finns från ansvariga aktörer.

Det kan också vara fejkade uttalanden från offentliga aktörer. Skärmdumpar, bilder eller korta texter kan spridas som om de kommer från myndigheter eller samhällsaktörer, trots att innehållet är felaktigt eller taget ur sitt sammanhang.

Gemensamt för den här typen av innehåll är att språket och formen efterliknar traditionell nyhetsrapportering. Det gör att informationen kan uppfattas som mer pålitlig än den är, särskilt när den väcker oro, ilska eller känsla av brådska.

Hur avslöjar man deepfake och falska nyheter?

AI-utvecklingen kräver ett mer vaksamt förhållningssätt till det innehåll vi möter i våra flöden. Deepfake och falska nyheter kan ofta avslöjas om du stannar upp och granskar sammanhanget kring informationen. Innehåll som skapar stress, rädsla eller brådska fungerar ofta som en varningssignal. Det gäller oavsett om det rör sig om en nyhet, ett meddelande eller ett samtal.

Du kan använda dessa steg för att värdera och försöka avslöja misstänkt innehåll:

• Granska källan. Kontrollera om avsändaren är pålitlig och om samma information bekräftas av andra etablerade aktörer.

• Värdera budskapet. Fundera över vem som tjänar på att du agerar snabbt, känner stark oro eller lämnar ut uppgifter.

• Verifiera i en annan kanal. Kontakta personen eller företaget via en väg du själv väljer om en uppmaning känns oväntad.

Risker med fake news och deepfake.

Spridning av deepfake och falska nyheter kan få både personliga och samhälleliga konsekvenser. Effekterna varierar beroende på situation, men här är några återkommande risker:

Ekonomiskt svindleri. Falskt innehåll kan leda till att privatpersoner luras att betala pengar eller lämna ut känsliga uppgifter. Bedrägerier som bygger på deepfake kan ge intryck av legitima uppmaningar, vilket ökar risken för ekonomisk förlust.

Förlorad tillit. När falska nyheter och manipulerat innehåll sprids brett blir det svårare att avgöra vad som är sant. Det påverkar tilliten till medier, institutioner och digital kommunikation i stort.

Identitetsmissbruk. Deepfake kan användas för att missbruka en persons identitet, till exempel genom att skapa material som skadar personens anseende eller används i bedrägliga sammanhang. Även personer som inte själva är måltavlor kan påverkas indirekt.

Kan man inte lita på något man ser eller hör längre?

Deepfake och falska nyheter innebär inte att allt man ser eller hör är falskt. Men de förändrar förutsättningarna för hur du behöver bedöma information. Genom att förstå hur tekniken fungerar, hur manipulation byggs upp och varför vissa budskap skapar starka reaktioner måste man använda sitt eget omdöme.

Denna artikel är granskad och godkänd av Roija Rafii som är Presschef på Telia.