Artificiell intelligens (AI) har snabbt blivit det största enskilda hotet mot sociala mediers kärnverksamhet. Problemet är inte tekniken i sig, utan den explosionsartade spridningen av falska videor och bilder – så kallade deepfakes – som underminerar användarnas förtroende. Folk litar helt enkelt inte på vad de ser i sina flöden.
Brist på förtroende leder till minskat engagemang
Sociala medier lever på engagemang och tillförlitlighet. När användare ständigt tvingas ifrågasätta om ett foto eller en video är verklig, minskar deras vilja att interagera. Detta minskade förtroende översätts direkt till mindre engagemang och i slutändan lägre intäkter för plattformarna.
Branschrapporter och analytiker tyder på att en stor del av användarna i dag tvivlar på äktheten i det innehåll de konsumerar dagligen. Detta generella tvivel får som konsekvens att användare drar sig tillbaka från flödena. Fenomenet är särskilt märkbart bland yngre målgrupper. Denna grupp är van vid en hög grad av visuell perfektion. En sådan tillförlitlighetskris har potential att skada plattformarnas varumärken och användarbas.
Tekniken skapar perfekt imitation
Problemet förvärras av att AI blir allt bättre på att imitera mänsklig kommunikation och visuell estetik. Nya AI-modeller kan generera trovärdiga bilder och videor på några sekunder. Detta skapar en så kallad ”tillförlitlighetskris”. Det har blivit nästan omöjligt för den genomsnittliga användaren att skilja äkta innehåll från en deepfake.
Denna utveckling har en särskilt negativ inverkan på val och politiska diskussioner. Falska uttalanden från politiker, skapade med AI, kan spridas blixtsnabbt före en plattformsmoderator hinner agera. Den ständiga närvaron av falskt innehåll leder till att den digitala offentliga sfären blir en plats där sanningen är irrelevant.
Lösningen är märkning, men tempot är för långsamt
Sociala medieplattformar som Meta och Google har lovat att införa striktare regler för AI-genererat innehåll. De har börjat utveckla verktyg för vattenmärkning och märkning av AI-skapat material. Experter varnar dock för att dessa åtgärder inte införs tillräckligt snabbt för att hålla jämna steg med teknikens utveckling.
AI är det ultimata hotet mot sociala medier. Det förstör den grundläggande tillgång som plattformarna byggdes på: gemensam verklighet. Om inte förtroendet återupprättas snabbt, riskerar de stora plattformarna att bli utrymmen fyllda av misstankar och därmed tappa relevans.
