Løgnefabrikkerne spreder mistro og tvivl gennem nettet
DIGITAL OMSTILLING 'Troll farms', løgnefabrikker, fake news, falske profiler, konspirationsteorier. Internettet har forsynet den demokratiske debat med en voksende mængde nedbrydende elementer. Og der er mere af den slags på vej.
![](https://www.mm.dk/cdn-cgi/image/q=80,fit=crop,w=2560,f=jpeg/https://legacy.mm.dk/images/article/17588/15559.jpg)
![Peter Hesseldahl](https://www.mm.dk/cdn-cgi/image/q=80,fit=crop,w=64/https://legacy.mm.dk/images/Writers/192-peter-hesseldahl-2-48.jpg)
Peter Hesseldahl
Redaktør, digital omstillingHvordan får man en masse vælgere til at tro på de mest uhyrlige løgnehistorier?
En strategi, der har vist sig effektiv, er at skabe en falsk person på et socialt medie, som igennem noget tid opbygger en vennekreds og et troværdigt og tiltalende omdømme online. Personen poster sjove, moderate og uskyldige historier og synspunkter om stort og småt, og det passer alt sammen rigtigt godt til et bestemt segment af befolkningen.
Men op til valget begynder personen efterhånden at poste mere politiske opslag og mere radikale synspunkter – og med lidt held bliver de delt af andre i vennekredsen, netop fordi de kommer fra en person, som man har opbygget tillid til.
En variation er at infiltrere Facebook- og Instagram-siderne hos partier og ngo’er. Man skaber en falsk person, som i lang kommer med moderate synspunkter og indlæg i debatten, der er helt på linje med partiets.
Men en dag begynder personen at poste historier, der sår tvivl om partiets egen kandidat eller nogle af de centrale politiske argumenter bag ngo’ens arbejde. Historien antyder, at der måske er noget galt, noget mistænkeligt, som også de partitro bør overveje at undersøge.
Hvis man har ressourcer til det, kan man opbygge en helt falsk tænketank eller falsk ngo med en troværdig facade på internettet, hvor man præsenterer forskning og rapporter. For at styrke troværdigheden sørger man for at blande de helt opdigtede historier med andre historier og rapporter, der er ægte og moderate.
Med lidt held og et vist talent for at skrive saftige historier begynder løgnene at blive delt og sprede sig.
De vilde påstande passer perfekt til de sociale mediers forretningsmodel. Sociale mediers algoritmer er indrettet til at give folk mere af den form for indhold, som de klikker hyppigst på – for dermed bliver der også flere muligheder for at vise reklamer.
De mest opsigtsvækkende og overraskende historier er dem, der bliver set og delt mest. Tilsvarende har nyhedsmedierne også – mere eller mindre bevidst – en tilbøjelighed til at vælge de letlæste, hårdt vinklede og chokerende historier.
Alt er således på plads til at sprede løgne længere og hurtigere end nogensinde.
Fabrikker, der fremstiller løgne
Fake news er blevet en vigtig faktor i politik. For bare ti år siden, da revolutionerne rullede gennem det arabiske forår godt hjulpet af de sociale medier, blev internettet set som en positiv kraft, der styrkede demokratiet og hjalp undertrykte befolkninger med at komme til orde og organisere sig over for magthaverne.
”I dag er det vendt til pessimisme. I de sidste fem til otte år har stort set alle væsentlige politiske begivenheder i de vestlige lande været udsat for misinformation,” konkluderer Aliaksandr Herasimenka, der forsker ved Oxford Internet Institutes Computational Propaganda Project – et af verdens førende centre for viden om, hvordan misinformation produceres og spredes på internettet.
En stor del af misinformationen produceres og distribueres af professionelle organisationer, der kan have hundredvis af ansatte og store, statslige budgetter. De omtales ofte som ’troll farms’, fordi de generer politiske modstandere ved at opdyrke løgne og rygter – det, der kaldes ’trolling’. På Oxford Internet Institute kalder man dem også ”Lie Machines”.
Den centrale troll farm i Sankt Petersborg
En af de centrale uromagere med international rækkevidde er IRA, Internet Research Agency, en organisation i Sankt Petersborg. IRA er beskrevet detaljeret i den særlige anklager fra det amerikanske justitsministerium, Robert Muellers undersøgelse af Ruslands støtte til Donald Trumps præsidentkampagne i 2016.
IRA’s aktiviteter var oprindelig rettet mod Ukraine, og siden Syrien. Men i de tre år op til det amerikanske valg i 2016 oprettede IRA, ifølge Facebook, 120 falske Facebook-sider og udsendte 80.000 posts. Opslagene blev modtaget direkte af 29 millioner amerikanere, og ved at blive liket og delt nåede de ud til 126 millioner amerikanere.
IRA er især finansieret af Yevgeny Prigozhin, kendt som ’Putins kok’, en tidligere småkriminel, der nu ejer en stor russisk catering- og restaurantkæde. Han blev anklaget af Mueller for indblanding i valgkampen, men i marts 2020 droppede det amerikanske justitsministerium overraskende sagen mod ham.
Konspirationsteorier
Et af de produkter, som udvikles og udbredes med stort held på troll farms, er konspirationsteorier.
Den måske vigtigste konspirationsteori i øjeblikket er QAnon, der i korte træk går ud på, at Trump bekæmper en Satan-dyrkende sekt blandt eliten inden for den statslige administration og det demokratiske partis inderkreds – den såkaldte ”deep state”.
Sekten har efter sigende drevet blandt andet en pædofili-ring, ledet af Hillary Clinton, fra et navngivet pizzeria i Washington, D.C.
De mange websites, der udbygger og udbreder teorien, får meget store besøgstal. Trump har flere gange retweeted historier fra QAnon websites, og direkte spurgt ved en pressekonference ville Trump ikke tilbagevise sin sympati. Ved det netop overståede præsidentvalg kom mindst én tilhænger af QAnon-teorien i Repræsentanternes Hus.
En anden af tidens vidt udbredte konspirationsteorier er, at covid-19 blev skabt i et laboratorie, og at når der kommer en vaccine, vil den indeholde små bitte computere, der kan aktiveres ved hjælp af det nye G5-datatransmissionsnet, og dermed vil man kunne fjernstyre os alle. Bag det hele står naturligvis Bill Gates.
En vigtig faktor i Trumps kampagne har været at anklage Joe Biden for at have hjulpet sin søn Hunter med lyssky forretninger i Ukraine og Kina. Få uger inden valget blokerede Twitter links, der henviste til en historie i New York Post, som omtalte et fund af kompromitterende e-mails, angivelig fundet på Hunter Bidens laptop. Twitter ville dermed bremse en historie, der ikke var verificeret, men deres blokering fik omtalen af sagen til at vokse yderligere.
Som bekendt har det været så vigtigt at skaffe belastende materiale mod Hunter Biden, at Donald Trump fik en rigsretssag på halsen for at forsøge at true Ukraines præsident til at hjælpe sig.
Så tvivl og mistillid
I mange tilfælde kan det være svært at forstå formålet med de løgnehistorier og konspirationsteorier, der sendes i omløb.
”Når lande som Rusland eller Kina blander sig i den offentlige debat i USA eller UK, handler det ikke så meget om at fremme en bestemt kandidat eller et specifikt resultat. Meget af indsatsen forsøger at skabe en grundlæggende mistro og splittelse i samfundet. De russiske magthavere ser sig som i en konfrontation med Vesten, og derfor er de nødt til at undergrave de vestlige demokratier ved at svække tilliden til samfundets institutioner, til politikerne og til medierne,” siger Aliaksandr Herasimenka fra Oxford Internet Institut.
Philip N. Howard, der er institutleder for Oxford Internet Institute, konstaterer i sin bog ’Lie Machines’, at misinformation ofte ikke fører til, at folk begynder at tro på de løgnehistorier, de præsenteres for.
Effekten er snarere, at der sås tvivl. Folk begynder at sætte spørgsmålstegn ved åbenlyse sandheder, og man mister tiltroen til det bestående, til videnskaben, medierne og politikerne.
Man behøver ikke at tro på historien, men hvis man bliver ved med at høre teorier og rygter, begynder man at tænke, at der måske er noget om det, der er nok et eller andet skjult, som ikke er kommet rigtig frem, siden der bliver skrevet så meget om det, skriver Philip Howard.
Hvis først facts bliver relative, og truslen om klimaforandringer eller den rette behandling af coronavirus bliver et spørgsmål om, hvad man synes, er vejen banet for at få folk til at skifte mening.
I et klima af tvivl er selv de grundigste undersøgelser og de klareste videnskabelige beviser uden virkning, for ingen tror på noget. Det handler om, hvad man føler er sandt.
Den strategi blev i mange år brugt af tobaksindustrien og er siden blev overtaget af selskaber, der har sået tvivl om klimaforandringerne, skriver Philip Howard.
Det er hårfine marginaler, der skal flyttes
Tvivl og mistillid får en særlig betydning, når det er hårfine marginer, der skiller politiske afgørelser.
I USA og UK, hvor man stemmer i enkeltmandskredse, kan ganske få stemmer afgøre hele kredsen eller delstaten. Ydermere er nogle kredse og delstater meget overrepræsenteret i forhold til deres befolkningstal, og derfor sættes der intenst ind på at påvirke de vælgere, og til det formål er de sociale mediers detaljerede profiler af hver enkelt person en guldgrube – i det omfang man, som Cambridge Analytica gjorde op til Brexit-afstemningen, kan få adgang til dataene.
Undersøgelserne efter præsidentvalget i 2016 viser, at fake news-kampagnerne især var rettet mod vælgerne i svingstater som Michigan, Wisconsin, Florida, Ohio og Arizona, hvor afgørelsen er på vippen.
Ifølge Aliaksandr Herasimenka er det især minoriteter eller folk, som opfatter sig selv som minoriteter eller særligt sårbare, som er modtagelige for fake news. Undersøgelser viser, at det russiske IRA i USA især har henvendt sig til den afroamerikanske del af befolkningen.
Enorme mængder af fake news og falske profiler
Generelt produceres der helt enorme mængder af fake news, og i mange tilfælde er det netop evnen til drukne modstanderes synspunkter, der er strategien.
Facebook fjerner løbende konti og sider fra Facebook og Instagram, som de mener udviser ”koordineret ikke-autentisk opførsel”.
Facebook bruger kunstig intelligens til at identificere problematiske og falske profiler. På et halvt år, fra april til september 2019, lukkede Facebook 3,2 milliarder falske konti. Facebook skønner, at omkring fem procent af deres aktive konti er falske.
For nylig udgav Facebook en analyse af 200 Facebook-konti, 55 Facebook-sider og 76 Instagram-konti, de fjernede i løbet af den første uge af oktober i år. Tilsammen havde siderne knap 400.000 følgere. Rapporten er interessant læsning. Den viser masser af eksempler på, hvor dygtigt mange af løgnene er udformet og illustreret.
Et studie fra Carnegie Mellon viser, på basis af en analyse af 200 millioner tweets, at næsten halvdelen af online-diskussionen om covid-19 og lockdown-bestemmelserne i USA er drevet af robotter, der retweeter.
Studiet anslår også, at næsten halvdelen af al debat på Twitter er drevet af robotter i Rusland.
Ifølge kinesiske medier har Kina omkring to millioner mennesker ansat til at overvåge og moderere de sociale medier. Et studie fra Harvard universitetet skønner, at de mange ansatte skriver 448 millioner opslag om året.
En del af værktøjskassen for politikere og lobbyister
Aliaksandr Herasimenka fra Oxford Internet Institute konstaterer, at de metoder, der oprindelig blev udviklet og anvendt af autoritære regimer, i dag er blevet en helt almindelig del af den værktøjskasse, som også politikere og virksomheder i demokratiske lande anvender.
Toppolitikere bruger åbenlyst misinformation og udnytter internettet til at så splid og uro, men også private virksomheder og lobbyister har lært metoderne, og mange reklame- og kommunikationsbureauer kan nu tilbyde hjælp til målrettede misinformationskampagner.
Det gælder såmænd også i Danmark, hvor pr-bureaet Advice i 2018 organiserede en kampagne for Falck, der spredte løgn og tvivl om den hollandske konkurrent BIOS’ evner til at drive ambulancekørsel. Falck fik en bøde på 30 millioner kroner.
Tilsvarende fik finansmister Nicolai Wammen hård kritik i februar, da det viste sig, at hans pressesekretær i en intern mail blandt socialdemokraterne på Christiansborg opfordrede til, at man ”fandt historier på Venstre”, der kunne bruges på de sociale medier.
I en årlig statusrapport fra Oxford Internet Institute fremgår det, at i alt 70 lande nu har oprettet enheder, der systematisk arbejder på misinformation. Blandt de væsentligste internationale aktører er Rusland, Kina, Iran, Indien og Venezuela. Den største rækkevidde har det engelsksprogede kinesiske tv-netværk CGTV – China Global Television Network – og Ruslands Sputnik og Russia Today.
Om man vil betegne dele af de amerikanske medier som misinformationer, er en smagssag. Man kan i hvert fald konstatere, at der er store forskelle på, hvad der præsenteres som fakta. Hvis man surfer fra New York Times til Fox News, er det som at træde ind i et parallelt univers af nyheder. De dækker ikke de samme begivenheder, og når de gør, beskrives historien ofte fuldstændig forskelligt.
Der er kommet langt større opmærksomhed på problemerne med trolls og fake news i de seneste par år. Både i USA og i EU er der skærpet regulering på vej, og de sociale medier er – om end noget fodslæbende – begyndt at luge ud i løgnehistorierne.
Men producenterne af fake news udvikler sig også. Det næste niveau af falske historier vil formentlig være såkaldte deep fake-videoer, hvor man ser politikere eller andre, som siger eller gør noget uhyrligt på video – fremstillet så livagtigt, at mange vil lade sig narre.
Og så er robotterne på vej. Mange medier har i dag robotter baseret på kunstig intelligens, der kan skrive store mængder af artikler i et sprog, der kan være forbløffende menneskeligt.
Automatiseringen gør det så billigt at producere indhold, at det bliver muligt at målrette historier, som er udformet meget præcist til små segmenter eller enkeltpersoner. Der skal ikke meget fantasi til at forestille sig, hvordan kunstigt intelligente robotter kan begynde at bombardere internettets brugere med historier, der taler direkte til os.
Måske gør de det allerede. Hvem ved?
![](/small_icon_MM_fuction_email.png)