Hvordan et Pro-Trump-nettverk bygger et falskt imperium på Facebook og kommer seg unna med det

Forrige måned, Snopes utsatt et medieuttak kalt The BL - forkortelse for 'The Beauty of Life' - som direkte knyttet til kontroversiell Falun Gong-koblet avis The Epoch Times. Epoch Times, som har effektivt servert som en arm av Donald Trump-kampanjen siden 2016, har vært utestengt fra å kjøpe Facebook-annonser siden august 2019 som et resultat av brudd på plattformens annonseringspolitikk. BL-sidene sluttet å kjøre annonser da også. Til tross for vår rapportering som koblet de to organisasjonene, som bare inneholdt en bevis, en YouTube-video av det nøyaktige kontoret oppført som BLs operasjonssenter der to personer som har skrevet for Epoch Times blir introdusert, fortsetter BL å nekte noen lenke overhodet.



Etter at denne historien opprinnelig ble utgitt, bestred Epoch Times-utgiver Stephen Gregory vår karakterisering av koblinger mellom The BL og The Epoch Times, og fortalte oss “ingen nåværende ansatte i Epoch Times jobber for BL, og heller ikke Epoch Times har noen forretningsforbindelse eller forretningskommunikasjon med BL. ”

I denne undersøkelsen rapporterer vi at The BLs tilfeldige bedrag av bedrag ikke er begrenset til dens ukjente lenker til eksisterende medieselskaper. I stedet ser det ut til at Facebook-imperiet bygger på utvetydig uautentiske eller falske taktikker, inkludert massedannelse av falske amerikanske Facebook-profiler og oppretting av falske 'pro-Amerika' -grupper - som alle drives av The BL uten avsløring, og mange hvorav har sin opprinnelse i Vietnam eller andre fremmede land. Disse aktivitetene, viser vi, er en del av en koordinert strategi som tjener til å forsterke rekkevidden til The BLs eget innhold og blåse opp den oppfattede størrelsen på publikum, samtidig som man unngår de belastende reglene knyttet til reklame.





En hjørnestein i både The Epoch Times 'og The BLs Facebook-strategi hadde vært å kjøpe enorme antall Facebook-annonser som tilsynelatende promoterte deres organisasjoner, men som i stor grad ikke kunne skilles fra Trump-kampanjeannonser. Vår forrige rapport viste at minst 1929 annonser opprettet av The BL, som representerer rundt en halv million dollar i penger betalt til Facebook, ble fjernet for å bryte Facebooks annonseringspolitikk. Kombinasjonen av brudd på annonseringspolitikken og tydelig uautentisk oppførsel - på toppen av BLs uvillighet til å innrømme sin tilknytning til The Epoch Times - reiser et alvorlig spørsmål: Hva skal til for at Facebook anser et 'medieselskap' som en dårlig aktør på sin side? plattform?

Vi nådde ut til Facebook med en detaljert liste over spørsmål angående BL og dens taktikk. En talsmann for Facebook svarte ikke på noen av disse spørsmålene, men fortalte oss: 'Vi gjennomgår denne informasjonen, og som alltid vil vi ta grep hvis vi finner brudd på aktivitet.'



BL’s M.O .: Vage Groups and Fake Administrators

I vår originale historie, vi rapporterte at BLs Facebook-sider, så vel som kontoer knyttet til The BLs ansatte, så ut til å få kontroll over og / eller opprette flere sider og grupper uten noen åpenbar lenke til The BL, få kontroll over sine følgere, og i noen tilfeller legge til lenker til et BL-nettsted. Ytterligere rapportering fra Sarah Thompson, en forsker og blogger som påvirker sosiale medier, bekreftet uavhengig denne utbredte praksis i et innlegg fra 1. november 2019 på nettstedet SecJuice, som dokumenterte “275 profiler ... brukt til spamming av [BLs] innhold og administrasjon av gruppene sine. ” Her beskriver vi identifikasjonen vår av over 300 falske personlige Facebook-kontoer, mange som kjører - eller har kjørt - disse BL-koblede gruppene eller sidene og lister opp disse kontoene, og de fleste ser ut til å være opprettet mellom juni 2019 og oktober 2019. :

Database: Falske Facebook-profiler knyttet til BL

Gruppene 'administrert' av disse falske profilene ser ut til å tiltrekke seg konservative amerikanere som vil være mottakelige for BLs eksplisitt redaksjonelle strategi for Trump. De som driver gruppene bruker taktikker som søker å øke engasjementet på sidene sine. Som et eksempel har mange sider et festet innlegg med et bilde av Ivanka Trump eller andre Trump-figurer og en formaning om å skrive ordet 'vakker' under det, noe som forbedrer engasjementstallene for gruppen. Representative gruppenavn inkluderer 'Make America Great Again - PRESIDENT TRUMP' 'PRESIDENT TRUMP MAGA # 2020' 'Support President Trump KAG 2020' 'USA for President Trump 2020' og 'WE SUPPORT PRESIDENT TRUMP #KAG 2020.' Uansett hva gruppenavnet er, er innholdet det samme: pro-Trump memes og lenker til TheBL.com.

to eksempler på at BL-grupper ba leserne svare på et innlegg

Ved å følge grupper som er koblet til offisielle BL-sider, spore administratorer som deles mellom flere BL-koblede grupper, og bruke Facebooks egen anbefalte gruppealgoritme, har vi nå identifisert minst 102 grupper knyttet til The BL. Her presenterer vi disse gruppene og tilknyttede sider:

Database : Grupper og sider knyttet til BL

BLs modus operandi ser ut til å gå omtrent som dette: Opprett en gruppe som bruker en av de over 300 falske kontoene eller over 73 sider til BLs disposisjon, og fyll den med et stort antall falske BL-profiler. Operatører av ordningen skifter deretter gruppen rundt BL-nettverket og parrer den til tider med andre offisielle BL-sider for å fange nye medlemmer. BL-siden Best Videos Facebook, for eksempel, har fungert som administrator i minst 25 Facebook-grupper for Trump, rett ved siden av andre BL-ansatte som også fungerer som administratorer. Til syvende og sist er det gruppevoksende spillet et av slitasje. Ikke alle gruppene trives, men de som gjør det, er vanligvis avskåret fra å ha noen åpenbar lenke til BL - igjen for å streife fritt i et meme-forurenset ødemark mens de tjener som kringkastingsantenne for BL, deres innhold, ber om registrer deg for tekstmeldingsvarsler og deres politiske agenda.

For å mate BLs umettelige behov for grupper, og antagelig for å gjøre det litt vanskeligere for Facebook å oppdage samordningen, krever BL det som ser ut til å være faktiske, unike mennesker for å administrere disse gruppene. Møtet med mangel på faktiske mennesker som er interessert i den rollen, ser det ut til at BL har vedtatt flere strategier for å lage falske profiler. BLs strategier i denne forbindelse synes verken subtile eller klart gjennomtenkte. De primære tilnærmingene ser ut til å omfatte enten å anskaffe og konvertere nedlagte utenlandske kontoer og / eller bruke lagerbilder av kjendiser for å lage profiler av amerikanere.

BL-guiden for å lage lett detekterbare falske Facebook-profiler

Gjør: Bruk repurposed utenlandske profiler

Som diskutert i vår tidligere rapportering, har BL gjort det utallige bånd til vietnamesiske grener av Falun Gong-medieimperiet, en diffus gruppe beslektede enheter som inkluderer The Epoch Times. BLs grunnlegger og direktør, Trung Vu, var en gang administrerende direktør for den vietnamesiske utgaven av The Epoch Times og jobbet senere for NTD TV, en annen Falun Gong-tilknyttet eiendom. En av de mange elementene som knytter The BL til The Epoch Times er det faktum at en IP-server brukt av BL er faktisk registrert til Epoch Times Vietnam.

Denne vietnamesiske innflytelsen kan også sees i mange av de falske profilene som styres av The BL. Vi mistenker at i det minste noen av disse profilene stammer fra kjøp eller erverv av eksisterende sider i Vietnam som deretter blir endret for å bli profiler til falske amerikanere. Mange profiler som nå har amerikansk-klingende navn, har som profil-URL helt urelaterte vietnamesiske navn.

En Facebook-profil som for øyeblikket heter 'Robert Henry' har 'duc.liem.77' som navnet inneholdt i URL-en, sannsynligvis en referanse til det faktiske navnet som ble brukt da kontoen ble opprettet. En profil kalt “Madison Elijah”, som et annet eksempel, ser ut til å ha tilhørt en gang noen som heter Parmar Jayanti. EN profil for “James Roscoe”, som fremdeles lister som sine interesser primært Vietnam-spesifikke gjenstander, har navnet “luc.van.18294053” i sin url.

Gjør: Bruk (og gjenbruk) arkivbilder

Når vi snakker om James Roscoe, er det profilbildet et arkivbilde fra det gratis foto-nettstedet Unsplash.com (a tilbakevendende tema i mange av de falske profilene er gjentatt bruk av fotografier funnet på nettstedet). Noen ganger ser det ut til at operatører på The BL bruker det samme bildet til forskjellige Facebook-profiler med forskjellige navn. Roscoes falske visage blir tilfeldigvis brukt til en annen falsk BL-profil, denne med navnet 'James Anderson':

I et annet eksempel bruker den påståtte Los Angeles-innbyggeren “David Strong” og den påståtte virkelige menneskelige “Anthony Vu” begge det samme arkivfoto som profilbildet deres. Profilen til Vu, som det var tilfellet i andre omformede Facebook-sider beskrevet ovenfor, beholder fortsatt referanser til vietnamesisk populærkultur:

eksempler på falske profiler

Gjør: Bruk kjendiser som profilbilder

Selv om vi ikke kan tenke oss noen strategisk fordel med å bruke lett gjenkjennelige offentlige personer som profilbilder av det som er ment å være skjulte falske Facebook-profiler, er dette en taktikk som BL har benyttet ved flere anledninger. Påståtte administratorer av BL-koblede grupper har brukt bildene av skuespillerne Glenn Close, Helen Mirren og Julie Walters som Facebook-profilbilder, for eksempel:

eksempler på kjendiser i falske profiler

Alle de tre påståtte kjendisdoppelgangerne, på tidspunktet for denne rapporteringen, er administratorer i den BL-tilknyttede gruppen 'VI SUPPORTER PRESIDENT TRUMP # MAGA.' blant andre:

Ikke gjør det: Legg for mye tanke eller innsats i profilens detaljer

Et unormalt høyt antall falske BL-profiler viser stedene deres som byer som høres ut som noe en kaffesultet praktikant med begrenset kunnskap om USAs geografi kan komme opp med: Texas City, Texas og California City, California, for eksempel. Dette er virkelig ekte byer, men den unormalt høye konsentrasjonen av BL-tilknyttede profiler i disse lavbefolkede områdene er mistenksom. I noen tilfeller er andre detaljer enda vanskeligere å svelge.

Ta den førnevnte arkivbildeprofilen til James Anderson. En påstått bosatt i Texas City, Texas, lister han opp sin arbeidsgiver som Texas Rangers baseballlag, en Arlington-basert organisasjon fem timer fra Texas City, Texas. En annen profil av en påstått bosatt i Los Angeles ved navn Anderson Charles lister opp det mer geografisk troverdige basketballaget Los Angeles Lakers på sin Facebook-om-side. Dessverre for den profilens troverdighet, viser den imidlertid Lakers som en skole, ikke som en arbeidsgiver:

Er BL faktisk ansvarlig for denne aktiviteten?

Mens mange av de BL-tilknyttede administratorene av disse utallige pro-Trump-gruppene kommer fra de falske profilene som er diskutert ovenfor, begynner disse gruppene ofte å bli eksplisitt administrert av de faktiske profilene til ekte ansatte i The BL. Ved å spore dannelsen og utviklingen av flere BL-grupper fra begynnelsen, observerte vi et gjentakende mønster. BL-medarbeidere generelt, og The BLs kameratvert Matt Tullar spesielt, er noen ganger blant de første individene som blir med i disse gruppene etter dannelsen, men før de ble fylt med en flom av falske profiler. Etter at de ansatte er med i disse gruppene, blir de ofte kort tid etterpå administratorer av dem:

Tullar, som diskutert i vår forrige undersøkelse, lister opp sin nåværende jobb på LinkedIn som salgs- og markedsdirektør for Orange County-utgaven av The Epoch Times. Gregory, forlaget Epoch Times, fortalte oss “Tullar sluttet å jobbe for The Epoch Times i oktober 2016. Orange County-utgaven av The Epoch Times ble stengt for mange år siden.”

Han er nå en videopersonlighet for The BL. Hans videoer inkluderer blant annet klimaendringer benektelse , forsterke antivaksine retorikk, og skyver rasistiske troper. I en video , Hevdet Tullar at Michael Brown, den ubevæpnede svarte tenåringen hvis død utløste landsomfattende protester, 'sannsynligvis med rette ble skutt' av en Ferguson-politibetjent. Tullar beskrev Brown som en 'ekstremt aggressiv 18-åring, 6 fot 4 tommer, 295 pund.' I den samme videoen foreslo han på tynt tilslørt språk at svarte mennesker har en større tilbøyelighet til vold: 'Vi er ikke like, og vi har ikke alle samme tilbøyelighet til kriminell oppførsel,' argumenterte Tullar, mens han diskuterte 'svart -på svart kriminalitet. ”

I tillegg til å skrive og være vert for disse videoene, ser Tullar også ut til å være en integrert del av The BLs gruppeopprettelsesordning. Som et nylig eksempel var Tullars profil blant de første som ble med i en serie grupper opprettet 13. oktober 2019: “ TRUMPTOG 2020 - 2024! '' PRESIDENTTRUMP 2020-2024! '' VI STØTTER PRESIDENTTROMP # KAG 2020 ”Og“ VI STÅR MED TRUMP & PENSE! ”Tullar er heller ikke den eneste BL-medarbeideren som ser ut til å være grunnlegger i mange BL-tilknyttede grupper. En Facebook-konto med samme navn som administrerende redaktør for The BL, Orysia McCabe, vises også i disse flere av disse gruppene rett etter dannelsen.

Dette gjentatte mønsteret - der en gruppe blir dannet, fulgt like etterpå i flere tilfeller ved at BL-ansatte blir med og blir administratorer av den, og deretter fyller den med falske profiler - kan ha flere operasjoner som ligger til grunn for prosessen. Disse vil omfatte anskaffelse av gamle Facebook-profiler, opprettelse av falske profiler og vage grupper, og meldinger og manipulering av sosiale medier som foregår i disse gruppene. BL selv er tom for Middletown, New York - stedet Tullar lister som sitt hjem. Basert på noen av de geografiske eller stavemessige gaffene og gjenværende detaljer i falske profiler eller gruppenavn, ser det ut til at deler av operasjonen sannsynligvis er basert i utlandet.

Nylig sendte vi en melding til en BL-tilknyttet profil - en som har gjort flere opptredener i flere BL-grupper og sider - for å spørre hvilken region den var fra. Til tross for en profil som hevdet å tilhøre en bosatt i Arizona, svarte personen som drev profilen at det var i India:

Senere kontaktet denne brukeren oss igjen for å endre svaret til Kenya:

Han fortalte oss at han har fem Facebook-profiler. En av dem sa at han bor i Thailand.

Facebook “vil ta grep” hvis de “finner krenkende aktivitet”

Selv om Facebook ikke svarte på spørsmål som spurte om det hadde forbudt The BL å kjøpe annonser som det gjorde med The Epoch Times, ser det ut til at det sosiale medieselskapet i det minste er tolerant overfor BLs aktivitet på Facebook generelt. BLs offisielle merkevaresider er for eksempel og forblir Facebook-verifiserte. Det er imidlertid vanskelig å komme med noen rasjonell argumentasjon om at The BL og dens sosiale mediepraksis er i samsvar med Facebooks egne beskrivelser av vilkår for bruk.

For det første eksisterer allerede en utvetydig oversikt over Facebook-brudd - 1929 av dem -. Det er hvor mange BL-annonser, basert på Facebooks eget verktøy for annonsetransparens, endte med å bli fjernet for å bryte Facebooks annonseringspolitikk. Langt fra å være et medieutløp med et sterkt Facebook-rykte, er BL allerede - selv uten referanse til noe diskutert i vår etterforskning - en bokstavelig gjerningsmann av Facebooks annonseringspolitikk. Likevel er brudd på reklame ikke den eneste Facebook-regelen. BL, som en medieorganisasjon, bryter.

Uansett hvordan du undersøker det, praktiserer BL det Facebook beskriver som uautentisk oppførsel . Ifølge Facebooks samfunn retningslinjer , Facebook tillater ikke 'folk å fremstille seg feil på Facebook, bruke falske kontoer, kunstig øke populariteten til innhold, eller engasjere seg i atferd designet for å muliggjøre andre brudd under våre fellesskapsstandarder.' BL er engasjert i hver av disse atferdene som Facebook hevder bryter med retningslinjene.

BL fremstiller seg feil på mange måter. Som vår tidligere rapportering demonstrerte, gjengir den feilaktig sin uavhengighet fra The Epoch Times. Og som denne rapporten viser, ved å ikke avsløre at disse spammy-gruppene er bygget for å være til fordel for et medieutløp, er hver av BLs generisk navngitte grupper også en feilaktig fremstilling. Denne feilrepresentasjonen er aktivert, i liten grad, ved bruk av falske kontoer - et annet entydig Facebook-brudd. Til slutt er den konstante opprettelsen av grupper hvis rolle er å spamme medlemmer med BL-spesifikt innhold en praksis som er utformet for, som Facebook beskriver, 'kunstig øke populariteten til innholdet.'

BL er langt fra det første utsalgsstedet for å finne måter å spille Facebook for å blåse opp populariteten til innholdet. Facebook kom nylig under skudd da reporter Judd Legum demonstrerte at The Daily Wire, et konservativt uttak grunnlagt av Ben Shaprio, som konsekvent rangerer som det mest delte medieuttaket på plattformen, hadde skapt ukjente sider hvis primære formål var å dele Daily Wire-innhold. Facebook tok i så fall ingen tiltak mot The Daily Wire.

Det gjenstår å se hvilken handling, om noen, Facebook vil iverksette mot The BLs tydelig uautentiske Facebook-imperium. Å ta ned falske profiler, noe som ser ut til å ha skjedd i løpet av tiden vi har observert BL, er mindre enn et slag på håndleddet for et utløp som ser ut til å ha en engangsinventar av falske profiler og muligheten til å skape mer på få minutter hvis det er nødvendig. Facebook-grupper ser ut til å være et annet vanskelig område for Facebook-regulering.

Basert på vår tidligere rapportering, ser Facebook ut til å være mindre ivrige etter å iverksette tiltak mot en gruppe (i motsetning til en side). I vår opprinnelige rapport om The BL identifiserte vi 69 Facebook-sider, hvorav 22 med små følger ble deretter tatt ned etter vår publisering. Motsatt identifiserte vår opprinnelige rapportering 91 Facebook-grupper, men alle 91 av gruppene vi identifiserte i den rapporten er fortsatt aktive på tidspunktet for denne rapporteringen. Tilsvarende en egen etterforskning av Snopes i oktober 2019 identifisert flere “amerikanske” sider går tom for Ukraina. Facebook fjernet sidene vi identifiserte, men i minst ett tilfelle en gruppe administreres av en av de fjernede sidene forblir online.

“Vi tillater ikke innlegg som er delt fra andre Facebook-sider eller grupper”

Likevel, kanskje noe Facebook gjør, er i veien for The BLs strategi. 6. november 2019 fylte en Facebook-profil med navnet «Josephson Magnolia» med en arkivfoto fra Unsplash.com, informert medlemmer av BL-Linked gruppen 'Trump For America's President' at 'på grunn av Facebooks opptrapping av falske nyhetskontroll [og] for å sikre en jevn drift av vår gruppe.' medlemmene fikk ikke lov til å dele innlegg fra andre Facebook-sider bortsett fra de som tilhører The BL:

På den annen side ser det ut til at kontrollen av Facebook-grupper som bare deler lenker til BLs innhold, har vært visjonen om hele denne operasjonen fra starten.