Si Facebook tracta la xarxa ‘BL’ enganyosa, no funciona

Des de l’octubre de 2019, Snopes segueix les activitats d’un mitjà de comunicació digital anomenat “The BL” (abreviatura de “La bellesa de la vida”), que té explícitament estratègia editorial pro-Trump. De diverses maneres, com hem demostrat a múltiple investigacions , aquest outlet ignora les condicions del servei de Facebook en gran mesura sense conseqüències. En el moment d’aquest reportatge, The BL està en procés de construir i mantenir una laberíntica xarxa de grups de Facebook pro-Trump administrats per perfils falsos per inflar artificialment el seu abast, activitat que sembla ser un exemple de llibre de text de com violar el “ comportament inautèntic coordinat ”regla Facebook reclamacions fan complir.

Tot i que el BL manté una Nova York adreça comercial i la seva redacció inclou diversos empleats amb seu als Estats Units, el outlet en el seu conjunt és literalment l’edició en anglès Epoch Times Vietnam , i bona part del comportament inautèntic de The BL sembla originar-se a Vietnam. La incapacitat de Facebook per detectar i combatre actors estrangers maliciosos, com l’Agència Russa d’Investigació en Internet (IRA) o els “adolescents macedonis” que es van beneficiar de les falses notícies pro-Trump, va ser una fallada central de Facebook abans de les eleccions presidencials del 2016, segons diverses agències d'intel·ligència. Facebook sosté que es pren seriosament aquest tipus d’amenaça mentre la seva plataforma es prepara per a futures eleccions.



Tot i això, les accions de Facebook contra The BL, un mitjà que hem demostrat, crea perfils americans falsos des de l’estranger per impulsar el contingut polític dels EUA. Mentre que 282 dels 315 perfils associats a BL, nosaltres identificat com que les falsificacions semblen haver estat eliminades després del nostre informe de novembre de 2019, sembla que Facebook no ha pres cap acció més àmplia contra el mitjà de comunicació en general, ni contra la majoria dels grups de Facebook creats per aquesta activitat fraudulenta. Facebook no va respondre a la nostra sol·licitud d’aclariment sobre la seva aparent acció contra els perfils falsos de The BL, de manera que no tenim ni idea de si Facebook o els seus sistemes automatitzats són els responsables de l’eliminació d’aquests perfils.



La resposta de Facebook als informes de Snopes sobre The BL

Al nostre informe de novembre de 2019, Snopes va identificar 315 perfils falsos s’utilitza per administrar 176 grups o pàgines amb noms pro-Trump. L’objectiu principal o únic d’aquests grups era (i és) compartir enllaços a The BL. Com a part d'aquest informe, vam preguntar a Facebook si aquest comportament constituïa un comportament inautèntic coordinat, que el mateix Facebook defineix com 'grups de pàgines o persones que treballen junts per enganyar els altres sobre qui són o què fan' i inclou explícitament l'ús de perfils o accions falses que 'augmenten artificialment la popularitat del contingut'. 'Com sempre', ens van dir al novembre, 'prendrem mesures si trobem una activitat vulneradora'.

L’empresa afirma anunciar aquestes eliminacions quan es produeixin. En una roda de premsa de novembre de 2019, Facebook van dir als periodistes , 'Quan exposem [un comportament inautèntic coordinat], l'anunciem públicament i l'eliminem de la plataforma'. A causa de les accions dels sistemes automatitzats o de la intervenció directa de Facebook, uns 280 perfils falsos que vam identificar ja no existeixen a Facebook, però si Facebook va eliminar els perfils falsos associats a The BL, no s’emportarà cap acció. I, malauradament, ho hem identificat almenys Perfils falsos de més de 400 que The BL ha creat i utilitzat des del nostre últim informe:



[Base de dades - Perfils, grups i pàgines falsos restants i nous associats a BL ]

Aquests perfils, que ara Fer-ne ús de cares generades artificialment, com les seves imatges de perfil, han substituït ràpidament les que potser s’han eliminat Facebook o els seus sistemes automatitzats. Igual que els seus companys caiguts abans que ells, aquests comptes continuen la feina ocupada d’interaccionar i promocionar contingut en els grups de Facebook “pro-Trump” de The BL. Tot i que aquestes xifres poden semblar petites en comparació amb el 7,7 milions de perfils falsos Facebook afirma eliminar-los un dia determinat; aquests perfils falsos estan dirigits a fer créixer un públic que estimem que ja inclou més de 28 milions de seguidors (en gran part reals).

A més, la supressió o eliminació de perfils falsos (qui en sigui el responsable) no sembla dissuadir l’ús que fa el BL d’un comportament inautèntic coordinat. L’eliminació de Facebook no només no manté el ritme de la producció de nous perfils falsos per part de The BL, sinó que els grups creats per aquests perfils falsos i amb el seu suport continuen sent intactes per part de Facebook. El nostre Informe de novembre identificat 103 grups de Facebook associats a BL , però només n'hi ha un que s'ha suprimit. Aquest estat de coses està, en part, habilitat per una bretxa emprada per The BL: cada vegada que el BL crea un grup, gairebé sempre assignen almenys un membre del personal real de BL (sovint columnista d’opinió). Matt Tullar ) o un dels mitjans de comunicació verificats de The BL o pàgines de Facebook amb un gran seguiment com a moderador, a més dels perfils falsos.



és la llibertat viral un lloc de notícies fals

La participació de Tullar en l’esquema de creació de grups ha estat més demostrable en els casos en què tots els administradors de perfils falsos d’un grup creat per BL van ser eliminats de Facebook. En aquests casos, Tullar va ser exposat com a administrador únic d'un grup - com va ser el cas el 22 de novembre de 2019, al grup 'Estem amb el president Trump KAG 2020!' després de la supressió de comptes d'administrador falsos, 'Josephson Magnolia', 'Amy Justus', 'Rodgers James', 'Paul Young' i diversos altres. L'endemà, es van afegir set nous perfils d'administrador al grup durant un període de temps en què Tullar era l'única persona autoritzada per fer-ho:

Això vol dir que, fins i tot si s’eliminessin tots els perfils falsos (un resultat que sembla improbable donada l’aparent incapacitat de Facebook per detectar-los en primer lloc), el BL continuaria tenint accés als grups que van crear, ja sigui a través de la seva pàgina de Facebook o del seu empleat. . Per exemple, tret que Facebook suprimeixi el compte de Tullar o elimini pàgines BL de marca verificades per Facebook, els grups de Facebook que estan al centre de l’esquema continuen disponibles per a The BL, i aquests grups es poden tornar a omplir amb perfils més falsos. Per donar una idea de l’escala d’aquesta operació, proporcionem el següent vídeo, que mostra quants perfils falsos (en gran part) s’han unit a l’associat BL grup 'Americans for President Trump' el 2019 entre el 5 i el 10 de desembre:

Per què Facebook no suprimeix els grups creats pels perfils indiscutiblement falsos de The BL? Aquesta és una de les moltes preguntes que vam fer a Facebook, que no ha respost a la nostra consulta.

Una operació internacional que promou el contingut polític dels EUA de forma inautèntica

El BL és una edició en anglès de la marca Epoch Times Vietnam, que porta el nom de DKN.tv (Đại Kỷ Nguyên es tradueix com a 'Epoch Times'). Seguint la publicació del nostre primera història , un servidor que vam identificar com a utilitzat per The BL però registrat a 'Epoch Times Vietnam' canviat el seu registre DNS a 'La bellesa de la vida [anteriorment coneguda com] Epoch Times Vietnam'. Si visiteu DKN.tv, un lloc web en idioma vietnamita, i seleccioneu l'edició en anglès, se us enviarà a TheBL.com:

Al nostre informe original, ho documentàvem enllaços múltiples entre el BL i el més ampli Falun Gong mitjana empire que inclou The Epoch Times. L'editor d'Epoch Times, Stephen Gregory, no obstant això, va discutir aquesta informació. Vam contactar amb Trung Vu, The BL’s president , per aclarir el comportament de les seves xarxes socials de la seva empresa i els seus vincles amb altres propietats d’Epoch Media Group, però no hem rebut resposta. L’octubre de 2019, un membre del personal no identificat de The BL ens va dir per correu electrònic que “The BL NO té connexió amb The Epoch Times”.

Tot i així, les nostres discussions amb l’editor de l’Epoch Times suggereixen una connexió d’Epoch Times amb Vietnam. Gregory, al llarg de múltiples correus electrònics que discutien enllaços entre The BL i The Epoch Times, va argumentar com a defensa que Epoch Times Vietnam és realment independent de la xarxa de publicacions més àmplia d’Epoch Times. 'Des de l'octubre de 2018, l'Epoch Times Vietnam no forma part d'Epoch Media Group, l'empresa matriu de The Epoch Times', ens va dir Gregory per correu electrònic.

A banda de la legitimitat d’aquest argument, aquest context vietnamita és crucial a la llum de les activitats més àmplies de Facebook de The BL, que consisteixen principalment en grups de Facebook poblats amb perfils americans falsos originaris de Vietnam. Tots dos El BL i DKN.tv són empreses nord-americanes des del punt de vista de registre empresarial, però són internacionals tant en l'àmbit editorial com en la plantilla, una gran part de les quals, des del punt de vista de les xarxes socials, es troba a Vietnam.

estudiant trans prohibit refugiar-se durant el tiroteig

El BL pot ser un mitjà de comunicació dirigit per Estats Units, registrat als Estats Units, però gran part del comportament que serveix per beneficiar-lo, almenys a Facebook, presenta fortes similituds amb activitats que es classificarien com a inautèntiques en virtut de la seva suplantació d’americans. per actors potencialment estrangers. Aquest punt és crucial: suplantar la identitat dels nord-americans de fora, encara que no sigui l'objectiu específic de The BL, és com els actors estrangers generalment influeixen en la política i les eleccions presidencials dels Estats Units.

Un exemple obertament polític d’aquest tipus de violació de Facebook seria l’Agència de Recerca per Internet (IRA), recolzada pel Kremlin, que forma part de l’esforç rus per interferir en les eleccions presidencials dels Estats Units del 2016. Un altre exemple molt conegut és el “ Adolescents macedonis ”Que va dirigir llocs web de notícies falses pro-Trump abans de les mateixes eleccions. En aquest darrer cas, però, la motivació era financera i no política. El contingut de The BL és explícitament favorable a Trump en la seva estratègia editorial i el moviment més ampli de Falun Gong subjacent a les publicacions d’Epoch Times és segons se suposa totalment invertit a la presidència de Trump. Vol dir això que l'objectiu del comportament és polític o el motiu financer està dissenyat per atreure un públic més nombrós a l'Epoch Times?

'No és inherentment clar per què una empresa de mitjans de comunicació vietnamita gastaria esforços i recursos en promoure la propaganda pro-Trump als EUA', Joshua Tucker , professor de política i ciència de dades a la NYU i cofundador i codirector del laboratori de NYU Social Media and Political Participation (SMaPP), ens ho va dir per correu electrònic. 'Occam's Razor suggeriria que (a) hi hagi un ànim de lucre o (b) ho facin en nom d'una altra persona que els paga per fer-ho. Sense proves addicionals, no tinc ni idea de quina d'aquestes explicacions [és] més probable que sigui correcta, però les trobo més creïbles que la idea que aquesta empresa té un interès fonamental en la política dels Estats Units '.

Tucker, que fa temps que va argumentar que una amenaça igual de gran habilitada per les plataformes de xarxes socials són els actors nacionals que utilitzen les mateixes eines originades per jugadors estrangers el 2016, ens va dir que 'la pregunta més gran que cal fer és què faria Facebook si això estigués completament executat fora d’una operació nacional, perquè segurament això passarà durant la campanya del 2020 ”. L’octubre de 2019, el reporter Judd Legum documentat comportament similar de Facebook basat en la creació de grups de la publicació conservadora nord-americana Daily Wire. Fins ara, Facebook tampoc no ha abordat aquesta situació.

Darren Linvill, catedràtic de comunicacions de la Universitat de Clemson, la investigació sobre la desinformació en línia té informat diverses agències d’intel·ligència i seguretat nord-americanes consideren que el BL és en gran mesura un agent amb motivació financera. A diferència dels falsos perfils americans creats pels russos, que va descriure com a molt realista , Linvill considera els esforços de la BL per crear falsos nord-americans com una 'operació'. Per correu electrònic, va explicar que “aquests comptes falsos són simplement per a astroturfing finalitats i la seva feina és ... fer que el contingut sembli real en lloc del compte 'que comparteix el contingut. Que no siguin molt convincents difícilment és un problema, va argumentar, perquè 'per a un propòsit únic es pot deixar de banda i ser eficaç'.

Qualsevol que sigui el tipus específic de comportament inautèntic coordinat que practiqui la BL (estrangera o nacional, política o financera), la resposta de Facebook a la mateixa és incompatible amb les seves pròpies declaracions públiques que proclamen el compromís d’eliminar aquest abús.

A Facebook li importa un comportament inautèntic coordinat?

Facebook, segons les persones encarregades de fer complir la integritat a la plataforma, afirma que, en les seves relacions amb un comportament inautèntic coordinat, l’objecte del contingut és irrellevant. En lloc d’això, afirma Facebook, la plataforma se centra en el comportament dels actors maliciosos, independentment de si el seu contingut és estranger o nacional, o si té una motivació financera o política. En un Facebook de novembre de 2019 premeu trucada titulat 'Com s'ha preparat Facebook per a les eleccions generals del Regne Unit de 2019', Nathaniel Gleicher, cap de seguretat de Facebook, va fer explícit aquest criteri:

què hi ha al maletí sobre ficció pulp

Quan prenem mesures per eliminar algú a causa del seu comportament enganyós, no estem mirant, no revisem i no estem considerant el contingut que comparteix. En el que ens centrem és en el fet que enganyen o enganyen els usuaris mitjançant les seves accions. Per exemple, utilitzar xarxes de comptes falsos per dissimular qui són i dissimular qui hi ha darrere de l’operació .

El BL practica indiscutiblement l’únic exemple explicat explícitament a la descripció de Gleicher: 'xarxes de comptes falsos'. Els elements d’aquesta xarxa de comptes es coordinen entre si per enganyar els usuaris a pensar que els grups polítics pro Trump de BL són expressions espontànies de patriotisme i no, com és en realitat, funcionen en benefici únic d’una única plataforma de mitjans. La creació de grups mitjançant perfils falsos es fa clarament per 'ocultar qui hi ha darrere de l'operació'.

Tot i això, les accions de Facebook contra aquest abús documentat equivalen a suprimir una fracció dels perfils falsos associats a The BL. En la mateixa convocatòria de premsa, sobre les accions que Facebook ha pres en preparació per a les eleccions del Regne Unit de 2019, Gleicher dit “Sabem que els actors dolents fan servir comptes falsos com una manera d’emmascarar la seva identitat i provocar danys a les nostres plataformes. Per això, hem creat un sistema automatitzat per trobar i eliminar aquests comptes falsos '.

Aquests 'sistemes', va argumentar Gleicher, 'bloquegen milions de comptes falsos cada dia, sovint pocs minuts després de la seva creació'. Però un Centre d’Excel·lència de Comunicació Estratègica de l’OTAN de desembre de 2019 estudiar de Facebook, Instagram, Twitter i YouTube ho van trobar tres setmanes després que els investigadors haguessin comprat perfils falsos en cadascuna d’aquestes plataformes, el 95% continuà en directe.

En la seva defensa, Facebook podria argumentar que un mitjà de comunicació, certament, pocs que han sentit parlar és un problema menor en comparació amb amenaces més grans a la plataforma. Però aquesta excusa també significaria que les accions que Facebook ha dut a terme contra comportaments inautèntics i que ha anunciat a la premsa a la seva redacció també són insignificants. Al nostre recompte més recent, la xarxa més àmplia de BL de Facebook incloïa 67 pàgines, més de 131 grups i més de 400 comptes falsos.

Una mirada a les operacions recents realitzades pels investigadors interns de Facebook mostra que l’escala de l’activitat de The BL eclipsa la de les mesures que Facebook ha ofert públicament com a prova de la seva resposta efectiva a aquesta activitat:

30 d'octubre de 2019 : Avui hem eliminat 35 comptes de Facebook, 53 pàgines, [i] set grups ... que es van originar a Rússia i es van centrar a Madagascar, la República Centreafricana, Moçambic, República Democràtica del Congo, Costa d'Ivori i Camerun.

20 de setembre de 2019 : Avui hem eliminat 65 comptes de Facebook ... implicats en un comportament inautèntic coordinat com a part d'una xarxa nacional centrada a Espanya.

fauci va predir un brot el 2017

16 de setembre de 2019 : Vam eliminar 76 comptes, 120 pàgines de Facebook, [i] un grup ... per haver participat en un comportament inautèntic coordinat enfocat a nivell nacional a l'Iraq.

21 d'agost de 2019 : Avui hem eliminat 89 comptes de Facebook, 107 pàgines de Facebook, [i] 15 grups de Facebook ... per participar en un comportament inautèntic coordinat que es va originar a Myanmar.

Però, de manera més general, The BL com a estudi de cas demostra que la resposta de Facebook a un comportament inautèntic coordinat (simplement suprimir perfils, pàgines i, ocasionalment, grups) és ineficaç si no es combina amb sancions més fortes per a l’entitat que es beneficia d’aquest comportament. El BL com a mitjà de comunicació, que sí Facebook de pagament Almenys mig milió de dòlars en diners publicitaris sembla que no ha tingut cap repercussió directa en les seves accions. De fet, sembla que Facebook no ha pres cap mesura contra cap dels perfils humans reals associats als membres del personal de The BL, i la presa continua participant i es beneficia del mal ús, mentre que totes les seves pàgines de Facebook de marca segueixen sent verificades per Facebook.

'Estem construint una major transparència a la nostra plataforma', va dir Gleicher al novembre, 'perquè el públic, juntament amb investigadors i periodistes de codi obert, puguin trobar i exposar ells mateixos més males conductes'. Aquesta declaració és irrellevant si Facebook no pren mesures contra els autors identificats pel seu anomenat 'augment de la transparència'.

Actualitzarem la nostra història si Facebook respon a les nostres preguntes.