Com difonen la desinformació els motors de cerca

noia que mira a través d'una espiral de colors

Image via Crispin la valenta / Moment via Getty Images

Els motors de cerca són una de les principals portes d’entrada de la societat a la informació i a les persones, però també són conductes per a la desinformació.




Aquest article sobre desinformació es torna a publicar aquí amb permís de La conversa . Aquest contingut es comparteix aquí perquè el tema pot interessar als lectors de Snopes, però no representa l'obra dels verificadors de dades o dels editors de Snopes.




Els motors de cerca són una de les principals portes d’entrada de la societat a la informació i a les persones, però també són conductes per a la desinformació. Semblant a algorismes de xarxes socials problemàtics , els motors de cerca aprenen a servir-vos en el que heu fet clic anteriorment vosaltres i altres persones. Com que la gent s’atrau cap a allò sensacional, aquest ball entre algorismes i naturalesa humana pot afavorir la difusió de la desinformació.

He llegit algunes necrològiques amb molt de gust

Les empreses de motors de cerca, com la majoria de serveis en línia, guanyen diners no només venent anuncis, sinó també rastrejant els usuaris i venent les seves dades mitjançant ofertes en temps real sobre ell. Sovint, la gent desemboca en desinformació pel seu desig de notícies sensacionals i entretingudes, així com per una informació que sigui controvertida o que confirmi les seves opinions. Un estudi va trobar que els vídeos de YouTube més populars sobre diabetis són és menys probable que tingui informació mèdicament vàlida que els vídeos menys populars sobre el tema, per exemple.



Els motors de cerca basats en anuncis, com ara les plataformes de xarxes socials, estan dissenyats per recompensar el fet de fer clic a enllaços atractius perquè ajuda les empreses de cerca a millorar les seves mètriques empresarials. Com a investigador que estudia els sistemes de cerca i recomanació , Jo i els meus col·legues demostrem que aquesta perillosa combinació de beneficis corporatius i susceptibilitat individual fa que el problema sigui difícil de solucionar .

Com funcionen malament els resultats de cerca

Quan feu clic a un resultat de la cerca, l'algorisme de cerca s'assabenta que l'enllaç al qual heu fet clic és rellevant per a la vostra consulta de cerca. Això es diu comentaris sobre la rellevància . Aquest comentari ajuda el motor de cerca a donar més pes a aquest enllaç per a aquesta consulta en el futur. Si hi ha prou gent que fa clic en aquest enllaç prou vegades, donant així un fort feedback sobre la rellevància, el lloc web comença a augmentar en els resultats de cerca per a les consultes relacionades i relacionades.

La gent és és més probable que feu clic als enllaços que apareixen més amunt a la llista de resultats de cerca. Això crea un bucle de retroalimentació positiu: com més alt aparegui un lloc web, més clics hi ha i, al seu torn, fa que el lloc web es mogui més o el mantingui més alt. Les tècniques d’optimització de motors de cerca utilitzen aquest coneixement per augmentar la visibilitat dels llocs web.



Hi ha dos aspectes d’aquest problema de desinformació: com s’avalua un algorisme de cerca i com reaccionen els humans davant els titulars, els títols i els fragments. Els motors de cerca, com la majoria de serveis en línia, es jutgen mitjançant una sèrie de mètriques, una de les quals és la implicació dels usuaris. El millor interès de les empreses de motors de cerca és oferir-vos coses que vulgueu llegir, veure o simplement fer clic. Per tant, a mesura que un motor de cerca o qualsevol sistema de recomanació crea una llista d’elements a presentar, calcula la probabilitat que feu clic als elements.

Tradicionalment, es volia mostrar la informació que seria més rellevant. Tanmateix, la noció de rellevància s’ha difuminat perquè la gent ha utilitzat la cerca per trobar resultats de cerca entretinguts i informació realment rellevant .

Imagineu que esteu buscant un afinador de piano. Si algú us mostri un vídeo d'un gat tocant un piano, hi faria clic? Molts ho farien, encara que això no tingui res a veure amb l’afinació del piano. El servei de cerca se sent validat amb comentaris de rellevància positius i s’assabenta que és correcte mostrar a un gat tocant un piano quan la gent busca afinadors de piano.

De fet, és encara millor que mostrar els resultats rellevants en molts casos. A la gent li agrada veure vídeos divertits de gats i el sistema de cerca obté més clics i interacció dels usuaris.

Pot semblar inofensiu. Què passa si la gent es distreu de tant en tant i fa clic en resultats que no són rellevants per a la consulta de cerca? El problema és que la gent se sent atreta per imatges emocionants i titulars sensacionals. Ells solen fer clic a les teories de la conspiració i a les notícies sensacionalitzades , no només els gats que toquen el piano, i ho fan més que fer clic a notícies reals o informació rellevant.

Aranyes famoses però falses

El 2018, es cerca una 'nova aranya mortal' a Google després d'una publicació a Facebook que afirmava que una nova aranya mortal va matar diverses persones en diversos estats. Els meus col·legues i jo vam analitzar els 100 millors resultats de la cerca de Google de 'nova aranya mortal' durant la primera setmana d'aquesta tendència de consulta.

Distribució dels resultats de la cerca de

Les dues primeres pàgines dels resultats de la cerca de Google per a la 'nova aranya mortal' a l'agost del 2018 (zona ombrejada) estaven relacionades amb la publicació de notícies falses original sobre aquest tema, no amb la desacreditació o informació factual.
Chirag Shah, CC BY-ND

Va resultar aquesta història era fals , però la gent que el cercava estava en gran part exposada a desinformació relacionada amb la publicació falsa original. Mentre la gent feia clic i compartia aquesta desinformació, Google va continuar publicant aquestes pàgines a la part superior dels resultats de la cerca.

el que passava a la pel·lícula pulp fiction

Aquest patró d’històries emocionants i no verificades que apareixen i les persones que hi fan clic continuen, aparentment la gent no es preocupa per la veritat o creu que si un servei de confiança com la Cerca de Google els mostra aquestes històries, les històries han de ser certes. Més recentment, a informe refutat afirmant que la Xina va deixar fugir el coronavirus d'un laboratori va guanyar força en els motors de cerca a causa d'aquest cicle viciós.

Localitzeu la desinformació

Per provar fins a quin punt la gent discrimina entre informació precisa i desinformació, hem dissenyat un joc senzill anomenat ' Google o no '. Aquest joc en línia mostra dos conjunts de resultats per a la mateixa consulta. L’objectiu és senzill: seleccioneu el conjunt que sigui fiable, fiable o més rellevant.

Una captura de pantalla que mostra dos conjunts de resultats de cerca de Google paral·lelament

A les proves, aproximadament la meitat del temps les persones no saben diferenciar els resultats de la cerca de Google que contenen informació errònia i els que només tenen resultats fiables.
Chirag Shah, CC BY-ND

Un d’aquests dos conjunts té un o dos resultats que es verificen i s’etiqueten com a desinformació o com a història desacreditada. Vam fer que el joc estigués disponible públicament i es publicità a través de diversos canals de xarxes socials. En general, vam recollir 2.100 respostes de més de 30 països.

Quan vam analitzar els resultats, ho vam trobar aproximadament la meitat del temps que la gent escollia per error com a conjunt de confiança amb un o dos resultats de desinformació . Els nostres experiments amb centenars d’usuaris més en moltes iteracions han donat lloc a troballes similars. Dit d’una altra manera, aproximadament la meitat del temps la gent tria resultats que contenen teories de la conspiració i notícies falses. A mesura que més persones trien aquests resultats inexactes i enganyosos, els motors de cerca saben que això és el que volen les persones.

A banda de les qüestions de regulació i autoregulació de les grans tecnologies, és important que la gent entengui com funcionen aquests sistemes i com guanyen diners. En cas contrari, les economies de mercat i la natural inclinació de les persones a atraure’s per enllaços cridaners mantindran el cicle viciós.

La conversa

fauci coneixia el coronavirus el 2017

Chirag Shah , Professor associat de ciències de la informació, Universitat de Washington

Aquest article es torna a publicar des de La conversa sota una llicència Creative Commons. Llegir el article original .