Los Trolls internos: Cómo las operaciones de información rusas se infiltraron en las comunidades en línea en 2016
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEgHZ3Mf_W4T3FzFM4K9CK7T98wNB7Og7EykKyYib7PKYwpgE-ln5YZS4ginR7hFBHFAU4veFESnPVlmphWhfjbONkKkkXRCdj7E9i_C-zWucs-qCorJYSkZgE7M-bivABQW3SFc_GKTUOuo/s1600/Image0000184-768x512.png)
Kate Starbird - Medium
Para los investigadores en operaciones de desinformación e información en línea, ha sido una semana interesante. El miércoles, Twitter lanzó un archivo de tweets compartidos por cuentas de Internet Research Agency (IRA), una organización en San Petersburgo, Rusia, con supuestos vínculos con el aparato de inteligencia del gobierno ruso. Este archivo de datos proporciona una nueva ventana a las operaciones de información recientes de Rusia. El viernes, el Departamento de Justicia de los Estados Unidos presentó cargos contra una ciudadana rusa por su papel en las operaciones en curso y proporcionó nuevos detalles sobre sus estrategias y objetivos.
Las operaciones de información explotan los sistemas de información (como las plataformas de medios sociales) para manipular las audiencias con fines políticos y estratégicos; en este caso, uno de los objetivos era influir en la elección de los EE. UU. en 2016.
En nuestro laboratorio en la Universidad de Washington (UW), hemos estado estudiando accidentalmente estas operaciones de información desde principios de 2016. Estos desarrollos recientes ofrecen un nuevo contexto para nuestra investigación, y confirman de muchas maneras lo que pensábamos que estábamos viendo, en la intersección de las operaciones de información y el discurso político en los Estados Unidos, desde una perspectiva muy diferente.
Hace unos años, el estudiante de pregrado de la Universidad de Washington (y ahora doctorado) Leo Stewart inició un proyecto para estudiar conversaciones en línea sobre el movimiento #BlackLivesMatter. Esta investigación creció hasta convertirse en un proyecto de colaboración, conmigo, el estudiante de doctorado Ahmer Arif y la profesora asistente de iSchool Emma Spiro. A medida que la investigación evolucionó, comenzamos a centrarnos en "enmarcar concursos" dentro de lo que resultó ser una conversación en línea muy politizada.
El concepto de encuadre o marco tiene raíces interesantes y definiciones que compiten entre sí (ver Goffman, Entman, Benford y Snow). En términos simples, un marco es una forma de ver y comprender el mundo que nos ayuda a interpretar nueva información. Cada uno de nosotros tiene un conjunto de marcos que utilizamos para dar sentido a lo que vemos, oímos y experimentamos. Los marcos existen dentro de los individuos, pero también pueden ser compartidos. Enmarcar es el proceso de dar forma a los marcos de otras personas; en otras palabras, guiar cómo otras personas interpretan la información nueva. Podemos hablar sobre la actividad de enmarcar, ya que se lleva a cabo dentro de las aulas o mediante transmisiones de noticias, anuncios políticos o una conversación con un amigo que lo ayuda a comprender por qué es tan importante votar. Como probablemente pueda suponer, el encuadre puede ser una poderosa herramienta política.
Los concursos de engaños se producen cuando dos (o más) grupos intentan promover marcos o puntos de vista diferentes, por ejemplo, en relación con un evento histórico específico o un problema social emergente. Piense en las imágenes recientes del grupo de migrantes centroamericanos que intentan cruzar la frontera hacia México. Un marco para estas imágenes ve a estas personas como refugiados que intentan escapar de la pobreza y la violencia, y describe su movimiento coordinado (en la "caravana") como un método para garantizar su seguridad mientras viajan cientos de kilómetros con la esperanza de una vida mejor. Un marco de la competencia ve a esta caravana como un grupo caótico de invasores extranjeros, "incluidos muchos criminales", que marcha hacia los Estados Unidos (debido a las débiles leyes de inmigración creadas por los demócratas), donde causarán daños económicos y perpetrarán violencia. Estos son dos marcos distintos y podemos ver cómo las personas con motivos políticos están trabajando para refinar, resaltar y expandir su marco, y para socavar o ahogar el otro marco.
En 2017, publicamos un artículo que examina los concursos de marcos en Twitter relacionados con un subconjunto de conversaciones de #BlackLivesMatter que tuvieron lugar alrededor de los eventos de filmación en 2016. Consulte nuestro documento para ver los detalles metodológicos y la amplitud de los hallazgos. En ese trabajo, primero tomamos una vista de nivel meta de más de 66,000 tweets y 8,500 cuentas que eran altamente activas en esa conversación, creando un grafo de red (a continuación) basado en una métrica de "audiencia compartida" que nos permitió agrupar cuentas Basado en tener conjuntos similares de seguidores.
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEggPGLYsYJiyXs-rAj4o2WSvd5WDjFRT0uh-kVm-r11UI2YujLVC611vSXkAoANyzWZkA_kkKQxK01C1GYhPFH_MxlcDb8QIZeuAq9Vi5U6SkuSsj4pn36Ui0T0MQ7WDdwzsE0YDsen73Rz/s1600/Image0000184-768x512.png)
Figura 1. Grafo de cuentas de la “audiencia compartida” en las conversaciones de Twitter sobre los eventos #BlackLivesMatter y Shooting en 2016
Ese grafo reveló que, estructuralmente, la conversación de #BlackLivesMatter en Twitter tenía dos grupos o comunidades de cuentas distintas: una sobre la "izquierda" política que apoyaba a #BlackLivesMatter y otra sobre la "derecha" política que criticaba a #BlackLivesMatter. (Para obtener más información sobre los colores dentro del grupo a la derecha, lea el documento).
A continuación, realizamos un análisis cualitativo de los diferentes contenidos que compartían las cuentas en los dos lados diferentes de la conversación. Contenido, por ejemplo, como estos tweets (desde el lado izquierdo del grafo):
Tweet: Cops called elderly Black man the n-word before shooting him to death #KillerCops #BlackLivesMatter
Tweet: WHERE’S ALL THE #BlueLivesMatter PEOPLE?? 2 POLICE OFFICERS SHOT BY 2 WHITE MEN, BOTH SHOOTERS IN CUSTODY NOT DEAD.
Y estos tweets (desde el lado derecho del grafo):
Tweet: Nothing Says #BlackLivesMatter like mass looting convenience stores & shooting ppl over the death of an armed thug.
Tweet: What is this world coming to when you can’t aim a gun at some cops without them shooting you? #BlackLivesMatter.
En estos tweets, puedes ver los tipos de "concursos de engaños" que se llevaban a cabo. A la izquierda, el contenido se unió alrededor de los marcos que destacaban los casos en los que los afroamericanos eran víctimas de violencia policial, caracterizando esto como una forma de racismo sistémico e injusticia en curso. A la derecha, el contenido apoyaba marcos que destacaban la violencia dentro de la comunidad afroamericana, argumentando implícitamente que la policía actuaba razonablemente en el uso de la violencia. También puede ver cómo el contenido de la derecha intenta contrarrestar y socavar explícitamente el movimiento #BlackLivesMatter y sus marcos y, a su vez, cómo reacciona el contenido de la izquierda e intenta impugnar los contramarcos de la derecha.
Nuestra investigación reveló varios datos interesantes acerca de la estructura de los dos grupos distintos y la naturaleza del activismo "de base" que conforma ambos lados de la conversación. Una vez más, tendrás que leer el documento para obtener más información (ver abajo de este párrafo). Pero a un alto nivel, dos de nuestros principales puntos de partida fueron 1) cuán divididas estaban esas dos comunidades; y 2) cuán tóxico era gran parte del contenido.
Ese primer artículo fue aceptado para su publicación en otoño de 2017; terminamos la versión final a principios de octubre. Y entonces las cosas se pusieron interesantes.
Unas semanas más tarde, en noviembre de 2017, el Comité de Inteligencia de la Cámara de Representantes publicó una lista de cuentas que Twitter les dio, que se encontraron asociadas con la Agencia de Investigación de Internet (IRA) de Rusia y su campaña de influencia dirigida a la elección de los EE. UU. Las actividades de estas cuentas, las operaciones de información de las que formaban parte, se habían producido al mismo tiempo que las conversaciones politizadas que habíamos estado estudiando tan de cerca.
Al revisar la lista, notamos que reconocimos varios nombres de cuenta. Por lo tanto, decidimos realizar una verificación cruzada de la lista de cuentas con las cuentas en nuestro conjunto de datos #BlackLivesMatter. De hecho, docenas de cuentas en la lista aparecieron en nuestros datos. Algunas, como @ Crystal1Johnson y @TEN_GOP, estaban entre las cuentas más retwiteadas en nuestro análisis. Y algunos de los ejemplos de tweets que habíamos presentado en nuestro artículo anterior, incluidos algunos de los tweets más problemáticos, no fueron publicados por activistas "reales" de #BlackLivesMatter o #BlueLivesMatter, sino por cuentas de IRA.
Para obtener una mejor visión de cómo las cuentas IRA participaron en la conversación de Twitter #BlackLivesMatter, creamos otro grafo de red (a continuación) utilizando los patrones de retweet de las cuentas. Al igual que en el grafo anterior, vimos dos grupos diferentes de cuentas que tendían a retuitear otras cuentas en su grupo, pero no las cuentas en el otro grupo. Nuevamente, había un grupo de cuentas (a la izquierda, en magenta) que era pro-BlackLivesMatter y liberal / demócrata, y un grupo (a la derecha, en verde) que era anti-BlackLivesMatter y conservador / republicano.
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhv941xWLkLmom3beDP8Te-GoU4nnJMhPwynT_p0n4oR6hyIw-H1POazBPXj_pnkV-GHmldwL8vi2xa77FpuTF6TRCZj8xQs83P_d3gXEqkIPjnD7QqK6kFPpEuPV1RBem3TFFkTgOrqh-x/s1600/Image0000184-768x512.png)
Figura 2. Grafo de la red de retweets de cuentas en las conversaciones de Twitter sobre los eventos #BlackLivesMatter y Shooting en 2016
A continuación, identificamos y destacamos las cuentas que se identificaron como parte de las operaciones de información de la IRA. El grafo, en toda su espeluznante gloria, está abajo, con las cuentas IRA en Orange y otras cuentas en azul.
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEgHZ3Mf_W4T3FzFM4K9CK7T98wNB7Og7EykKyYib7PKYwpgE-ln5YZS4ginR7hFBHFAU4veFESnPVlmphWhfjbONkKkkXRCdj7E9i_C-zWucs-qCorJYSkZgE7M-bivABQW3SFc_GKTUOuo/s1600/Image0000184-768x512.png)
Figura 3. Grafo de la red retweets más cuentas IRA Troll (en naranja)
Como puede ver, las cuentas IRA habían personificado a activistas en ambos lados de la conversación. A la izquierda estaban las cuentas de IRA como @ Crystal1Johnson, @gloed_up y @BleepThePolice que representaron a las personas de activistas afroamericanos que apoyaron el movimiento #BlackLivesMatter. A la derecha estaban cuentas de IRA como @TEN_GOP, @USA_Gunslinger y @SouthLoneStar que pretendían ser ciudadanos o grupos políticos conservadores de los Estados Unidos que criticaban el movimiento #BlackLivesMatter.
El estudiante de doctorado Ahmer Arif realizó un profundo análisis cualitativo de las cuentas de IRA activas en esta conversación: estudió sus perfiles y tweets para comprender cómo elaboraron y mantuvieron cuidadosamente a sus personas. Le recomiendo que lea ese documento (especialmente los Resultados y la Discusión; el trabajo se reproduce al final de este párrafo). Entre otras observaciones, Ahmer describió cómo (como persona de inclinación izquierda que apoyaba #BlackLivesMatter) fue muy fácil problematizar gran parte del contenido de las cuentas en el lado "derecho" del grafo, parte de ese contenido, que incluía Las declaraciones e imágenes racistas y explícitamente antiinmigrantes fueron profundamente perturbadoras. Pero de alguna manera estaba más preocupado por su reacción al contenido IRA del lado izquierdo del grafo, contenido que a menudo se alineaba con sus propios marcos. A veces, este contenido lo dejó dudoso sobre si realmente se trataba de propaganda.
Esto subraya el poder y el matiz de estas estrategias. Estos agentes del IRA estaban representando caricaturas de ciudadanos políticamente activos de los Estados Unidos. En algunos casos, estas fueron caricaturas burdas de los peores tipos de actores en línea, utilizando la retórica más tóxica. Pero en otros casos, estas cuentas parecían personas comunes a nosotros, personas que se preocupan por las cosas que nos importan, personas que quieren las cosas que queremos, personas que comparten nuestros valores y marcos. Estos sugieren dos aspectos diferentes de estas operaciones de información.
Primero, estas operaciones de información nos apuntan dentro de nuestras comunidades en línea: los lugares a los que vamos para escuchar nuestras voces, hacer conexiones sociales y organizar acciones políticas. Se están infiltrando en estas comunidades actuando como otros miembros de la comunidad, desarrollando confianza, reuniendo audiencias. En segundo lugar, estas operaciones comienzan a aprovechar esa confianza para diferentes objetivos, para orientar a esas comunidades hacia los objetivos estratégicos de los operadores (en este caso, el gobierno ruso).
Uno de estos objetivos es "sembrar división" - para poner presión en las fallas en nuestra sociedad. Una sociedad dividida que se vuelve contra sí misma, que no puede unirse y encontrar un terreno común, es una que se manipula fácilmente. Observe cómo las cuentas de color naranja en el grafo (Figura 3) se encuentran en el exterior de los grupos: tal vez pueda imaginarlos literalmente separando a las dos comunidades. Los agentes rusos no crearon una división política en los Estados Unidos, pero estaban trabajando para alentarla.
El segundo objetivo es formar a estas comunidades hacia sus otros objetivos estratégicos. No es sorprendente que, considerando lo que ahora sabemos sobre su estrategia 2016, las cuentas IRA a la derecha en este grafo convergieron en apoyo de Donald Trump. Su actividad a la izquierda es más interesante. Como habíamos discutido en nuestro artículo anterior (escrito antes de conocer las actividades de IRA), las cuentas en el grupo pro # BlackLivesMatter de la izquierda estaban muy divididas en el sentimiento acerca de Hillary Clinton y la elección de 2016. Cuando nos fijamos específicamente en las cuentas IRA de la izquierda, encontramos que criticaban constantemente a Hillary Clinton, destacando las declaraciones anteriores que percibían como racistas y alentando a las personas de izquierda que no votaban por ella. Por lo tanto, podemos ver las cuentas IRA utilizando dos estrategias diferentes en los diferentes lados de la gráfica, pero con el mismo objetivo (de elegir a Donald Trump).
La conversación #BlackLivesMatter no es la única conversación política a la que se dirige el IRA. Con los nuevos datos proporcionados por Twitter a principios de esta semana, podemos ver que hubo varias comunidades de conversación en las que participaron, desde derechos de armas hasta temas de inmigración y debates sobre vacunas. Dando un paso atrás y teniendo en cuenta estos puntos de vista de los datos, debemos tener cuidado, tanto en el caso de #BlackLivesMatter como en estos otros públicos de problemas, para resistir la tentación de decir eso, porque estos movimientos o comunidades fueron atacados por las operaciones de información rusas. , que por lo tanto son ilegítimos. El hecho de que las cuentas IRA enviaran mensajes que apoyen a #BlackLivesMatter no significa que A) que la eliminación de la injusticia racial en los Estados Unidos esté alineada con los objetivos estratégicos de Rusia; o B) que #BlackLivesMatter es un brazo del gobierno ruso. (Los agentes de la IRA también enviaron mensajes diciendo exactamente lo contrario, por lo que podemos suponer que son como máximo ambivalentes). Si acepta esto, también debería poder pensar de manera similar sobre las actividades de la IRA que respaldan los derechos de las armas y terminan con la inmigración ilegal en los Estados Unidos. Es probable que Rusia no se preocupe por la mayoría de los problemas domésticos en los Estados Unidos. Su participación en estas conversaciones tiene un conjunto diferente de objetivos: socavar a los Estados Unidos dividiéndonos, erosionar nuestra confianza en la democracia (y otras instituciones) y apoyar resultados políticos específicos Eso debilita nuestras posiciones estratégicas y fortalece las suyas. Esos son los objetivos de sus operaciones de información.
Una de las cosas más sorprendentes de la era de Internet es la forma en que nos permite unirnos, junto con las personas de al lado, en todo el país y en todo el mundo, y trabajar juntos para lograr causas compartidas. Hemos visto los aspectos positivos de esto con el voluntariado digital durante eventos de desastre y activismo político en línea durante eventos como la Primavera Árabe. Pero algunos de los mismos mecanismos que hacen que la organización en línea sea tan poderosa también nos hacen particularmente vulnerables, en estos espacios, a tácticas como las que usa el IRA. Transmitir las recomendaciones de Ahmer Arif, si pudiéramos dejar a los lectores con un solo objetivo, es ser más reflexivos acerca de cómo interactuamos con la información en línea (y en otros lugares), para sintonizar con cómo esta información nos afecta (emocionalmente) y para considerarla. cómo las personas que buscan manipularnos (por ejemplo, moldeando nuestros marcos) no nos están simplemente gritando desde el "otro lado" de estas divisiones políticas, sino que cada vez más intentan cultivarnos y darnos forma desde nuestras propias comunidades.