SAN FRANCISCO. Twitter ha aumentado drásticamente su batalla contra cuentas falsas y sospechosas, suspendiendo más de un millón de cuentas al día en los últimos meses, un cambio importante para disminuir el flujo de desinformación en la plataforma, según datos obtenidos por The Washington Post.
La tasa de suspensiones de cuentas, que Twitter confirmó al Correo, se ha más que duplicado desde octubre, cuando la compañía bajo presión del Congreso reveló cómo Rusia usó cuentas falsas para manipular las elecciones presidenciales de Estados Unidos. Twitter suspendió más de 70 millones de cuentas en mayo y junio, y el ritmo ha continuado en julio, según los datos.
La eliminación agresiva de cuentas no deseadas puede dar lugar a una disminución rara en el número de usuarios mensuales en el segundo trimestre, que terminó la semana pasada, de acuerdo con una persona familiarizada con la situación que no estaba autorizada para hablar. Twitter se negó a comentar sobre un posible declive en su base de usuarios.
El alcance de las suspensiones de cuentas, que no se ha informado anteriormente, es una de las medidas recientes de Twitter para limitar la influencia de las personas que, según dicen, abusan de su plataforma. Los cambios, que fueron objeto de debate interno, reflejan un cambio filosófico para Twitter. Sus ejecutivos se resistieron durante mucho tiempo a vigilar la mala conducta de manera más agresiva, y durante un tiempo incluso se refirieron a sí mismos como «el ala de la libertad de expresión del partido de la libertad de expresión».
El Vicepresidente de Confianza y Seguridad de Twitter, Del Harvey, dijo en una entrevista esta semana que la compañía está cambiando el cálculo entre la promoción del discurso público y la preservación de la seguridad. Agregó que Twitter solo recientemente pudo dedicar los recursos y desarrollar las capacidades técnicas para atacar el comportamiento malicioso de esta manera.
«Uno de los mayores cambios está en cómo pensamos en equilibrar la libertad de expresión frente al potencial de la libertad de expresión para relajar el habla de otra persona», dijo Harvey. «La libertad de expresión en realidad no significa mucho si las personas no se sienten seguras».
La creciente campaña de Twitter contra bots y trolls es parte de los esfuerzos de Silicon Valley para combatir la desinformación de manera más efectiva que en 2016, cuando Rusia utilizó algunas de las plataformas tecnológicas más prominentes de Estados Unidos para engañar a los votantes a gran escala y exacerbar las tensiones sociales y políticas. Google, Facebook y varias otras empresas también han redoblado esfuerzos contra las campañas de manipulación coordinadas de gobiernos extranjeros y otras fuerzas invisibles.
Pero el aumento de las suspensiones de Twitter también pone en duda su estimación de que menos del 5 por ciento de sus usuarios activos son falsos o están involucrados en el spam, y que menos del 8.5 por ciento usa herramientas de automatización que caracterizan a las cuentas como bots. (Una cuenta falsa también puede ser una que se involucra en un comportamiento malicioso y es operada por una persona real. Muchas cuentas legítimas son bots, como para informar el clima o la actividad sísmica).
Harvey dijo que la represión no ha tenido «un montón de impacto» en el número de usuarios activos, que se situó en 336 millones al final del primer trimestre, porque muchas de las cuentas problemáticas no tuiteaban regularmente. Pero moverse más agresivamente contra cuentas sospechosas ha ayudado a la plataforma a proteger mejor a los usuarios de la manipulación y el abuso, dijo.
Los usuarios humanos legítimos, los únicos capaces de responder a la publicidad que es la principal fuente de ingresos para la compañía, son fundamentales para el precio de las acciones de Twitter y las percepciones más amplias de una empresa que ha tenido dificultades para generar ganancias.
Investigadores independientes y algunos inversores han criticado a la compañía por no haber actuado de manera más agresiva para abordar lo que muchos consideraban un problema desenfrenado con bots, trolls y otras cuentas utilizadas para amplificar la desinformación. Aunque algunos permanecen latentes durante años, la cuenta más activa twittea cientos de veces al día con la ayuda del software de automatización , una táctica que puede ahogar las voces auténticas y distorsionar el discurso político en línea, dicen los críticos.
«Ojalá Twitter hubiera sido más proactivo, antes», dijo el senador Mark R. Warner (Virginia), el demócrata de mayor rango en el Comité de Inteligencia del Senado. «Me alegro de que, después de meses de enfoque en este tema, Twitter parece estar tomando medidas enérgicas contra el uso de bots y otras cuentas falsas, aunque todavía hay mucho trabajo por hacer».
La decisión de atacar con fuerza las cuentas sospechosas siguió a una batalla campal dentro de Twitter el año pasado sobre si implementar nuevas herramientas de detección. Un esfuerzo previamente no divulgado, llamado «Operación Megáfono», involucró la compra discreta de cuentas falsas y la búsqueda de conexiones entre ellas, dijeron dos personas familiarizadas con las deliberaciones internas. Hablaron bajo condición de anonimato para compartir detalles de conversaciones privadas.
El nombre de la operación se refiere a los megáfonos virtuales, como las cuentas falsas y la automatización, que los abusadores de las plataformas de Twitter utilizan para acallar otras voces. El programa, también conocido como operación de sombrero blanco, formaba parte de un plan más amplio para que la empresa tratara las campañas de desinformación de los gobiernos de forma diferente a los problemas tradicionales como el correo no deseado, que intenta engañar a los usuarios individuales en lugar de dar forma al clima político en todo un país, según estas personas.
Algunos ejecutivos inicialmente se mostraron reacios a actuar de forma agresiva contra las supuestas cuentas falsas y plantearon dudas sobre la legalidad de hacerlo, dijeron las personas familiarizadas con los debates internos de la compañía. En noviembre, un frustrado ingeniero intentó ilustrar la gravedad del problema comprando miles de seguidores falsos para un gerente de Twitter, dijeron dos personas familiarizadas con el episodio. Los bots se pueden comprar fácilmente en un mercado gris de sitios web.
Una persona con acceso a uno de los productos «Firehose» de Twitter, que las organizaciones compran para rastrear los tweets y las métricas de los medios sociales, proporcionó los datos al Correo. The Firehose informa qué cuentas se han suspendido y no suspendido, junto con datos en tweets individuales.
Los bots, trolls y cuentas falsas son casi tan viejos como Twitter, que comenzó a operar en 2006. En 2015, el entonces director ejecutivo de Twitter, Dick Costolo, reconoció el problema en un memorando de la compañía: «Enfrentamos el abuso y los trolls en la plataforma y lo hemos chupado durante años «.
Twitter había dicho en varias declaraciones públicas este año que apuntaba a cuentas sospechosas, incluyendo en una publicación reciente en el blog que casi 10 millones de cuentas por semana estaban siendo «desafiadas», un paso que intenta determinar la autenticidad de la propiedad de una cuenta y requiere usuarios para responder a un aviso, como verificar un teléfono o dirección de correo electrónico.
En marzo, el presidente ejecutivo de Twitter, Jack Dorsey, anunció una iniciativa de toda la compañía para promover «conversaciones sanas» en la plataforma. En mayo, Twitter anunció cambios importantes en los algoritmos que usa para controlar el mal comportamiento. Se espera que Twitter haga otro anuncio relacionado con esta iniciativa la próxima semana.
Pero los investigadores se han quejado durante años de que el problema es mucho más grave y que la definición de Twitter de una cuenta falsa es demasiado limitada, lo que les permite mantener los recuentos bajos. Varios proyectos independientes también han seguido bots particulares y cuentas falsas durante muchos años, e incluso después de la reciente ofensiva, los investigadores señalan cuentas con conductas obviamente sospechosas, como ganar miles de seguidores en tan solo unos días o tuitear durante todo el día.
«Cuando tienes una cuenta twitteando más de mil veces al día, no hay duda de que es un bot», dijo Samuel C. Woolley, director de investigación del Laboratorio de Inteligencia Digital en el Instituto para el Futuro, en Palo Alto, California. tanque de ideas basado «Twitter tiene que hacer más para prevenir la amplificación y la supresión de las ideas políticas».
Varias personas familiarizadas con las deliberaciones internas en Twitter dicen que los cambios recientes fueron impulsados por la presión política del Congreso a raíz de las revelaciones sobre la manipulación de una fábrica rusa de trol, que según Twitter controlaba más de 3.000 cuentas de Twitter en el momento de las elecciones presidenciales de 2016. Según la compañía, otras 50.258 cuentas automatizadas estaban conectadas con el gobierno ruso.
Los informes de noticias sobre la gravedad del problema del bot y un replanteamiento del papel de Twitter en la promoción de la conversación en línea también influyeron en la postura más agresiva de Twitter, dijeron estas personas.
Durante las audiencias del congreso el otoño pasado, las preguntas de los legisladores obligaron a Twitter a mirar más de cerca su problema de bots y trolls, según varias personas de la compañía. También reveló lagunas en lo que la compañía había hecho hasta ahora, y limita las herramientas a disposición de la compañía para responder a las consultas oficiales.
Twitter lanzó un grupo de trabajo interno para analizar las cuentas de la fábrica rusa de trolls, llamada Agencia de Investigación de Internet, y recibió datos de Facebook y otras fuentes, incluida una base de datos de amenazas conocida como QIntel, según dos personas familiarizadas con los procesos de la compañía.
Un descubrimiento importante fue la relación entre las cuentas rusas y los problemas de spam de larga data de Twitter, dijeron las personas. Muchas de las cuentas utilizadas por los agentes rusos, encontraron los investigadores de la compañía, en realidad no fueron creadas por el IRA. En cambio, el IRA había comprado bots que ya existían y que se vendían en un mercado negro. Las cuentas antiguas son más caras que las recién creadas porque es más probable que pasen por los filtros de spam de Twitter, dijo Jonathon Morgan, director ejecutivo de New Knowledge, una startup enfocada en ayudar a las compañías de internet a combatir la desinformación.
El descubrimiento de la conexión entre los bots rusos y el problema del correo no deseado llevó a los directivos de la compañía a abogar por una mayor represión, de acuerdo con las personas familiarizadas con la situación. Una batalla interna se produjo sobre si el enfoque tradicional de la compañía para el correo no deseado funcionaría en el combate contra las campañas de desinformación organizadas y administradas por naciones-estado como Rusia.
En lugar de simplemente evaluar el contenido de tweets individuales, la compañía comenzó a estudiar miles de señales de comportamiento, como si los usuarios tuitean a un gran número de cuentas que no siguen, con qué frecuencia están bloqueadas por personas con las que interactúan, si han creado muchas cuentas desde una sola dirección IP o si siguen otras cuentas etiquetadas como spam o bots.
Algunas veces la compañía suspende las cuentas. Pero Twitter también limita el alcance de ciertos tweets al colocarlos más abajo en la corriente de mensajes, a veces denominado «prohibición de sombras», porque el usuario puede no saber que están siendo degradados.
Harvey dijo que el esfuerzo se basó en la experiencia técnica de una startup de inteligencia artificial llamada Magic Pony que la compañía adquirió en 2016. La adquisición «sentó las bases que nos permitieron volvernos más agresivos», dijo Harvey. «Antes de eso, teníamos este martillo contundente de su cuenta suspendida, o no lo era».
Los datos obtenidos por el Post muestran un flujo constante de suspensiones y picos en días determinados, como el 7 de diciembre, cuando se suspendieron 1.2 millones de cuentas, casi un 50 por ciento más que el promedio de ese mes. También hubo un pronunciado aumento a mediados de mayo, cuando Twitter suspendió más de 13 millones en una sola semana, 60 por ciento más que el ritmo en el resto de ese mes.
Harvey dijo que la compañía planeaba ir más lejos en el próximo año. «Tenemos que seguir observando cuáles son los vectores más nuevos y cambiar nuestras formas de contrarrestarlos», dijo. «Esto no significa que vamos a sentarnos en nuestros laureles». (Craig Timberg y Elizabeth Dwoskin/washingtonpost.com)
