La irrupción de la pandemia de COVID19 ha dejado al mundo entero en vilo. Mientras investigadores, médicos y científicos están poniendo el ojo sobre posibles soluciones o respuestas que atenúen la propagación del virus, el resto de la ciudadanía también está dando batalla al tema de alguna u otra manera. La población mundial ha visto un quiebre en sus rutinas, debiendo adaptarse a dinámicas de trabajo distintas a las habituales. Muchas personas han visto sus tareas laborales, sus vínculos familiares y afectivos y su tiempo recreativo trasladados al ámbito digital. En un contexto de importante presencia y participación de las personas en internet y de uso de dispositivos móviles, la circulación de contenido en redes sociales también ha estado impactada por la aparición del COVID19.
¿Cuál ha sido el rol de las principales plataformas en estas semanas? En términos generales, podría decirse que han mostrado una fuerte presencia y un papel activo en la moderación de los contenidos que circulan en ellas. Hay quienes sostienen, incluso, que están tomando el control del ecosistema informativo como nunca antes lo habían hecho. No obstante ello, las principales compañías han enviado a sus trabajadores a que trabajen desde sus hogares, dejando un mayor flujo de contenido en manos de herramientas de inteligencia artificial y machine learning.
Veamos, por ejemplo, algunas de las medidas que tomaron Facebook y Twitter en tiempos de pandemia. En marzo, Facebook comenzó a publicitar su “Centro de información COVID-19” (COVID-19 Information Center) dentro de su plataforma, ubicado en la parte de superior del news feed y que incluye actualizaciones en tiempo real de las medidas tomadas por las autoridades nacionales y organizaciones globales como la Organización Mundial de la Salud (OMS). En el comunicado de prensa, la empresa señaló además que se encontraban “monitoreando cuidadosamente los patrones de uso de los usuarios”, “haciendo que los sistemas sean más eficientes” y “añadiendo capacidades según sea necesario”. Sin embargo, en el afán de priorizar y brindar información confiable, no queda del todo claro cómo actuarán frente aquellas medida gubernamentales que no sigan las recomendaciones de la OMS o de las fuentes que ellos consideran con autoridad o crédito para expedirse sobre el tema. Sería el caso, por ejemplo, del gobierno de Nicaragua.
En cuanto a las noticias falsas, Facebook ha trabajado activamente para remover todo aquel contenido relativo a COVID19 que pueda “contribuir a un daño físico inminente”. En este sentido, otro comunicado emitido en los últimos días de marzo indica que desde enero han retirado posts que “realizan afirmaciones falsas sobre curas, tratamientos, disponibilidad de servicios esenciales o la ubicación y gravedad de la pandemia”. Un ejemplo de una publicación que podría sería eliminada por este motivo es aquella que afirme que el distanciamiento físico no ayuda a prevenir la propagación del virus. Por otra parte, también se abocaron a trabajar con fact checkers para lidiar con lo que ellos identifican y denominan como contenido que no resulte directamente en daño físico pero pueda causar conmoción social, como teorías conspirativas sobre el origen del virus.
Siguiendo esta política, algunos días atrás la compañía eliminó un post del presidente de Brasil Jair Bolsonaro, lo que despertó controversias y opiniones encontradas. En el video, el mandatario afirmaba que «la hidroxicloroquina funciona en todos los lugares”, a pesar de las advertencias de autoridades sanitarias de que el medicamento aún se está sometiendo a pruebas para determinar su efectividad. Facebook consideró que este contenido, independientemente de su emisario, violaba las reglas de la red social o Community Standards y por ello lo eliminó.
En un sentido similar, Twitter ha emitido declaraciones públicas sobre la adaptación
de sus políticas frente al estallido de la pandemia. La empresa manifestó que han ampliado su definición de “daño”, para poder incluir allí aquel contenido que vaya directamente en contra de las recomendaciones de autoridades de salud globales y locales. Si bien Twitter tiene una posición sumamente abierta frente al contenido de interés público (esto es, que los tweets permanecen aunque violen las normas de la red social si tienen valor para la “salud de la conversación pública”), no mostró tal tolerancia frente al contenido publicado por Bolsonaro y el presidente de Venezuela Nicolás Maduro. Ambos mandatarios realizaron afirmaciones que iban en contra de lo sostenido por la OMS, por lo que sus tweets fueron removidos.
Frente a este escenario aparecen algunos interrogantes sobre los vacíos que aún persisten en torno a las políticas de estas plataformas. Algunos días atrás, Agustina Del Campo comentaba en este blog que existe un debate que precede al COVID19 en torno a cómo las empresas definen y califican el discurso de funcionarios públicos. En los ejemplos precitados queda claro la importancia de dicha discusión.
Pero además, se abren nuevos interrogantes: ¿qué contenido se está removiendo? ¿Existen o se generarán reportes que puedan mostrar la moderación de contenidos y sus posibles efectos en tiempos de pandemia? Si como anunció Facebook sus moderadores de contenido están trabajando remotamente y por ello se ha aumentado el uso de inteligencia artificial y machine learning para flaggear y remover contenido violatorio de las normas de la red, ¿en qué medida es posible delimitar la legitimidad del contenido?
Existe al respecto un debate abierto que precede a la pandemia relativo al uso y la conveniencia de la automatización para resolver problemas de contenido que requiera análisis de contexto, expresiones idiomáticas locales, coyuntura, etc. Por ende, no ha de sorprender que existan voces actualmente (por ejemplo, Emma Llanso del Center for Democracy and Technology) solicitando a las empresas que cuando la crisis termine generen un análisis detallado de cómo funcionaron los mecanismos en medio de la automatización forzada. Si bien algunas empresas (Twitter, Facebook, Youtube) aclararon de antemano que gran parte del contenido iba a verse afectado desproporcionadamente incluso a pesar de sus mejores esfuerzos, sería fundamental saber qué tipo de contenidos fueron más proclives a errores o cuáles fueron las voces que se vieron reducidas o restringidas por la automatización en este período. Las respuestas a estas preguntas servirán tanto para que las empresas puedan evaluar objetivamente el desempeño de sus algoritmos como para sistematizar algunos de los datos de los cuales hoy solo tenemos información anecdótica. Y podrían, a su vez, servir de fundamento empírico en la propuesta de regulación de plataformas que tanto se ha discutido a nivel global en los últimos 2 años.
Por Paula Roko
TW @paulaaroko
