Diante da crescente moderação privada de conteúdo, há alguns anos as principais empresas intermediárias de conteúdo da Internet adotam sistemas de revisão privada com o objetivo de fornecer um recurso de revisão interna contra possíveis erros ou inconsistências na aplicação de seus termos e condições de serviço. Alguns autores abordam o sistema de recursos como um pressuposto do direito de acesso à justiça (M. Comum, 2019) Nessa linha também está a proposta de Conhecimento público para exigir que grandes plataformas garantam o acesso e o devido processo (2018) para seus usuários. Para outros, é um elemento que torna legítimo o sistema privado de autorregulação e moderação de conteúdo e para outros (Klonick, 2019) é uma parte essencial da "capacidade de resposta econômica" que essas empresas têm para com seus usuários. Ou seja, atendendo a seus interesses econômicos, essas empresas estabelecem mecanismos para ouvir e responder ao que sua comunidade lhes pede. A verdade é que há vários anos as principais empresas de internet oferecem complexos sistemas de moderação de conteúdo e sistemas de revisão de suas próprias decisões sobre essa moderação. 

Após a consulta de um colega e a publicação dos últimos relatórios de transparência do Facebook em setembro de 2020, iniciamos um processo de revisão e estudo das informações disponíveis publicamente sobre apelações ao conteúdo removido ou "interveio" (para utilizar os termos utilizados nos relatórios em questão) pelas referidas plataformas. Uma primeira observação é que este tema é pouco estudado e analisado tanto em nossa região quanto em nível comparativo. Isso parece paradoxal, pois as três principais plataformas de conteúdo global (Facebook, Twitter e YouTube) anunciaram em março a suspensão - ou redução significativa - de seus esforços nesta área devido ao distanciamento social e quarentenas globais que eles forçaram as plataformas a enviarem seus moderadores para suas casas. Os relatórios disponíveis e diversos anúncios da empresa nos últimos 6 meses mostram que este teve um impacto direto e transcendente nas áreas de moderação e apelo das plataformas, nomeadamente no último trimestre estudado (de abril a Junho de 2020). 

Estimulados por uma curiosidade crescente, a partir do CELE convocamos duas reuniões. Uma estreia com o Lanterna Verde, com quem estamos trabalhando para monitorar as alterações nos Termos e Condições de Serviço (ToS) das plataformas desde o início de 2020, a fim de avaliar se houve alterações formais no assunto; e esteja ciente de que em última instância o processo de apelação nada mais é do que uma extensão do processo de moderação de conteúdo, refletindo no nosso conhecimento limitado nesta área. Desde o início, corroboramos que não houve modificações relevantes nas diretrizes da comunidade ou nos ToS do Facebook, Twitter e YouTube. Ou seja, se houve mudanças nas práticas das empresas, elas não foram refletidas formalmente nas regras. Isso pode ser devido a múltiplos e variados motivos que estaremos analisando detalhadamente em breve como resultado do primeiro relatório de monitoramento que estamos fazendo com o Lantern. Deve-se notar que existem poucas práticas que geram mudanças nos ToS e que mesmo aquelas que poderiam gerá-las são frequentemente relatadas por outros tipos de mecanismos que complementam os documentos de autorregulação iniciais (posts de blog, discursos, relatórios de acionistas, etc. )

A segunda reunião convocada foi com membros da Ao sul -uma aliança de organizações da sociedade civil e academia regional da qual fazemos parte- justamente para socializar algumas das incógnitas que surgiram da conversa e do próprio estudo preliminar que temos feito até agora sobre o assunto, para encontrar pontos de encontro e novas questões que vão se alimentar esta iniciativa. O que são e como diferem os sistemas de recursos privados para moderação de conteúdo? Como eles estão trabalhando e como foram afetados em tempos de quarentena? Como os recursos são priorizados conforme as restrições de movimento e montagem estão sendo suspensas em diferentes regiões do mundo? O que as plataformas comunicaram sobre esses processos? Como irão funcionar no futuro, tendo em conta os altos e baixos a que nos expôs a pandemia e a incerteza que caracteriza este “novo normal”? (que não tem nada a ver com normalidade). Estas são algumas das questões que nortearam este estudo preliminar e a reunião que convocamos. 

Um pouco de contexto:

Em todo o mundo, proliferam leis e projetos de lei e / ou campanhas massivas para regular as grandes plataformas de conteúdo da Internet. Das reformas estruturais aos regulamentos de responsabilidade do intermediário (EUA com seus 3 projetos atuais, Europa com seu DSAsão apenas dois exemplos dos mais relevantes devido ao seu possível impacto ou efeito cascata). Todos eles propõem limites à imunidade que atualmente parecia ser o princípio geral desejável no que diz respeito à responsabilidade dos intermediários pelo conteúdo de terceiros.

A moderação privada de conteúdo que as empresas fazem parece ser um dos grandes desencadeadores dessas reformas. De posições que argumentam que as empresas são tendenciosas e parciais em sua moderação de conteúdo, até aquelas que argumentam que tais mecanismos promovem ódio, notícias falsas e uma série de grandes males que assolam a internet hoje. A campanha mudança de termos resume bem esta posição. Nesse sentido, há grandes debates entre o Estado e a sociedade civil sobre como devem ser definidos os termos e as condições de serviço ou as diretrizes comunitárias das empresas, para que o conteúdo que nelas circula proteja e garanta direitos humanos básicos, dignidade, democracia, etc. Visões diferentes priorizam objetivos diferentes. 

Nos últimos 4 anos, pelo menos, vimos uma mudança dramática nos termos e condições de serviço dessas empresas. Esses documentos, que antes eram curtos e vagos, adquiriram uma complexidade, extensão, detalhes nunca vistos antes (Klonick 2019). Nas palavras das próprias empresas, os ToS mudam regularmente para se adequar às supostas necessidades dos usuários ou das comunidades às quais se aplicam e em resposta a mudanças de contexto, desenvolvimentos temporários, etc. Esta mudança na auto-regulamentação foi acompanhada por crescentes pedidos de transparência por parte da sociedade civil - ver, por exemplo, o Princípios de Santa Clara- como dos Estados - ver, por exemplo, os requisitos de transparência e implementação do NetzDG alemão.

O que sabemos sobre a revisão da decisão de moderação? 

Muito pouca informação está disponível sobre recursos nos termos e condições de serviço das empresas. Talvez a informação mais completa que temos sobre este assunto esteja na página de onlinecensorship.org, que indica por plataforma qual é o processo de apelação em detalhes. De acordo com este portal, quase todas as grandes plataformas oferecem um sistema de recurso para usuários cujo conteúdo foi bloqueado por violação de regulamentos internos ou ToS. Nem todos eles oferecem uma instância de revisão contra outras medidas, como suspensão ou cancelamento da conta. O Twitter, por exemplo, oferece essa instância e envia a notificação por e-mail. O Facebook também oferece uma instância de reclamar através de um formulário quando a conta foi cancelada “por engano”, mas não está claro como ela se ajusta ao esquema de recursos e remoções que eles relatam. Seu sistema de apelação inclui conteúdo removido, grupos excluídos ou fotos. O Youtube funciona com um sistema de greve e as greves podem ser apeladas, mas não para cancelamento de conta. Em resposta ao aumento na automação e ressentimento do sistema de apelações durante o COVID, o YouTube anunciou que estava suspendendo o sistema Strike, antecipando que a automação possivelmente levaria a mais erros. Em setembro, Youtube reconhecido que a implementação da IA ​​resultou no dobro do número de afastamentos do que o habitual e reincorporou parte significativa dos seus recursos humanos atribuídos à tarefa de moderação. 

Por outro lado, cada plataforma possui um sistema diferente de detecção de conteúdo contrário ao seu ToS, com vários níveis de automação - ou pelo menos vários níveis declarados de automação. Facebook, por exemplo, transportar Níveis muito altos de automação (mais de 88%) em praticamente todas as categorias de conteúdo, exceto bullying e assédio (15,6%). O Twitter não relata automação nos mesmos termos, mas em um Postagem do blog de 2019 relataram um aumento na detecção proativa de conteúdo e contas que violaram seus ToS, que supostamente passou de 20% para 38%. O Youtube, por sua vez, relata maior automação, mas não é quantificado. Recentemente, relatou que, em termos de extremismo, graças à automação, cerca de 90% das peças problemáticas foram detectadas de forma proativa antes que o conteúdo fosse visualizado por mais de 10 usuários (Como o YouTube usa tecnologia para detectar conteúdo violento: Extremismo violento ) 

O Facebook é a empresa que fornece mais informações sobre a operação do sistema de moderação e apelação em face de tal moderação, e destaca o conteúdo intervindo de forma proativa versus o conteúdo relatado pelos usuários, e o conteúdo restaurado proativamente versus o conteúdo restaurado após o recurso. Ele também fornece o número de apelações por categoria de seus ToS. Apesar disso, não está claro como as duas variáveis ​​interagem. Por outro lado, o relatório estabelece que os números indicam a quantidade de conteúdos intervencionados, mas o referido cálculo tem por base o número de peças intervencionadas, sem prejuízo de se tratar da mesma peça repostada que foi intervida. Ou seja, se um usuário relatar uma parte que foi duplicada, triplicada e republicada por vários usuários, o número total de remoções será considerado e não o número total do conteúdo original. Também não está claro se o número de recursos representa a quantidade de conteúdo apelado ou o número de recursos no mesmo conteúdo. Por fim, o relatório indica que não inclui dados de recursos sobre intervenções em contas, páginas e grupos. Em outras palavras, inclui apenas recursos de conteúdo individual. 

Em relação à priorização tanto para moderação quanto para apelação, diferentes empresas priorizam de acordo com diferentes variáveis ​​e os sistemas que relatam essa priorização também variam. O YouTube estabeleceu um sistema de "Sinalizadores confiáveis" que consiste em conceder maior status a ONGs, mecanismos estaduais e usuários cuja eficiência de prestação de contas seja demonstrada. Essas pessoas recebem treinamento inclusive para o desenvolvimento desta tarefa e seus relatórios são priorizados com moderação. O Facebook, por sua vez, depende cada vez menos dos relatos de seus usuários e cada vez mais da tecnologia desenvolvida para automatizar a detecção de conteúdos que violem suas regras (com todos os problemas que isso acarreta). Eles priorizam para moderação “conteúdo relacionado à segurança, incluindo material relacionado a terrorismo e suicídio” (“Priorizamos relatórios relacionados à segurança, incluindo material relacionado a terrorismo e suicídio”). Não está claro quais são os critérios predominantes para priorizar recursos ou se esses critérios mudaram durante a pandemia.

No caso do Twitter, há pouca linguagem, mas na postagem do blog de abril de 2019 mencionada acima menciona que eles continuarão a se esforçar para melhorar as taxas de detecção de conteúdo, especialmente quando o conteúdo contém "informações privadas, ameaças ou outro conteúdo abusivo". O sistema de moderação e apelação de conteúdo do Twitter pelo menos parece mais rudimentar em certos aspectos do que o do YouTube ou do Facebook, o que gerou vantagens e desvantagens. Entre as vantagens, destacadas pelo portal onlinecensorship.org, os representantes regionais recebem a maior intervenção possível. A desvantagem é que, como os programas de sinalizadores confiáveis, a priorização desses recursos frequentemente depende de terceiros para fornecer contexto para a empresa justificar a priorização. 

A linguagem, as métricas e até os períodos variam de uma empresa para outra, o que prejudica a análise comparativa das plataformas. Atualmente, por exemplo, o YouTube e o Facebook emitiram relatórios de transparência até agosto de 2020, inclusive. O Twitter ainda não publicou relatórios durante este 2020, conforme mostrado sua página de transparência. 

Alguns problemas teóricos / filosóficos sobre o tema dos recursos

A ideia de que as plataformas devem garantir princípios mínimos de devido processo a seus usuários em face da própria moderação de conteúdo não é nova. A professora Dawn Nunziato já argumentou em sua introdução ao Rumo a uma Internet livre de censura  (CELE 2013) que, para harmonizar a proibição da censura prévia com a ação das plataformas em matéria de remoção de conteúdo, devem ser garantidos padrões mínimos de devido processo e transparência. 

Brenda Dvoskin observou recentemente que o postulado de a promoção da incorporação do arcabouço de direitos humanos como marco norteador da autorregulamentação de plataformas, apesar de sua atratividade, levanta problemas em torno de sua implementação. Entre outras coisas, destaquei um aspecto que me pareceu particularmente interessante e que, para efeito destas reflexões, chamarei de dilema de objetivos. Ela argumentou que todos os tratados de direitos humanos exigem do Estado que as limitações à liberdade de expressão correspondam aos objetivos legítimos que os mesmos tratados identificam. Traduzir esse requisito literalmente para uma empresa implica em restrições significativas em sua capacidade de conduzir seus negócios e, por que não, em seu próprio exercício da liberdade de expressão. Devem os mesmos limites ser aplicáveis ​​ao setor privado e ao público? Devemos pensar em novos alvos legítimos para este grupo? 

Quando se trata de devido processo legal, enfrentamos preocupações semelhantes. Os tratados de direitos humanos falam das garantias de imparcialidade e independência na determinação dos direitos; e garantias mínimas, especialmente aplicáveis ​​aos processos de sanções penais e administrativas. A jurisprudência é ampla e vasta sobre o assunto, mas permanecem questões complexas com relação à possível transferência destes para o setor privado. As demandas do sistema judicial são transferíveis para os sistemas privados? Eles requerem alguma adaptação? 

Gillespie Ele explicou recentemente que as plataformas se voltaram para a automação na moderação de conteúdo em resposta ao problema de escala. E acrescentou que esta tem sido a solução que tanto a sociedade civil como os Estados têm oferecido para lidar com os problemas de quantidade e tempo - através da automação, as plataformas procuram intervir nos conteúdos problemáticos o mais rapidamente possível (antes mesmo de o verem. ou não relatar nenhum usuário) e aplicar os mesmos critérios ao máximo de conteúdo possível (escala). Se compartilhamos dessa lógica, obviamente precisamos de um ajuste no conceito de devido processo, tribunal, prazo razoável, independência e imparcialidade. Se essa não for a lógica compartilhada, também surgem questões: como garantir independência e imparcialidade em escala? Ou igualdade perante a lei? Diante de moderadores ou call centers desconhecidos, como exercer os direitos de defesa? Diante da pandemia que obriga os moderadores a serem mandados para casa, como garantimos esse direito em quarentena? 

Os Princípios de Santa Clara estão sendo reformulados justamente com o objetivo de contribuir para esse debate. E no nível regional, em agosto  as recomendações de um grupo de organizações lideradas pela Observacom. Ambos os esforços se beneficiariam de mais informações empíricas capazes de alimentar a articulação de princípios concretos e de um debate profundo capaz de chegar a um consenso em torno dos padrões que devem reger essas práticas. No momento, a relevância desses sistemas ou seu impacto no ecossistema interno das empresas - muito menos no ecossistema de comunicação como um todo - não está clara.  

 

Algumas questões e postulados a priori que pode informar pesquisas futuras sobre esses tópicos:

Dada a falta de informação sistêmica que afeta esse tema específico, uma das primeiras conclusões a que chegamos com os colegas é que dificilmente podem fazer recomendações. Parece até difícil estabelecer se um sistema de priorização com moderação ou um sistema de priorização em recursos deve ser estabelecido, pelo menos em tempos normais. É claro que a questão adquire novas nuances em meio ao surto ou expansão do COVID 19, o que obrigou as plataformas a mandarem a maioria de seus moderadores para casa. Apesar de estarem agora a reabrir, o novo normal caracteriza-se neste momento por elevados níveis de incerteza: ameaças de surtos e novos encerramentos, falta de medidas de longo prazo, encerramentos de fronteiras, escritórios ainda encerrados, reuniões proibidas, etc. Nesse contexto de COVID 19, recursos parciais e confusão, talvez se merecesse priorização? E quanto ao conteúdo que não é priorizado neste contexto? Como é medido o impacto das priorizações feitas neste período? Independentemente do contexto, em quais critérios essa priorização deve ser ancorada? 

Por critérios geográficos:

Nenhum dado desagregado emergiu dos relatórios de transparência sobre o impacto da moderação de conteúdo ou o apelo de tal moderação, seja em nível local ou regional. Não está totalmente claro como o exercício de direitos como apelação é distribuído geograficamente / culturalmente. Onde existem culturas mais fortes de institucionalização e exercício de direitos e onde essas práticas não são tão frequentes? Também não está claro que impacto uma comunidade pode ter no total de casos por categoria. Assim, talvez uma recomendação seja atender a diferentes critérios de priorização de acordo com a região e a situação conjuntural que a afeta. 

Por tema:

Em conjunto com a distinção por país ou região, também pode ser conveniente prestar atenção ao assunto em questão. Se o país, por exemplo, está em período eleitoral ou em conflito armado, talvez seja conveniente priorizar conteúdos relacionados a esse tipo de assunto (no estilo de uma hashtag)? 

Por tipos de pessoas:

No âmbito do direito à liberdade de expressão, há tradicionalmente uma distinção entre pessoas públicas e privadas, entendendo-se a distinção como um critério necessário para avaliar os limites da expressão em relação a outros direitos. Assim, por exemplo, as pessoas públicas deveriam ter margens mais amplas de tolerância em relação às críticas do que as pessoas privadas. Devem também ter reparações mais limitadas, tendo em vista a facilidade que têm para intervir e interceder no debate público por outros meios. Agora, esta distinção também pode servir neste assunto. Mas como? Posições radicalmente conflitantes surgiram no debate: por um lado, havia quem defendesse dar prioridade às pessoas públicas na apelação devido à magnitude de sua audiência e ao potencial dano do silenciamento. Por outro lado, houve também quem propôs que, considerando que as pessoas públicas costumam ter outros meios para divulgar seu discurso, devem ser priorizados os recursos de empresas privadas que não possuem os mesmos recursos. 

Para interesse público:

Talvez a distinção em torno do interesse público seja mais útil para informar as decisões de priorização. Se a conversa ou o conteúdo for de interesse público, deve poder ser priorizado. Este tipo de determinação provavelmente decorre, entretanto, do cruzamento de dois ou mais critérios além dos já mencionados: Contexto local / regional; caráter da pessoa (público privado), relevância do assunto. 

Uma das conclusões unânimes entre os colegas é que a priorização provavelmente não deve responder a um único critério, mas a uma multiplicidade de fatores. Como implementá-la vai ser outra questão ... Não obstante a decisão que as empresas tomem nesta matéria, o exercício serviu para verificar o quão pouco sabemos sobre esta questão, a falta de informação que existe nos relatórios e nas próprias políticas, e a necessidade para estudar o assunto mais profundamente.

Agustina del Campo

Crédito da foto: @morningbrew