Notas da comunidade no Meta: uma nota sobre sua comunidade

Meses atrás, o Meta introduziu uma mudança substancial em sua estratégia de moderação de conteúdo. No centro dessa transformação está a suspensão — pelo menos parcial — de seu programa de moderação de conteúdo. verificando os fatos em certos países, Até agora, era responsável por verificar a veracidade das publicações e rotular aquelas que continham informações falsas ou enganosas.. Em seu lugar, a Meta introduziu o chamado notas da comunidade, uma ferramenta que transfere o poder (e, até certo ponto, a responsabilidade) da validação de conteúdo para os próprios usuários. O sistema de classificação está atualmente ativo apenas nos Estados Unidos.

De acordo com o comunicado oficial da Meta, esta decisão responde ao objetivo de “reduzir erros e incentivar um discurso mais amplo”. Ao contrário do sistema de verificando os fatos, que dependia de uma rede de organizações externas especializadas para identificar e retificar informações falsas, notas da comunidade -já testado no X/Twitter– são projetados para trabalhar de forma colaborativa: em termos gerais, usuários selecionados podem adicionar notas às postagens que consideram problemáticas, e essas notas ficarão visíveis somente se um número significativo de outros usuários as validarem como precisas e úteis.

A idéia é promissor:Ao descentralizar a tarefa de moderação e distribuí-la entre os usuários, o modelo tem um alcance potencialmente maior e pode se adaptar mais rapidamente às mudanças no conteúdo viral — não faltam pesquisa que apontam seus méritos. A empresa, por sua vez, assegura que o novo sistema está trabalhando.

De qualquer forma, não é aconselhável ler a retirada da Meta simplesmente como uma renúncia a uma estratégia. talvez aperfeiçoável, mas como um compromisso mais geral para superar a crise de legitimidade que as plataformas enfrentam. Zuckerberg propõe, portanto, uma mudança para um modelo que busca complementar — se não suplantar, pelo menos no combate à desinformação — a supervisão de cima para baixo com moderação. ensaio distribuído e comunitário.

Quem pode contribuir? Usuários maiores de 18 anos, cujas contas tenham mais de seis meses e que tenham um número de telefone verificado ou configurado a autenticação de dois fatores. "Para que uma conta esteja em situação regular, ela não deve ter violado nossas políticas destinadas a prevenir os danos mais graves (como terrorismo, exploração sexual infantil, fraude e golpes) e não deve ter violado repetidamente nossas outras políticas." Meta explicaComo esses usuários elegíveis são finalmente selecionados continua sendo um completo mistério.

Muda tudo muda

Longe de ser uma exceção histórica, Esta não é a primeira vez que o Meta modifica estrategicamente suas políticas de moderação. —e provavelmente não será o último. 

Em 2016, atenta às preocupações com a desinformação que marcou as eleições presidenciais americanas daquele ano, e em antecipação às eleições de 2020, a empresa optou por intensificar seus mecanismos de controle. Naquela ocasião, implementou o verificando os fatos cujo desmantelamento estamos testemunhando hoje, e estabeleceu restrições severas ao conteúdo político patrocinado. tom do anúncio A declaração de Zuckerberg foi inequívoca: "Levamos a desinformação muito a sério. (…) Fizemos progressos importantes, mas ainda há muito trabalho a ser feito."

A resistência a essas medidas não demorou a chegar. Setores conservadores Eles relataram uma suposta viés ideológico em práticas de moderação, argumentando que a plataforma sistematicamente restrito vozes alinhadas com sua agenda política. O ceticismo se intensificou após as eleições de 2020, quando grandes plataformas foram acusadas de intervir seletivamente na circulação de informação. 

Com o mesmo tom inequívoco, mas desta vez com um diagnóstico diferente, Zuckerberg anunciou, nove anos após o lançamento do programa verificando os fatos (e mais de 100 milhões de dólares investidos através), que era apropriado “desfazer a expansão da missão que tornou as nossas regras excessivamente restritivas e propensas à aplicação excessiva”.

Não deve ser surpresa, então, que a mudança atual da Meta em direção notas da comunidade seja, como seria em outras circunstâncias, o resultado de certas tensões políticas - ou, como o próprio Trump preferiu insinuar, uma resposta condescendente às ameaças que ele próprio emitiu.

Uma questão comunitária

Recapitulando. Se a verificação de fatos representava uma forma institucionalizada e visível de intervir na conversa digital — com base em critérios conhecidos, atores identificáveis ​​e padrões profissionais — os modelos agora impostos buscam diluir essa autoridade em esquemas de governança comunitáriaEsta transição para um modelo aparentemente mais horizontal é, além disso, uma resposta, pelo menos parcial, a uma Zeitgeist político que privilegia a aparência de neutralidade em detrimento da intervenção ativa.

Ora, o que parece estar em jogo, então, é menos a apresentação de uma nova ferramenta de moderação do que o surgimento de uma "nova" maneira de pensar, por um lado, sobre o que é uma comunidade digital e, por outro, como ela é construída e quem tem legitimidade para intervir nela. conceito de comunidade Não é um termo neutro. Dependendo de como é definido, regras são elaboradas, hierarquias são estabelecidas e a conversa pública é organizada. Com base nessas decisões, o Meta não apenas muda a forma como modera o conteúdo: também reconfigura a maneira como imagina — e possibilita — as conexões entre seus usuários.

Esses tipos de ferramentas, promovidas como uma resposta democrática e pluralista ao problema da moderação, têm uma premissa poderosa a seu favor: a comunidade como fonte de conhecimento. Longe de tratar o público como um receptor passivo, elas recebem a agência para deliberar, rotular e corrigir. Um ponto a favor do Meta.

Contudo, a natureza distribuída do sistema não garante, por si só, inclusão, transparência ou justiça epistêmica. Além disso, em muitos casos, esses sistemas operam sob uma lógica pouco transparente. No sistema do notas da comunidadePor exemplo, não existe um processo duplo-cego, em que nenhuma das partes conhece a identidade da outra — como acontece em muitos revistas acadêmicos. As notas da comunidade, por outro lado, são baseadas em um processo de revisão por pares cego: apenas a identidade dos autores das notas permanece anônima.

Para atenuar os vieses que podem ser reproduzidos neste microprocesso deliberativo, Meta comentários que

"A publicação de uma nota não se baseia na regra da maioria: para que uma nota seja publicada, pessoas com pontos de vista diferentes e que normalmente discordam, com base em seu histórico de avaliações, devem concordar que a nota é útil. Por exemplo, se dois colaboradores que normalmente não concordam que uma nota é útil concordam que uma nota é útil, então é mais provável que essa nota seja publicada." 

Trata-se, então, de um esquema concebido para prejudicar os utilizadores a quem estas notas se aplicam? Deixando de lado as muitas diferenças, a comunidade científica pode dar-nos algumas lições valiosas.

Em debates sobre revisão por pares, a revisão cega simples — como a implementada pela Meta — tem sido defendida por sua capacidade de proteger aqueles que produzem as revisões, reduzindo o risco de retaliação ou pressão social. No entanto, também tem sido criticada por facilitar a opacidade, a irresponsabilidade e a reprodução de vieses estruturais.

Em contraste, modelos de revisão aberta — nos quais as identidades de autores e revisores são conhecidas — incentivam a transparência e a responsabilização, embora possam inibir a discordância, especialmente contra figuras reconhecidas. O sistema da Meta tenta compensar esse risco com o pluralismo estatístico: se pessoas que geralmente discordam concordam que uma nota é útil, ela é publicada. Mas a deliberação permanece fechada e assimétrica: quem lê a nota não pode saber quem a escreveu ou sob quais critérios o consenso foi alcançado.

A consequência é que o poder epistêmico do usuário receptor é limitado, visto que ele não pode auditar o processo nem participar de suas regras. A comunidade, então, aparece como um ator abstrato, sem rosto e responsável. E isso não é pouca coisa: uma comunidade digital é definida não apenas pelo conteúdo que circula, mas também pelas maneiras pelas quais o direito de contestar seu significado é permitido — ou restringido.