Conteúdo legal mas nocivo e pouca previsão na fiscalização

Na semana passada tive a honra e o prazer de participar da conferência organizada pela Columbia Global Freedom of Expression Program: Regulando a esfera pública online: Das redes descentralizadas à regulação pública. A conferência, que teve mais de 500 pessoas conectadas online ouvindo os painéis, parece mais relevante do que nunca. Durante a conferência, a UNESCO anunciou uma reunião a ser realizada em fevereiro de 2023 para discutir um marco regulatório para as redes sociais e cita, entre outros argumentos, a existência de mais de 190 projetos de lei ao redor do mundo que tentam regular plataformas de uma forma ou de outra. .  

Como Catalina Botero apontou em sua apresentação como anfitriã deste evento, estamos vendo uma batalha em torno de como lidar com a expressão na internet. E existem diferentes teorias a esse respeito, que nosso anfitrião destacou de forma sucinta e clara: 1) aqueles que sustentam que as plataformas podem e devem se autorregular em conformidade com os padrões internacionais de direitos humanos ao implementar essa autorregulação; 2) que subscrevem que as plataformas devem ser neutras em relação ao conteúdo de seus usuários e regulamentadas como operadoras de telefonia, sem qualquer responsabilidade pelo conteúdo de terceiros e ainda com a obrigação de fornecer a plataforma sem qualquer discriminação quanto ao conteúdo (em inglês, portadores comuns); 3) os que defendem que a autorregulação das plataformas faz parte do direito à livre indústria e que o direito contratual deve reger a relação entre usuários e plataformas, entre conteúdo e moderação; 4) que equiparam plataformas à mídia e, portanto, defendem a aplicação de critérios de responsabilidade como editores. Atrevo-me a dizer que várias propostas tocam em elementos das 4 posições, mesmo quando entram em franca e aberta contradição.

Uma primeira constatação que surge das posições levantadas e que transportamos do dia anterior em que foram discutidas as propostas de descentralização face aos problemas de moderação, é que não acredito que haja um consenso sobre quais são os "problemas" que queremos resolver com esses treinamentos. Quer se trate de ferramentas de descentralização ou de regulação das redes sociais, é difícil comparar as 190 propostas, pois sei que algumas (e desconfio que muitas) perseguem objetivos radicalmente diferentes e até percepções contraditórias do “problema”. Exemplo: se definirmos “o problema” como o abuso da censura privada das plataformas, farão sentido soluções como a proposta no número 2. Se definirmos “o problema” como a proliferação de discursos problemáticos (termo que está começando aparecer em certos documentos como um termo de arte, mas cuja definição é ambígua e obscura em si) diante de uma mão discricionária e interferência desproporcional na moderação do debate público, veremos soluções mais alinhadas com o número 1. o problema" como um problema editorial -compreendendo hospedagem e moderação como possível aceitação do conteúdo- a proposta no número 4 adquirirá preponderância. Se entendermos "o problema" como não conformidade (ou necessidade de fazer cumprir) o que foi acordado, a perspectiva oferecida pelo numeral 3 seria talvez a mais precisa. Em suma, quando falamos de propostas para resolver problemas de moderação de conteúdo, deve-se ter em mente que a definição do problema não é inequívoca. Ou que nem todas as propostas definem o problema da mesma forma – explícita ou implicitamente. Todos esses são, provavelmente, em maior ou menor grau, possíveis problemas atuais e provavelmente não podemos resolvê-los com uma única proposta regulatória.

Sem ter lido os 190 projetos, mas tendo lido alguns, inclusive boa parte daqueles que são regularmente citados em nossas latitudes (América Latina em geral), fui encorajado a dizer no painel que tinha que fazer parte que existem duas importantes contradições nos projetos regulatórios que vimos até agora. A primeira é que no fundo dessa discussão, na minha opinião, está um problema peculiar: o que fazer da lei com o conteúdo ou expressão legal, mas "prejudicial" (os americanos, como sempre, são criativos e gráficos e apelidam essa distinção legal, mas horrível, ou prejudicial, mas legal). A segunda contradição é evidente nos quadros de supervisão que muitas destas normas propõem, ou mesmo na ausência da referida disposição. Nas próximas semanas vou postar alguns comentários sobre o assunto. Começo com legal, mas horrível. Continuo com a (possível) diferença na abordagem latino-americana. O próximo vamos com supervisão (que espero que já venha com um link para um artigo recente que escrevemos do CELE). 

A categoria de expressão legal, mas nociva, não implica em si uma contradição. Embora seja um princípio geral do direito civil que todo dano deve ser reparado, há exceções. Há condutas, ações e omissões que a lei assume como legais, mas prejudiciais. Por exemplo, fumar é, segundo o Estado, legal, mas prejudicial. Beber álcool é legal, mas prejudicial. A margem de tolerância que a lei tem contra danos difere de tópico para tópico. Indo para uma mais próxima da nossa, na jurisprudência global da liberdade de expressão aceitamos como universal que os funcionários públicos devem ter uma margem mais ampla de tolerância contra críticas e contra interferências em sua privacidade. o Corte Interamericana, por exemplo, seguindo o Tribunal Europeu, explica que a distinção não é pela pessoa, mas pela função social que ela cumpre em uma sociedade democrática. Calúnias e insultos contra funcionários públicos raramente prosperam. E isso porque a transparência e a democracia exigem que o debate público em torno do exercício de seu trabalho, sua ética e integridade seja vigoroso. Há potenciais danos à honra e à privacidade dos funcionários públicos que a lei manda tolerar, não sendo, portanto, passíveis de reparação ou sanção, salvo em casos excepcionais (dolo real). Na mesma medida, o Marco Jurídico Interamericano Já estabelece que o direito à liberdade de expressão não protege apenas a expressão conciliatória e inócua, mas também as que “ofendem, chocam ou incomodam a maioria”. 

Quando os problemas de moderação de conteúdo são discutidos popularmente, a discussão tem se concentrado nisso: conteúdo legal, mas nocivo. Alguns exemplos, que abundam nos projetos de lei mais recentes: desinformação, discurso misógino, discurso problemático, discurso radicalizado, discurso polarizador, discurso ofensivo, discurso violento. Tudo isso, na forma que foi levantado em muitas das propostas que vi, por pior que possa pesar, hoje são discursos legais, legalmente protegidos. Não há razão legítima para o Estado limitá-los. Além disso, há uma razão legítima para que o Estado não os limite. 

O fato de o foco estar no discurso legal, mas prejudicial, pode ter várias razões. Sinto, e é sobre isso que estou escrevendo com Paulina Gutierrez, que a adoção da seção 230 do CDA pode ajudar a entender o foco de certa forma: o CDA oferece imunidade para empresas por conteúdo de terceiros e também oferece imunidade para moderação que desse conteúdo é feito. Algo semelhante, embora não idêntico, aconteceu na Europa com a Diretiva de Comércio Eletrônico. Nossa teoria é que a seção 230 retirou a conduta das plataformas do âmbito jurídico. Além disso, a jurisprudência posterior à adoção do artigo 230 ampliou essa imunidade a ponto de que nada do que as empresas façam com esse conteúdo alheio possa sequer ser analisado a partir da lei. A imunidade é tamanha que até agora grande parte das demandas foi rejeitada por completo, sem sequer entrar em uma possível análise. Isso, que a princípio fez a internet florescer, hoje faz com que as ações dentro dos diferentes serviços que as plataformas prestam (pedir, indexar, mostrar, hospedar, moderar, recomendar, tornar visível, ocultar e os outros "ar" que possam pensar ) estão, no imaginário atual, isentos da esfera do direito e deixados exclusivamente para a esfera da ética, da moral e dos bons costumes, ou da responsabilidade social empresarial. 

Embora no início, quando as empresas do setor se dedicavam a alguns verbos (hospedagem, ordenação, indexação e mais alguns), este esquema fazia sentido, agora, com o poder que as empresas de internet têm, sobretudo as redes sociais, de informar, moldar , limitando ou alimentando o debate público, a imunidade parece complicada. Nesse cenário surgem propostas regulatórias modernas: aquelas que focam no conteúdo, mas também aquelas que focam nos processos. 

E aqui uma segunda observação: a distinção entre conteúdo legal e ilegal é feita pelo Estado. Até agora, a distinção entre conteúdo ético ou responsável era feita pelas plataformas. No entanto, a grande maioria dos as propostas regulatórias para as redes sociais que vemos hoje não são neutras diante do conteúdo lícito. O que está por trás é uma preocupação do Estado com o discurso lícito e um desejo de impor novas limitações à liberdade de expressão a partir da ética ou da responsabilidade social corporativa. Grande parte dos projetos e leis que vemos hoje, inclusive os que passam a regular processos, implicam certa renegociação dos limites legítimos à liberdade de expressão nas plataformas. E na medida em que o que está regulamentado é o meio pelo qual a expressão circula, essa renegociação se faz de forma indireta: impondo à empresa a obrigação de autorregular-se para evitar danos em sentido amplo e não estritamente jurídico; gerando obrigações para as empresas em relação ao discurso lícito, mas “problemático” de seus usuários. Danos que de acordo com nossas leis substantivas são lícitos, ou pelo menos contra a lei, devem ser toleráveis. 

O "problema" com a moderação de conteúdo em geral não é o discurso ilegal. Las expresiones ilícitas están reguladas, sea que la empresa que aloja el contenido así lo diga o no, pues los límites a la libertad de expresión están negociados en cada Estado y en cada región de manera acorde a sus necesidades, culturas, historia, y siempre de acordo com padrões mínimos de direitos humanos. A responsabilidade individual por tais expressões é claramente passível de ação judicial. 

O problema é o discurso jurídico. Se o Estado não pode legitimamente limitá-lo (exceto em questões de tempo, forma e lugar), não pode ordenar a um terceiro que o limite, direta ou indiretamente. Nesses casos, talvez valha a pena debater seriamente se os limites permitidos à liberdade de expressão que temos hoje são adequados. Vale também abordar a análise jurídica de fenômenos novos, como a viralidade ou a permanência. O que antes era tolerável para a lei por não ser permanente ou não ter maior visibilidade, hoje pode não ser. De qualquer forma, este debate é um debate mais honesto, fundamentalmente, sobre limitações permissíveis ao direito à liberdade de expressão. 

Agora, há propostas legislativas que promovem, além dessas limitações indiretas, outras medidas que poderiam ser bem-vindas. Entre elas, as múltiplas iniciativas que propõem maior transparência sobre as ações das próprias plataformas. Há um consenso geral em torno da necessidade de maior transparência. Não há consenso sobre a necessidade de transparência exigida ou fiscalizada pelo Estado. Tampouco há um consenso sobre transparência sobre o quê ou para quê. E aqui novamente há problemas subjacentes com problemas de forma. Dependendo da resposta a essas perguntas, enfatizaremos algumas informações e não outras. O objetivo perseguido pela transparência será decisivo para dar-lhe sentido. A transparência deve ser entendida como um meio para um fim. E a finalidade deve ser legítima, principalmente se for o Estado que comanda tal transparência. De acordo com o que buscamos, vamos pedir uma informação e não outra. Destacaremos alguns aspectos e outros não. Vamos auditar determinados setores e não outros. Temo que aqui também não haja grande consenso, pelo menos não nas propostas regulatórias que existem hoje. 

Talvez a proposta mais avançada nesse sentido seja a DSA, e também há problemas de amplitude na definição e falta de clareza sobre como essa transparência será efetiva. Por um lado, há obrigações gerais de transparência quanto aos termos e condições de serviço, mecanismos de moderação, critérios usados ​​para moderar e agregar informações sobre a quantidade de conteúdo afetado, usuários afetados, decisões tomadas, acompanhamento de denúncias; Por outro lado, está estabelecido que a informação que suporta os referidos relatórios pode ser auditada, embora ainda não esteja claro como. Por fim, são estabelecidas duas obrigações adicionais de transparência: uma é o apoio às decisões de moderação e sua comunicação aos usuários. A outra, no caso de grandes plataformas (mais de 45 milhões de usuários na União Europeia) é a obrigação de realizar uma análise de risco dos produtos contra potenciais danos à democracia, à integridade dos menores e à segurança ou integridade dos usuários ( em inglês a distinção entre os termos talvez seja mais clara: “safety and security”), entre outros. Volto aqui ao ponto central desta peça: os riscos identificados pela proposta e sobre os quais se exige transparência e atuação (análise de risco e obrigação de mitigá-los) baseiam-se em expressões jurídicas, embora potencialmente danosas. Os detalhes sobre o que significam esses riscos, como realizar essas auditorias, os critérios de avaliação dos resultados, os indicadores de sucesso ou insucesso dessas iniciativas, ficaram por definir na fase de implementação, com o mecanismo de supervisão a que me referirei no a próxima parcela 😉