Dinâmicas ameaçadoras na governação da Internet: o caso da Europa e a Lei dos Serviços Digitais (DSA)

Como parte de sua pesquisa sobre o tema, a CELE caracterizou uma ameaça de regulamentação como “qualquer tipo de declaração ou ação pública ou privada de funcionários públicos que detêm poder regulatório sobre outros, na qual expressam, sugerem ou implicam, de forma clara ou velada, “seu desejo de ver a conduta de seu sujeito se mover em uma direção específica”.

Nos Estados Unidos, essa conduta costuma ser chamada mandíbula. Tal como descreveu Ramiro Álvarez Ugarte num recente peça, esta é uma área do direito extremamente complexa, em parte porque avaliar quando os funcionários públicos ultrapassam tal linha jurídica requer uma compreensão complexa tanto do âmbito e dos instrumentos do quadro jurídico existente, bem como da intenção real de obter um determinado resultado que não é necessariamente pré-determinado ou explicitamente perseguido pela lei.

Na União Europeia (UE), o DSA estabelece uma série de regras e princípios fundamentais sobre como os intermediários participam na publicação e distribuição de conteúdo online. Ele se concentra especialmente em plataformas de hospedagem e compartilhamento de conteúdo, como Facebook, TikTok, Twitter e YouTube. Incorpora também novos direitos importantes para os utilizadores e obrigações para os prestadores de serviços (particularmente as chamadas plataformas em linha de muito grande dimensão: VLOP) em áreas como termos e condições, requisitos de transparência, fundamentação, publicidade, protecção de menores, tratamento de reclamações sistemas e soluções extrajudiciais de disputas, entre muitos outros.

A DSA pode e, em alguns aspectos, já se tornou uma área regulatória onde o possível exercício de pressões informais merece ser devidamente estudado e analisado. Em primeiro lugar, porque a DSA explora territórios regulamentares inexplorados com base, como será demonstrado, em princípios e disposições jurídicas gerais que precisam de ser aplicados principalmente por intervenientes privados (intermediários). Em segundo lugar, porque a complexidade do sistema de aplicação e monitorização da DSA exige a ação combinada dos reguladores nacionais de cada estado membro e da Comissão Europeia no que diz respeito às obrigações legais aplicáveis ​​às grandes plataformas tecnológicas que prestam serviços em todos os estados europeus e a nível mundial . Esta escolha do legislador (justificada pela possível falta de capacidade dos reguladores nacionais para lidar adequadamente com esses intervenientes) abriu a porta a preocupações sobre o perfil político da Comissão, bem como à adopção de técnicas de monitorização mais próximas das declarações políticas do que administrativas. procedimentos com salvaguardas e garantias. Actos públicos recentes do até agora comissário responsável pela implementação do DSA confirmaram de facto tal preocupações.

Esta postagem examinará agora algumas das disposições incluídas no DSA que podem ser usadas pelas autoridades relevantes para impor aos intermediários a adoção de decisões que afetam o conteúdo dos usuários de maneiras não devidamente responsáveis.

Áreas DSA para pressões regulatórias informais

O DSA incorpora novas disposições para facilitar a adoção de medidas diligentes contra conteúdos ilegais publicados pelos utilizadores das plataformas. De acordo com o artigo 9.º, os prestadores de serviços intermediários devem agir contra os conteúdos ilegais após a recepção de uma ordem emitida pelas autoridades judiciais ou administrativas nacionais competentes. De acordo com o referido artigo, o âmbito territorial desse despacho, baseado nas regras aplicáveis ​​do direito da União e do direito nacional e, se for caso disso, nos princípios gerais do direito internacional, limita-se ao estritamente necessário para atingir o seu objetivo. Esta relativa ambiguidade jurídica pode, no entanto, desencadear a emissão de ordens por parte de autoridades nacionais específicas com base na legislação local que aborda plataformas globais (em particular VLOPs) com o objetivo de pressionar a remoção de conteúdos com efeitos extraterritoriais. Uma vez que o conteúdo distribuído por este tipo de plataformas é geralmente oferecido a todos os seus utilizadores a nível global, as plataformas podem ser tentadas a agir com cautela e a evitar mais problemas com as autoridades competentes, ou com autoridades de jurisdições diferentes, por exemplo, estabelecendo filtros gerais sem a devida consideração de um impacto potencial no direito à liberdade de expressão. Este risco já foi destacado, ainda antes da ASD, à luz dos elementos problemáticos incluídos na decisão do Tribunal de Justiça da UE no caso de Glawischnig-Piesczek v. Facebook Irlanda, como apontado por alguns especialistas.

O artigo 13.º estabelece que os intermediários que não tenham estabelecimento na União designarão uma pessoa singular ou coletiva para atuar como seu representante legal nesse território. Esta disposição sublinha ainda que “Será possível ao representante legal designado ser responsabilizado pelo incumprimento das obrigações decorrentes do presente Regulamento, sem prejuízo da responsabilidade e das ações judiciais que possam ser instauradas contra o prestador de serviços intermediários”. A necessidade de pelo menos um representante legal para os prestadores que operam na UE pode parecer um requisito razoável, especialmente tendo em conta os diferentes deveres e responsabilidades a que tais empresas estão sujeitas neste território. No entanto, é também óbvio que tem sido criticada a possibilidade de determinadas pessoas singulares ou colectivas presentes num determinado Estado serem responsabilizadas por infracções cometidas por plataformas em linha globais, em diferentes contextos, como ferramenta que pode favorecer a adoção incontestada de medidas restritivas de conteúdo mesmo nos casos em que estas não possam ser consideradas juridicamente fundamentadas pelos provedores afetados.

O Artigo 14 estabelece que, ao fazer cumprir os seus termos e condições, os intermediários devem agir de forma diligente, objetiva e proporcional, particularmente “tendo em devida conta os direitos e interesses legítimos de todas as partes envolvidas, incluindo os direitos fundamentais dos destinatários do serviço, como a liberdade de expressão, a liberdade e o pluralismo dos meios de comunicação social e outros direitos e liberdades fundamentais consagrados na Carta.” alguns autores observaram, no entanto, que isto deve ser visto como uma disposição-quadro que cria um risco de dependência excessiva dos direitos fundamentais. Uma referência vaga aos direitos humanos como quadro de referência para a moderação de conteúdos privados pode abrir a porta à adopção de restrições regulamentares que, precisamente em nome dos direitos humanos, podem orientar ou predeterminar as decisões de moderação de conteúdos numa direcção específica. É importante notar as limitações daquilo que o direito internacional dos direitos humanos oferece na prática neste domínio. Evelyn Douek referiu-se à falta de consenso no que diz respeito à universalidade da liberdade de expressão como um direito humano, às lacunas, inconsistências e interpretações divergentes que os sistemas internacionais e regionais de direitos humanos podem apresentar em algumas áreas, à indeterminação em muitas normas de direitos humanos , a falta de informação ou competência para conduzir a avaliação e o equilíbrio de interesses necessários, bem como os desafios de uma necessária mudança de paradigma no pensamento sobre os direitos, de individualista para sistémico, no contexto das plataformas online.

O Artigo 22 do DSA cria a figura dos “sinalizadores de confiança” para identificar uma série de atores e organizações que são independentes e possuem conhecimentos e competências específicas para fins de detecção, identificação e notificação de conteúdos ilegais. A estes sinalizadores é confiada a responsabilidade de enviar notificações “com diligência, precisão e objectividade”, às quais será dada prioridade e processadas e decididas pelas plataformas online sem demora injustificada. Este status será concedido pelos órgãos reguladores nacionais. A DSA cria assim um sistema de organizações locais especializadas de confiança que ajudarão tanto as plataformas como as autoridades na complexa tarefa de detetar e denunciar conteúdos ilegais em grande escala. Dito isto, é necessário notar que a DSA aceita que este papel também possa ser desempenhado por unidades de referência na Internet das autoridades nacionais responsáveis ​​pela aplicação da lei ou da Europol (considerando 61). Isto significa que, para forçar remoções ou a adopção de outras medidas restritivas, especialmente nos casos em que a natureza ilegal do conteúdo em questão não é completamente clara ou quando há falta de vontade de seguir os procedimentos legais normais, certas autoridades públicas organismos podem ser tentados a usar este “atalho” regulatório. Alguns especialistas também advertido sobre cenários em que certos tipos de sinalizadores confiáveis ​​(seguindo agendas políticas específicas, por exemplo) podem inundar deliberadamente as plataformas com avisos que classificam o conteúdo como ilegal ou não conforme com as diretrizes da comunidade, visando especialmente OSC ou jornalistas investigativos.

Uma inovação muito relevante incorporada pela DSA (artigos 34 e 35) consiste em obrigações adicionais para VLOPs (plataformas online de grande dimensão com mais de 45 milhões de utilizadores) que consistem em identificar e mitigar as diferentes formas como os conteúdos ilegais acabam por ser disseminados através dos seus serviços . Ainda não se sabe como as plataformas acabarão por avaliar questões como o impacto atual da disseminação de conteúdos ilegais e a sua natureza “sistémica”, a complexa interação entre conteúdos ilegais e a violação dos TdS, a proliferação entre plataformas ou as diferenças de as formas como os diferentes tipos de conteúdos ilegais são disseminados. Além disso, os riscos sistémicos não estão apenas associados à disseminação de conteúdos ilegais ou à causa de efeitos negativos nos direitos humanos, mas também a outras categorias de risco muito mais amplas, como os efeitos negativos no discurso cívico, nos processos eleitorais, na segurança pública, na violência baseada no género , saúde pública, menores ou bem-estar físico e mental dos usuários. Isto significa que a avaliação de riscos e as medidas de mitigação a adotar pelas plataformas de acordo com o DSA não afetarão apenas as formas ilegais de expressão, mas também os conteúdos legais mas prejudiciais, o que é obviamente mais problemático em termos de impacto na liberdade de expressão. A redação dos artigos 34 e 35, bem como o regime incluído no artigo 36 relativo ao poder da Comissão de exigir que os VLOPs adotem medidas específicas de moderação de conteúdo “quando ocorre uma crise” (sic), desencadeou interesse quanto ao risco de negociações de bastidores entre reguladores e plataformas, que podem acabar por definir de forma opaca os limites da expressão legítima nas principais plataformas e em relação a áreas particularmente sensíveis, confundindo assim a linha entre interesse público e comercial.

Conclusão

O estudo das pressões regulatórias informais ou indiretas no domínio da governação da Internet torna-se cada vez mais uma área muito importante de análise jurídica. Este artigo mostrou que mesmo um avanço regulamentar globalmente positivo, como o DSA, também pode abranger e criar o risco deste tipo de dinâmica ameaçadora dentro e fora do continente europeu. Em qualquer caso, novas pesquisas nesta área podem enfrentar vários desafios metodológicos, tais como a necessidade de adotar uma abordagem interdisciplinar (incluindo direito, ciência política, sociologia, tecnologia e economia), abordar questões de disponibilidade e acesso a dados, compreender adequadamente as complexidades jurisdicionais , considerar as sensibilidades geopolíticas, reconhecer os desequilíbrios de poder entre as diferentes partes interessadas e lidar adequadamente com as mudanças tecnológicas, entre outros.

[Versão em espanhol abaixo]

Ameaças à governação da Internet: o caso da Europa e a Lei dos Serviços Digitais (DSA)

Como parte de sua pesquisa sobre o tema, a CELE caracterizou uma ameaça regulatória como “qualquer tipo de expressão ou ação pública ou privada de funcionários públicos que detêm poder regulatório sobre outros, na qual expressam, sugerem ou insinuam, de forma clara ou velada, seu desejo ver o comportamento de seu sujeito se mover em uma direção específica.

Nos Estados Unidos, esse comportamento é frequentemente chamado mandíbula. Como Ramiro Álvarez Ugarte descreve em um artigo recente, esta é uma área do direito extremamente complexa, em parte porque avaliar quando os funcionários públicos ultrapassam essa linha jurídica requer a compreensão tanto do âmbito e dos instrumentos do quadro jurídico existente, bem como da intenção real de obter um resultado específico que não é necessariamente predeterminado ou explicitamente perseguido por lei.

Na União Europeia (UE), o DSA estabelece uma série de regras e princípios fundamentais sobre como os intermediários participam na publicação. e distribuição de conteúdo online. Tem foco especialmente em plataformas de compartilhamento e hospedagem de conteúdo, como Facebook, TikTok, Twitter e YouTube. Introduz também novos direitos importantes para os utilizadores e obrigações para os prestadores de serviços (em particular as chamadas grandes plataformas em linha - VLOP) em áreas como termos e condições, requisitos de transparência, motivação, publicidade, protecção de menores, processamento de reclamações e procedimentos extrajudiciais. resolução de conflitos, entre muitos outros.

A ASD pode tornar-se, e em alguns aspectos já se tornou, uma área regulatória onde o possível exercício de pressões informais merece ser devidamente estudado e analisado. Em primeiro lugar, porque a DSA explora territórios regulatórios inexplorados com base, como será mostrado, em princípios e disposições jurídicas gerais que devem ser aplicadas principalmente por atores privados (intermediários). Em segundo lugar, porque a complexidade do sistema de aplicação e monitorização dos DSA exige a ação conjunta dos reguladores nacionais de cada Estado-Membro e da Comissão Europeia no que diz respeito às obrigações legais aplicáveis ​​às grandes plataformas tecnológicas que prestam serviços em todos os Estados Europeus e no mundo. Esta escolha do legislador (justificada pela possível falta de capacidade dos reguladores nacionais para lidar adequadamente com estes actores) abriu a porta a preocupações sobre o perfil político da Comissão, bem como à adopção de técnicas de monitorização mais próximas das declarações políticas em vez de procedimentos administrativos com salvaguardas e garantias. As recentes ações públicas do comissário responsável pela implementação do DSA confirmaram tal preocupações.

Esta postagem examinará algumas das disposições incluídas no DSA que podem ser usadas pelas autoridades relevantes para forçar os intermediários a tomar decisões que afetam o conteúdo dos usuários de maneira inadequada.

Áreas DSA para pressões regulatórias informais

O DSA incorpora novas disposições para facilitar a adoção de medidas diligentes contra conteúdos ilegais publicados pelos utilizadores da plataforma. De acordo com o artigo 9.º, os prestadores de serviços intermediários devem tomar medidas contra os conteúdos ilegais na sequência de uma ordem emitida pelas autoridades judiciais ou administrativas nacionais competentes. De acordo com o referido artigo, o âmbito territorial do referido despacho, baseado nas normas aplicáveis ​​da União e do ordenamento jurídico nacional e, se for caso disso, nos princípios gerais do direito internacional, limita-se ao estritamente necessário para atingir o seu objetivo. . No entanto, esta relativa ambiguidade jurídica pode desencadear a emissão de ordens por autoridades nacionais específicas com base na legislação local relativa às plataformas globais (em particular VLOPs) com o objetivo de incentivar a remoção de conteúdos com efeitos extraterritoriais. Uma vez que o conteúdo distribuído por estes tipos de plataformas é geralmente oferecido a todos os seus utilizadores a nível global, as plataformas podem ser tentadas a agir com cautela e a evitar mais problemas com as autoridades responsáveis, ou com autoridades em jurisdições diferentes, por exemplo, estabelecendo filtros gerais sem consideração adequada de um possível impacto no direito à liberdade de expressão. Este risco já era destacado, ainda antes da ASD, à luz dos elementos problemáticos incluídos na decisão do Tribunal de Justiça da UE no caso Glawischnig-Piesczek v. IrlandaComo alguns apontam especialistas.

O artigo 13.º estabelece que os intermediários que não tenham domicílio na União designarão uma pessoa singular ou coletiva para atuar como seu representante legal neste território. Esta disposição sublinha ainda que será “possível que o representante legal designado seja responsabilizado pelo incumprimento das obrigações estabelecidas no presente Regulamento, sem prejuízo da responsabilidade e das ações judiciais que possam ser instauradas contra o prestador de serviços intermediários”. A necessidade de pelo menos um representante legal para os fornecedores que operam na UE pode parecer um requisito razoável, especialmente tendo em conta os diferentes deveres e responsabilidades a que estas empresas estão sujeitas neste território. No entanto, é também óbvio que tem sido criticada a possibilidade de determinadas pessoas singulares ou colectivas presentes num determinado Estado serem responsabilizadas por infracções cometidas por plataformas em linha globais, em diferentes contextos, como ferramenta que pode favorecer a adoção incontestada de medidas restritivas de conteúdo mesmo nos casos em que não possam ser consideradas juridicamente fundamentadas pelos provedores afetados.

O Artigo 14 estabelece que, na aplicação dos seus termos e condições, os intermediários devem agir de forma diligente, objetiva e proporcional, em particular “tendo em devida conta os direitos e interesses legítimos de todas as partes envolvidas, incluindo os direitos fundamentais dos destinatários do serviço , como a liberdade de expressão, a liberdade e o pluralismo dos meios de comunicação social e outros direitos e liberdades fundamentais consagrados na Carta.» Alguns Autores salientaram, no entanto, que isto deve ser visto como uma disposição-quadro que cria um risco de dependência excessiva dos direitos fundamentais. Uma referência vaga aos direitos humanos como quadro para a moderação de conteúdos privados pode abrir a porta à adopção de restrições regulamentares que, precisamente em nome dos direitos humanos, podem orientar ou predeterminar decisões de moderação de conteúdos numa direcção específica. É importante notar as limitações do que o direito internacional dos direitos humanos oferece na prática neste domínio. Evelyn Douek referiu-se à falta de consenso relativamente à universalidade da liberdade de expressão como um direito humano, às lacunas, inconsistências e diferentes interpretações que os sistemas internacionais e regionais de direitos humanos podem apresentar em algumas áreas, à indeterminação de muitas normas de direitos humanos, à falta de informação ou competência para realizar a necessária avaliação e ponderação de interesses, bem como os desafios de uma necessária mudança de paradigma no pensamento sobre os direitos, de individualista para sistémico, no contexto das plataformas online.

O artigo 22.º do DSA cria a figura do sinalizadores confiáveis identificar uma série de intervenientes e organizações independentes e com experiência e competência especiais para efeitos de deteção, identificação e denúncia de conteúdos ilícitos. A estes intervenientes é confiada a responsabilidade de submeter notificações “com diligência, precisão e objetividade”, que terão prioridade e serão processadas e resolvidas pelas plataformas online sem demora injustificada. Este status será concedido pelos órgãos reguladores nacionais. Desta forma, a DSA cria um sistema de organizações locais que ajudará tanto as plataformas como as autoridades na complexa tarefa de detectar e denunciar conteúdos ilegais em grande escala. Dito isto, importa referir que a DSA aceita que este papel também possa ser desempenhado pelas unidades de referência na Internet das autoridades nacionais responsáveis ​​pela aplicação da lei ou pela Europol (considerando 61). Isto significa que para forçar a remoção ou outras medidas restritivas, especialmente nos casos em que a natureza ilegal do conteúdo em questão não é completamente clara ou onde não há vontade de seguir os procedimentos legais normais, certos organismos públicos podem ser tentados a usar esta regulamentação “ atalho." Alguns especialistas também avisou sobre cenários em que certos tipos de denunciantes de confiança (seguindo agendas políticas específicas, por exemplo) podem inundar deliberadamente as plataformas com avisos que rotulam conteúdos como ilegais ou que não cumprem as diretrizes da comunidade, especialmente visando organizações da sociedade civil ou jornalistas de investigação.

Uma inovação muito relevante incorporada pela DSA (artigos 34.º e 35.º) consiste em obrigações adicionais para as VLOPs (grandes plataformas online com mais de 45 milhões de utilizadores) que consistem em identificar e mitigar as diferentes formas como os conteúdos ilegais acabam por ser disseminados através dos seus serviços. Ainda não se sabe como as plataformas acabarão por avaliar questões como o real impacto da disseminação de conteúdos ilegais e o seu carácter “sistémico”, a complexa interacção entre conteúdos ilegais e a violação dos TdS, a proliferação entre plataformas ou as diferenças de as formas pelas quais são difundidos diferentes tipos de conteúdos ilegais. Além disso, os riscos sistémicos não estão apenas associados à disseminação de conteúdos ilegais ou a efeitos negativos sobre os direitos humanos, mas também a outras categorias de risco muito mais amplas, como os efeitos negativos no discurso cívico, nos processos eleitorais, na segurança pública e na violência de género, na saúde pública , menores ou o bem-estar físico e mental dos usuários. Isto significa que as medidas de avaliação e mitigação de riscos que as plataformas devem adotar ao abrigo do DSA não afetarão apenas as formas ilegais de expressão, mas também os conteúdos legais mas prejudiciais, o que é obviamente mais problemático em termos de impacto na liberdade de expressão. A redação dos artigos 34 e 35, bem como o regime incluído no artigo 36 relativo ao poder da Comissão de exigir que os VLOPs adotem medidas específicas de moderação de conteúdo “quando ocorre uma crise” (sic), desencadeou interesse relativamente ao risco de negociações secretas entre reguladores e plataformas, que podem acabar por definir de forma opaca os limites à expressão legítima nas principais plataformas e em áreas particularmente sensíveis, confundindo assim a linha entre o interesse público e o comercial.

Conclusão

O estudo das pressões regulatórias informais ou indiretas no domínio da governação da Internet torna-se cada vez mais uma área muito importante de análise jurídica. Este artigo mostrou que mesmo um passo regulamentar geralmente positivo, como o DSA, também pode abranger e criar o risco deste tipo de dinâmica ameaçadora dentro e fora do continente europeu. Em qualquer caso, a investigação futura nesta área poderá enfrentar vários desafios metodológicos, tais como a necessidade de adoptar uma abordagem interdisciplinar (incluindo direito, ciência política, sociologia, tecnologia e economia), abordar questões de disponibilidade e acesso a dados, compreender adequadamente a jurisdição jurisdicional complexidades, considerar as sensibilidades geopolíticas, reconhecer os desequilíbrios de poder entre as diferentes partes interessadas e abordar adequadamente as mudanças tecnológicas, entre outras coisas.