When does the bully pulpit become regular bullying?

Among the most important stories of the past generation is the transformational impact that the user-generated web, and social media platforms in particular, have had on the information environment. The spread of these technologies brought about unprecedented disruption, by placing the power of mass communication in the hands of the commons, and thereby decentralizing the public discourse away from traditional hubs of institutional knowledge that could be more easily subject to State control. This transformation led to a tidal wave of social change and revolution, which swept aside calcified autocracies in places like Egypt and Tunisia that failed to understand the implications of their loss of control over the information environment until it was too late.

But as network effects imposed a new order on the information economy, the public discourse eventually began to reconsolidate under the control of a handful of powerful speech platforms. These private sector intermediaries assumed their own quasi-governance functions over the speech rights of billions of users, and by controlling the levers of amplification became gatekeepers of the public discourse. As the new era of platform dominance has taken hold, governments are determined not be caught flat-footed again. Having woken up to the power of social media platforms, democracies and dictatorships alike are seeking avenues to coopt them as arms of State influence. In some cases, the State’s behavior in these relationships pursues legitimate public interest goals, such as campaigns to combat health misinformation and encourage vaccination. Other demands are more nakedly self-interested, such as attempts to stifle speech about government corruption or mismanagement, or to curb the ability of opposition candidates to get their messages out.

The delicate dynamic between online platforms, governments, and their users places the platforms in a difficult position. For all of the platforms’ newfound power and influence, governments still retain a monopoly on the use of force. People joke about being sentenced to “Facebook Jail”, but if platforms push back against government demands their staff may wind up in actual jail. Governments retain a variety of other coercive measures, including everything from new taxes or fines, to threats to throttle or block a platforms’ operations, to antitrust or privacy investigations that may be unleashed as a punishment against platforms which buck their demands. Platforms want to be seen as a haven for free expression and a champion of their users. But at the end of the day, the prime directive of any corporation is to maximize shareholder value, and there is more value in acquiescing to government requests than in resisting them, even if these requests are of questionable legality or morality.

The resulting interplay between platforms’ enforcement decisions and government pressure raises a number of concerns. Mainly, it serves as an avenue to end-run constitutional freedom of expression standards that limit the government’s ability to prohibit certain kinds of speech, such as misinformation or the promotion of designated terrorist organizations. These types of content are often unpopular, but the constitutional standards about where we draw the line between acceptable and unacceptable speech exist for a reason. Government restrictions targeting misinformation are generally disfavored under international human rights law, as they are easy to abuse. While platforms have the right to moderate content to a stronger standard should they choose to, the government’s background role in orchestrating platform speech restrictions muddies the legal delineation between platform and government enforcement. The informal nature of the interactions makes it difficult to attach any proper due process. Governments generally frame enforcement decisions as purely voluntary on the part of the platforms, even where governments are specifically requesting the removal of an account or post, and despite the clearly coercive nature of the dynamic. Causality between a government request and a platform enforcement decision is difficult to establish, which means that, in practical terms, there is no opportunity for judicial review.

Defining Problematic Jawboning

It is difficult to develop a proper framework as to when and how government engagement with digital platforms crosses the line. The major platforms are enormously influential players in the information society, and one cannot expect that governments will take no interest in their operations. Governments routinely use the bully pulpit to push powerful corporations into behaving better or more responsibly, and these pressure campaigns are often in line with the public interest. It is plainly impractical to suggest that governments should only ever engage with companies through legislative or enforcement actions. The enormous consequences of platforms’ speech decisions demands public accountability, including through elected representatives. But unlike criminal content restrictions on speech, which can be assessed against a robust set of well-developed international human rights standards, there is no parallel understanding of how informal government pressure can be responsibly wielded. So how should we delineate between legitimate and problematic forms of jawboning?

First, it should be noted that “legitimate” forms of jawboning can only come from democratic governments, as democratic accountability is the foundation for legitimacy. If the government in question is not a robust democracy, its requests or demands are far more likely to be self-serving, as opposed to pursuing a legitimate public interest outcome, and should be treated as such.

A second standard for “acceptable” jawboning is that it must be done openly and transparently. This does not mean that all interactions must come through a formal order, but there should be a public record about what exactly the government is asking for, and how they are making the request. While governments often argue for secrecy to protect interests like law enforcement investigative techniques or the candor of public deliberations, it is difficult to conceptualize how such justifications apply to jawboning. Moreover, transparency is vital to ensuring that jawboning is not used to pursue self-interested political goals, such as deplatforming legitimate criticism, and to ensure that jawboning requests do not employ undue levels of coercion, such as where platforms are threatened with unrelated investigations if they refuse to play ball.

Even if these first two conditions are satisfied, it is still constitutionally problematic for governments to use platforms to enforce content restrictions that they are unable to impose directly. As a result, some have suggested that government pressure to act against speech should cleave to the same constitutional boundaries that apply to formal enforcement actions. However, this does not align with generally accepted practice across healthy democracies, which include a long and rich tradition of elected officials vociferously complaining about the media. In 1992, the Vice President of the United States attacked a popular television show for their portrayal of a successful and independent single mother. That same year, President George H. W. Bush criticized The Simpsons for its less-than-wholesome portrayal of the American family.

One may disagree with the content of these critiques, especially in retrospect, but clearly they are part and parcel of the role of elected officials in sounding off on the problems they see across society, including related to expressive industries. These examples demonstrate that Joe Biden’s public critiques of Facebook over the course of the COVID pandemic are not unprecedented.

There are two additional factors which may serve to differentiate illegitimate forms of pressure from legitimate use of the bully pulpit to encourage responsible behavior. One is through the explicitly coercive nature of the request—the presence of an “or else” connected to the demand, as is recognized in U.S. case law on the subject. This type of coercion is particularly problematic when the threat is unrelated to speech enforcement.

One additional factor which may be helpful in drawing the line between legitimate and illegitimate forms of jawboning relates to the specificity of the request. Where calls to crack down on certain types of content may be fine in the aggregate, once governments begin to get more specific in terms of the intended target and the intended enforcement action it starts to look increasingly like censorship by proxy. There is a clear conceptual difference between a public official castigating a platform, in general terms, for allowing vaccine misinformation to go viral, and that same official handing the platform a list of accounts that they would like to see terminated.

As informal contacts between platforms and governments become increasingly central to defining the contours of the global speech discourse, there is significant utility in advancing a robust discussion around what separates legitimate jawboning from illegitimate forms, so that courts, voters, and above all, the platforms themselves have a clearer understanding of how to respond as these interactions continue. While the above factors are not exhaustive, they will hopefully provide some context for the coming discussion, and in defining the governance function of platforms as gatekeepers of the public discourse.

[Spanish version below]

¿Cuándo el púlpito del matón se convierte en sólo bullying?

Entre las historias más importantes de la generación pasada está el impacto transformador que la web generada por los usuarios, y las plataformas de redes sociales en particular, han tenido en el entorno de la información. La difusión de estas tecnologías provocó una perturbación sin precedentes, al poner el poder de la comunicación de masas en manos de los comunes y, por lo tanto, descentralizar el discurso público lejos de los centros tradicionales de conocimiento institucional que podrían estar más fácilmente sujetos al control del Estado. Esta transformación condujo a una oleada de cambio social y revolución, que arrasó con autocracias calcificadas en lugares como Egipto y Túnez que no lograron comprender las implicaciones de su pérdida de control sobre el entorno de la información hasta que fue demasiado tarde.

Pero a medida que los efectos de red impusieron un nuevo orden en la economía de la información, el discurso público finalmente comenzó a reconsolidarse bajo el control de un puñado de poderosas plataformas de discurso. Estos intermediarios del sector privado asumieron sus propias funciones de cuasigobernanza sobre los derechos de expresión de miles de millones de usuarios y, al controlar las palancas de amplificación, se convirtieron en guardianes del discurso público. A medida que se ha afianzado la nueva era de dominio de las plataformas, los gobiernos están decididos a no volver a ser sorprendidos desprevenidos. Habiendo despertado al poder de las plataformas de redes sociales, tanto las democracias como las dictaduras están buscando vías para cooptarlas como brazos de influencia del Estado. En algunos casos, el comportamiento del Estado en estas relaciones persigue objetivos legítimos de interés público, como campañas para combatir la desinformación sanitaria y fomentar la vacunación. Otras demandas son más abiertamente egoístas, como los intentos de reprimir el discurso sobre la corrupción o la mala gestión del gobierno, o de limitar la capacidad de los candidatos de la oposición para difundir sus mensajes.

La delicada dinámica entre las plataformas en línea, los gobiernos y sus usuarios coloca a las plataformas en una posición difícil. A pesar del nuevo poder e influencia de las plataformas, los gobiernos aún conservan el monopolio del uso de la fuerza. La gente bromea acerca de ser sentenciado a la “cárcel de Facebook”, pero si las plataformas rechazan las exigencias del gobierno, su personal puede terminar en la cárcel real. Los gobiernos mantienen una variedad de otras medidas coercitivas, que incluyen todo, desde nuevos impuestos o multas, hasta amenazas de estrangular o bloquear las operaciones de una plataforma, hasta investigaciones antimonopolio o de privacidad que pueden desencadenarse como castigo contra las plataformas que se oponen a sus demandas. Las plataformas quieren ser vistas como un refugio para la libre expresión y defensores de sus usuarios. Pero al fin y al cabo, la directriz principal de cualquier corporación es maximizar el valor para los accionistas, y es más valioso acceder a las solicitudes del gobierno que resistirse a ellas, incluso si estas solicitudes son de legalidad o moralidad cuestionable.

La interacción resultante entre las decisiones de cumplimiento de las plataformas y la presión gubernamental plantea una serie de preocupaciones. Principalmente, sirve como una vía para poner fin a los estándares constitucionales de libertad de expresión que limitan la capacidad del gobierno para prohibir ciertos tipos de expresión, como la desinformación o la promoción de organizaciones terroristas designadas. Este tipo de contenidos suelen ser impopulares, pero los estándares constitucionales sobre dónde trazar la línea entre discurso aceptable e inaceptable existen por una razón. Las restricciones gubernamentales contra la desinformación generalmente no son favorecidas por el derecho internacional de derechos humanos, ya que son fáciles de abusar. Si bien las plataformas tienen derecho a moderar el contenido a un estándar más estricto si así lo desean, el papel secundario del gobierno en la orquestación de las restricciones de expresión en las plataformas confunde la delimitación legal entre la plataforma y la aplicación del gobierno. La naturaleza informal de las interacciones dificulta la aplicación de un debido proceso adecuado. Los gobiernos generalmente consideran que las decisiones de ejecución son puramente voluntarias por parte de las plataformas, incluso cuando los gobiernos están solicitando específicamente la eliminación de una cuenta o publicación, y a pesar de la naturaleza claramente coercitiva de la dinámica. La causalidad entre una solicitud del gobierno y una decisión de aplicación de la plataforma es difícil de establecer, lo que significa que, en términos prácticos, no hay posibilidad de revisión judicial.

Definición de jawboning problemática

Es difícil desarrollar un marco adecuado para determinar cuándo y cómo la interacción del gobierno con las plataformas digitales cruza la línea. Las principales plataformas son actores enormemente influyentes en la sociedad de la información, y no se puede esperar que los gobiernos no se interesen en sus operaciones. Los gobiernos utilizan rutinariamente el púlpito del matón para presionar a las corporaciones poderosas a comportarse mejor o de manera más responsable, y estas campañas de presión a menudo están en línea con el interés público. Es claramente impráctico sugerir que los gobiernos solo deberían interactuar con las empresas a través de acciones legislativas o de cumplimiento. Las enormes consecuencias de las decisiones de las plataformas en materia de libertad de expresión exigen rendición de cuentas pública, incluso a través de representantes electos. Pero a diferencia de las restricciones de contenido criminal a la libertad de expresión, que pueden evaluarse en función de un sólido conjunto de normas internacionales de derechos humanos bien desarrolladas, no existe una comprensión paralela de cómo se puede ejercer responsablemente la presión gubernamental informal. Entonces, ¿cómo deberíamos distinguir entre formas legítimas y problemáticas de presión?

En primer lugar, debe notarse que las formas “legítimas” de presión solo pueden provenir de gobiernos democráticos, ya que la rendición de cuentas democrática es la base de la legitimidad. Si el gobierno en cuestión no es una democracia sólida, es mucho más probable que sus solicitudes o demandas sean egoístas, en lugar de perseguir un resultado legítimo de interés público, y deberían ser tratadas como tales.

Un segundo estándar para una manipulación “aceptable” es que debe realizarse de forma abierta y transparente. Esto no significa que todas las interacciones deban realizarse a través de una orden formal, pero debe haber un registro público sobre qué es exactamente lo que pide el gobierno y cómo lo hace. Si bien los gobiernos a menudo abogan por el secreto para proteger intereses como las técnicas de investigación policial o la franqueza de las deliberaciones públicas, es difícil conceptualizar cómo se aplican esas justificaciones a las críticas. Además, la transparencia es vital para garantizar que las críticas no se utilicen para perseguir objetivos políticos interesados, como desbancar las críticas legítimas, y para garantizar que las solicitudes de críticas no empleen niveles indebidos de coerción, como cuando las plataformas se ven amenazadas con investigaciones no relacionadas si se niegan a jugar a la pelota.

Incluso si se cumplen estas dos primeras condiciones, sigue siendo constitucionalmente problemático que los gobiernos utilicen plataformas para imponer restricciones de contenido que no pueden imponer directamente. Como resultado, algunos han sugerido que la presión gubernamental para actuar contra la expresión debería ceñirse a los mismos límites constitucionales que se aplican a las acciones formales de aplicación de la ley. Sin embargo, esto no se alinea con la práctica generalmente aceptada en las democracias saludables, que incluyen una larga y rica tradición de funcionarios electos que se quejan a gritos de los medios de comunicación. En 1992, el vicepresidente de los Estados Unidos atacó un popular programa de televisión por su representación de una madre soltera exitosa e independiente. Ese mismo año, el presidente George H. W. Bush criticó a Los Simpson por su poco saludable retrato de la familia estadounidense.

Uno puede no estar de acuerdo con el contenido de estas críticas, especialmente en retrospectiva, pero claramente son parte integrante del papel de los funcionarios electos al denunciar los problemas que ven en toda la sociedad, incluidos los relacionados con las industrias expresivas. Estos ejemplos demuestran que las críticas públicas de Joe Biden a Facebook durante el transcurso de la pandemia de COVID no tienen precedentes.

Hay dos factores adicionales que pueden servir para diferenciar las formas ilegítimas de presión del uso legítimo del púlpito para fomentar un comportamiento responsable. Una es a través de la naturaleza explícitamente coercitiva de la solicitud: la presencia de un “o si no” conectado a la demanda, como reconoce la jurisprudencia estadounidense sobre el tema. Este tipo de coerción es particularmente problemático cuando la amenaza no está relacionada con la imposición del discurso.

Un factor adicional que puede resultar útil para trazar la línea entre las formas legítimas e ilegítimas de chantaje se relaciona con la especificidad de la solicitud. Si bien los llamados a tomar medidas enérgicas contra ciertos tipos de contenido pueden ser aceptables en términos generales, una vez que los gobiernos comienzan a ser más específicos en términos del objetivo previsto y la acción de cumplimiento prevista, comienza a parecerse cada vez más a una censura por poderes. Existe una clara diferencia conceptual entre un funcionario público que castiga a una plataforma, en términos generales, por permitir que la desinformación sobre las vacunas se vuelva viral, y ese mismo funcionario que le entrega a la plataforma una lista de cuentas que le gustaría que se cancelaran.

A medida que los contactos informales entre plataformas y gobiernos se vuelven cada vez más centrales para definir los contornos del discurso de expresión global, es de gran utilidad promover un debate sólido sobre lo que separa el chantaje legítimo de las formas ilegítimas, de modo que los tribunales, los votantes y, sobre todo, las propias plataformas tengan una comprensión más clara de cómo responder a medida que continúan estas interacciones. Si bien los factores mencionados no son exhaustivos, se espera que proporcionen cierto contexto para el próximo debate y para definir la función de gobernanza de las plataformas como guardianes del discurso público.