Como está sendo pensada a regulamentação da inteligência artificial na Colômbia?

Até o momento, foram apresentados sete projetos de lei na Colômbia que buscam regular de forma abrangente o desenvolvimento e a aplicação da inteligência artificial (IA). As propostas vão desde a promoção da transparência até à prevenção de riscos. No entanto, eles deixam tantas preocupações que sugerem que sua escrita foi apressada. Este artigo apresenta brevemente os projetos, suas principais linhas temáticas e algumas dessas preocupações.

• O projeto de lei 21 / 20C procurou estabelecer diretrizes de políticas públicas para o desenvolvimento e uso de IA. No entanto, ele não fez nenhum progresso.
• Após sua aposentadoria, este projeto foi apresentado mais três vezes: 354 / 21C, 253 / 22S y 59 / 23S. Embora não tenha havido avanços, a tentativa mais recente ainda é válida e tem uma apresentação positiva para o primeiro debate. Dado que os quatro textos são idênticos, doravante refiro-me exclusivamente ao projecto 59/23S.
• O projeto 91 / 23S estabelece o dever de informação para o “uso responsável” da IA.
• O projeto 130 / 23S procura “harmonizar” a IA com o direito ao trabalho.
• O projeto 200 / 23C procura estabelecer padrões para a proteção dos direitos humanos.

Sobre o que são os projetos?

A definição de IA

Todos os projetos propõem uma definição de IA. Em termos gerais, entendem a IA como um grupo de tecnologias que realizam operações que replicam as atividades cognitivas humanas. O problema é que esse tipo de definição não tem a precisão necessária para entender exatamente a quais tecnologias as leis se aplicariam.

Esses conceitos não são parâmetros objetivos para entender quais tecnologias seriam regulamentadas. Os projetos não deixam claro em que ponto uma série de algoritmos deixaria de ser uma ferramenta de processamento de dados para se tornar IA. Um sistema que recomenda um vídeo em uma plataforma streaming baseado no histórico de um usuário é IA? É um programa que joga xadrez?

Definir IA não é fácil. E embora o conceito possa ser objeto de discussão e evolução, essa ambiguidade não pode estar na lei. As leis exigem precisão suficiente para gerar certeza na sua aplicação. Por esta razão, alguns propuseram outras abordagens. Por exemplo, Jonas Schuett, do AI Governnance Center, propõe focar nos principais fontes de risco relevantes, distinguindo entre abordagens técnicas (como é feito?), como no caso da aprendizagem por reforço presente em sistemas de recomendação; aplicações (para que serve?), como reconhecimento facial, e capacidades (o que pode fazer?), como a capacidade de interagir fisicamente com o ambiente.

Transparência

O denominador comum nestes projetos é que eles querem transparência. No entanto, eles procuram isso de maneiras diferentes.

Dever de informar. O Projeto 91/23S mantém que quem realiza qualquer tipo de atividade econômica ou acadêmica utilizando IA deve informar para que foi utilizada (Art. 3). Da mesma forma, o projeto 130/23S visa obrigar as entidades que utilizam IA para a seleção e promoção de trabalhadores a reportar a utilização de algoritmos nesses processos (Art. 3).

Este dever exemplifica o problema da ambiguidade de definição descrito acima. Quando o uso de Programas No ambiente acadêmico, é um uso reportável da IA? A obrigação não é clara. Por outro lado, devido a esta mesma ambiguidade, estes regulamentos podem acabar por criar uma carga administrativa significativa para as empresas e, em última análise, um desincentivo à adoção de tecnologias.

 59/23C busca que os responsáveis ​​pelo uso e desenvolvimento da IA ​​expliquem as causas que dão origem às decisões ou previsões dos algoritmos (Art. 14). Por sua vez, o projeto 200/23C procura explicar “os desenvolvimentos, resultados e subprocessos” e “a entrada, saída e funcionamento de cada componente algorítmico e a forma como contribui para os resultados dos sistemas”.

Embora a transparência seja boa, as propostas apresentam desafios. Primeiro, a obrigação de explicar ao público sistemas altamente complexos do ponto de vista técnico não é fácil. Além do mais, estudos mostraram que explicar este tipo de tecnologias pode afetar a confiança do povo. Por último, as obrigações de explicabilidade também podem gerar encargos administrativos significativos.

Auditoria. O Projeto 200/23C estabelece que a Superintendência da Indústria e Comércio (SIC) implementará processos de auditoria de IA. Também aqui existem desafios: a auditoria exigiria capacidade técnica que o SIC não possui atualmente. Além disso, haveria tensões entre a obrigação de tornar os algoritmos transparentes e o direito das empresas de manter segredos comerciais.

Avaliações de risco. Por último, o projeto 200/23C exigiria que aqueles que utilizam e implementam sistemas de IA publicassem uma avaliação dos riscos e do impacto que tais sistemas poderiam ter sobre os direitos humanos.

prevenção de danos

A maioria dos projetos propõe medidas para prevenir danos. O Projeto 59/23S propõe obrigar quem utiliza e desenvolve IA a evitar os efeitos nocivos que esta pode gerar a nível social, laboral, económico, ambiental e político (arts. 3.º e 18.º). Além disso, os desenvolvedores seriam obrigados a realizar testes prévios para garantir que nenhum dano fosse gerado (Art. 19). As obrigações são importantes, mas o projeto não estabelece diretrizes de avaliação. Por sua vez, o projeto 200/23C estabelece que os sistemas informáticos que utilizam IA serão identificados de acordo com o nível de risco: nulo, limitado, alto ou inaceitável (Art. 6). Contudo, não esclarece quem deve ser o responsável por tal classificação.

Curiosamente, o projeto 130/23S prevê que as entidades que utilizam IA nos processos de trabalho devem garantir a saúde dos seus colaboradores e contratados, evitando que o uso da IA ​​gere doenças físicas e psicológicas, como ansiedade ou estresse (Art. 11).

Igualdade e não discriminação

A maioria dos projetos de lei também contém disposições antidiscriminação. Assim, por exemplo, o projeto de lei 59/23C refere-se ao dever de garantir igualdade de tratamento e oportunidades (art. 11) e o projeto de lei 130/23S visa garantir a imparcialidade nos processos trabalhistas, como seleção de pessoal e avaliação de desempenho (arts. 3 e 4).

O Projeto 200/23C proíbe expressamente a implementação de IA para determinados fins, como perfis de classificação para concessão de crédito e previsão de comportamento criminoso. Além disso, exige que o desenvolvimento da IA ​​seja feito “com uma perspectiva de género e de diversidade sexual” (Art. 4) e sem dividir ou confrontar as pessoas ou promover a violência (Art. 5). Embora estes tipos de disposições tenham boas intenções, podem levar à arbitrariedade. O que é justiça para uma pessoa pode ser matéria de debate e opinião para outra. O que constitui violência inaceitável para uma pessoa pode ser um exercício legítimo de liberdade de expressão para outra.

Política de Privacidade

Os projectos contêm disposições clássicas sobre a protecção de dados pessoais.

Consentimento informado. Os projetos requerem o consentimento informado das pessoas para a utilização dos seus dados pessoais no desenvolvimento e utilização de IA (Arts. 12, 13, 22, 23, 24 e 25 do projeto 59/23S e Art. 10 do projeto 200/23C ).

Como os padrões se referem ao uso de dados no “desenvolvimento” de IA, eles seriam aplicáveis ​​aos processos de treinamento de sistemas de IA, que muitas vezes utilizam grandes conjuntos de dados que podem conter imensas quantidades de dados pessoais (como por exemplo, o nome e nacionalidade de Angela Merkel). Exigir autorização para cada dado tornaria impossível o treinamento desses sistemas.

Segurança de dados. As entidades que utilizam dados pessoais devem garantir a sua segurança (Art. 10 do projeto 130/23, Art. 4 do projeto 200/23C). O Projeto 200/23C proíbe a transferência de “dados pessoais destinados à utilização e implementação” de sistemas de IA, a menos que o risco seja zero. Além disso, o projeto 59/23S estabelece que a utilização de dados muito pessoais (como voz e DNA) confere aos titulares desses dados o direito de exigir indenização por danos e lucros obtidos sem o seu consentimento (arts. 22 e 25).

Padrões, registros e endossos

Padrões. Os projetos incumbem as instituições estatais de criar padrões para o uso e desenvolvimento de IA. O Projeto 59/23S pretende criar uma Comissão de Processamento de Dados e Desenvolvimentos com Inteligência Artificial (artigos 4.º e 5.º) que deverá criar regulamentos técnicos para IA. O Projeto 130/23S incumbe três ministérios de emitir recomendações para a harmonização entre o uso de IA e funções humanas no local de trabalho. E o projeto 91/23S pretende incumbir o governo de conceber um quadro ético para orientar o desenvolvimento e a avaliação de sistemas generativos de IA que operam e são implementados na Colômbia (Art. 4).

Alguns projetos vão um passo além e definem diretamente alguns padrões. Por exemplo, o projeto 59/23S estabelece que o desenvolvimento e implementação da IA ​​“não pode ter um objetivo diferente do bem comum” (Art. 3). Por sua vez, o projeto 200/23C estabelece que entidades públicas e privadas só poderão utilizar programas de computador se estes cumprirem princípios como a “preservação irrestrita da dignidade”.

O problema com estas disposições é que são ambíguas. O que é ético é, em grande medida, uma questão subjetiva, e confiar ao governo atual a definição desses padrões gera incerteza e arbitrariedade. O que se entende por “bem comum” ou “preservação irrestrita da dignidade” também é subjetivo. Portanto, restringir os desenvolvimentos ao que atende a tais propósitos poderia levar à proibição, por exemplo, de desenvolvimentos legítimos como Perreologia, um sistema de IA que busca prever sucessos musicais.

Inscrições e endossos. O Projeto 59/23S pretende que os desenvolvimentos de IA sejam registados no Ministério da Ciência (Art. 30). No entanto, não indica qual seria a finalidade desse registo, nem dá pistas sobre o que seria necessário ou as consequências do não registo.

O Projeto 200/23C obriga as empresas a registar os seus modelos de IA numa plataforma gerida pelo SIC, que deve certificar que os modelos “estão em conformidade com os direitos humanos”. As mesmas preocupações sobre a ambiguidade das regras e a possível arbitrariedade na sua aplicação aplicam-se aqui. Finalmente, se entendermos que estes regulamentos se aplicam a todos os serviços de IA que podem ser acessados ​​a partir da Colômbia (independentemente de onde sejam desenvolvidos ou hospedados), a carga administrativa sobre estas instituições seria excessiva.

A afirmação do humano

A maioria dos projetos afirma a prevalência do humano. O Projeto 59/23S propõe que a IA tenha como finalidade a preservação do ser humano (Art.10). Além disso, estabelece que qualquer decisão de IA será “auditável, revisável e controversa por decisão humana”, que prevalecerá sobre os resultados da IA ​​(Art. 3). O Projeto 130/23S estabelece que as entidades que utilizam IA para direcionar e avaliar seus funcionários e contratados devem garantir “a prevalência da inteligência humana sobre a inteligência artificial” (Art. 4). Além disso, as instituições de ensino podem implementar programas para conseguir “que a inteligência humana prevaleça sobre a inteligência artificial” (Art. 7). Da mesma forma, o projeto 200/23 estabelece que qualquer decisão tomada pela IA será “suscetível à revisão humana” (Art. 4).

Fazer cumprir este tipo de obrigações é praticamente impossível, especialmente se se espera que todas as decisões tomadas por todas as tecnologias de IA acessíveis a partir da Colômbia sejam passíveis de revisão. E novamente, o que é IA?

outros tópicos

Protecção laboral. Dois projetos estabelecem obrigações de proteção do trabalho humano, obrigando as entidades que utilizam IA a requalificar os seus funcionários e prestadores de serviços para manterem o maior número possível de empregos (projeto 130/23S) ou a realocar trabalhadores por um período mínimo de seis meses (projeto 200/23C). .

O ambiente e as alterações climáticas. Curiosamente, a maior parte dos projectos refere-se - sem maior desenvolvimento - à necessidade de preservar o ambiente ambiental e combater as alterações climáticas (arts. 7, 8 e 10 do projecto 59/23S, arts. 4, 5 e 14 do projecto 200/23C ).

Desinformação. O Projeto 59/23S obrigaria os responsáveis ​​pelo uso, desenvolvimento e implementação da IA ​​a realizar controles para verificar a veracidade dos dados e resultados.

Regimes de responsabilidade. O Projeto 200/23C dá às pessoas que acreditam ser afetadas pelo uso da IA ​​o direito de apresentar reclamações, solicitar a revogação de decisões e solicitar medidas cautelares (artigos 4.º, 8.º e 14.º). O Projeto 59/23S contém disposições sobre responsabilidade contratual e extracontratual (artigos 28.º e 29.º). No segundo caso, estabelece um regime de responsabilidade objetiva (ou seja, responsabilidade independentemente de ter havido negligência).

Idade minima. A idade mínima para usar e implementar IA será 18 anos de acordo com o projeto 200/23C. Com esta redação, as escolas não poderiam ser ensinadas a programar sistemas de IA e os menores não poderiam aceder às redes sociais.

Educação O Projeto 200/23C propõe capacitação para servidores públicos (Art. 22) e campanhas de prevenção para estudantes (Art. 23). O Projeto 130/23S propõe que as instituições de ensino implementem programas de harmonização na utilização da IA ​​e do talento humano (Art. 7). E o projeto 91/23S propõe incentivos à criação de projetos educacionais e de pesquisa (art. 5º) e promove a cooperação internacional para esse fim (artigo 8º). Além disso, busca que o governo crie campanhas de formação para os cidadãos (art. 6º).

Atividades excluídas. O Projecto 200/23C contém uma lista de actividades excluídas (Art. 13) entre as quais se encontram o reconhecimento de emoções e a influência sobre os eleitores.

* * *

Os projetos refletem um desejo significativo de abordar as principais preocupações relacionadas com a IA. No entanto, a ambiguidade nas regras, os potenciais encargos administrativos e a falta de procedimentos claros constituiriam desafios para a aplicação eficaz do regulamento.