Política

Organizações civis pedem mudanças nas regras para IA na Câmara

Published

2 anos ago

12/12/2024

Setores da sociedade civil que acompanham a tramitação do Projeto de Lei nº 2338/2023 sobre o uso da Inteligência Artificial (IA) esperam que o texto aprovado, de forma simbólica, nessa terça-feira (10) à noite no Senado (versão do substitutivo) possa ser melhorado na Câmara dos Deputados.

Para o advogado André Fernandes, diretor do Instituto de Pesquisa em Direito e Tecnologia do Recife, o projeto aprovado “traz medidas de governança gerais para orientar no país o que é uma IA responsável, o que é uma inteligência artificial ética.”

Ele opina que o PL dispõe de “um conjunto de medidas e até de penalidades pelo mau uso da inteligência artificial, que pode ajudar a lutar contra os abusos que, algumas vezes, são feitos por certas empresas.”

Isso porque há no projeto “diretrizes muito claras em termos da proteção ao trabalhador contra a precarização”, e também regras para a proteção de direitos autorais de artistas e realizadores brasileiros. “Seja imagem, seja vídeo, seja texto, temos uma proteção bem estabelecida em termos remuneratórios.”

Redes sociais

Apesar de considerar o projeto aprovado no Senado “equilibrado, nem permissivo e nem com nível excessivo de proteção”, como a regulamentação na União Europeia, Fernandes lamenta a retirada dos algoritmos das redes sociais da lista de sistemas considerados de “alto risco”.

O texto estabelece níveis distintos de risco para os sistemas de IA, conforme a possibilidade de impacto do sistema nos direitos fundamentais e na vida das pessoas. O PL também proíbe o desenvolvimento de aplicações de IA que apresentem “risco excessivo”, acima do nível de “alto risco”.

André Fernandes espera que os algoritmos das redes sociais ganhem classificação de “alto risco” na votação do PL na Câmara dos Deputados, e que haja medidas contra a desinformação conforme a sociedade civil propôs aos parlamentares em comissão temporária interna do Senado, onde tramitou inicialmente o projeto.

Ele também espera que a Casa legislativa resguarde a proibição às empresas de usarem “sistemas de IA para avaliar trabalhadores e penalizá-los”.

“Isso precisa ter um processo de supervisão humana para que o trabalhador tenha direito ao contraditório, à transparência, à devida informação, e à explicabilidade desses sistemas.”

Golpes e fraudes

O Instituto de Defesa de Consumidores (Idec) acredita na possibilidade de melhorias do texto durante a tramitação na Câmara dos Deputados. Em nota, o instituto lamentou que “o texto aprovado no Senado deixa a desejar ao não abordar adequadamente questões centrais enfrentadas pelos consumidores brasileiros, como golpes e fraudes digitais, a proteção de crianças e adolescentes, os riscos associados ao reconhecimento facial e as desigualdades amplificadas pelo score de crédito.”

Para o Idec, a tramitação do projeto de lei está sendo marcada “pela priorização dos interesses das grandes empresas de tecnologia em detrimento das demandas dos consumidores.”

Assim, o texto que sai do Senado para a Câmara “reflete a influência desproporcional do setor privado, que conseguiu reverter importantes avanços em direitos sob o pretexto de promover a inovação tecnológica.”

O advogado Adnan Demachki, pesquisador parceiro do Instituto Arapyaú, acrescenta que o PL em tramitação é omisso à formação de professores e investimentos na educação para ensinar sobre o uso de IA.

“Não há menção explícita no projeto à inclusão de IA no currículo escolar básico ou à capacitação de professores para lidar com a tecnologia. Essa é uma omissão significativa, considerando a necessidade de preparar as futuras gerações para interagir de forma ética e crítica com a IA”, disse o especialista.

Relacionadas