É preciso regular a Inteligência Artificial, diz dirigente em debate no G20 Social

Atividade organizada pelo Conselho Nacional de Direitos Humanos, no dia 14 , no Rio de Janeiro, discutiu os riscos e os desafios em relação aos impactos da IA sobre a sociedade

A inteligência artificial (IA) e seus impactos foram tema de um dos painéis autogestionados com a participação da CUT durante o G20 Social. Organizada pelo Conselho Nacional de Direitos Humanos (CNDH), a atividade discutiu os riscos do avanço sem regras da Inteligência Artificial (IA) e os desafios éticos, ambientais e sociais da ferramenta.

A IA traz benefícios em praticamente todas as atividades humanas, mas o debate enfrenta um lobby poderoso para ignorar o racismo algorítmico, a exclusão digital e a concentração do poder tecnológico. Propostas para a criação de leis consistentes para o setor estão em discussão na maioria dos países do G20, e devem levar em consideração o acesso igualitário aos benefícios da tecnologia, que tem ampliado as desigualdades e violado direitos fundamentais.

“É preciso ter regulação, ter transparência, controle de dados. Tudo isso é fundamental”, afirmou Admirson Mederios Ferro Jr. (Greg), secretário de Economia Solidária da CUT e membro do CNDH.

“Tramita um projeto sobre o tema no Senado e é uma das nossas pautas levar esse debate para o diálogo social. No dia 3 de dezembro haverá uma audiência pública sobre inteligência artificial”, disse o dirigente.

O objetivo para 2025, afirmou, é construir a agenda de diáologo com o Congresso Nacional, o Poder Público e a Sociedade Civil. “Entendemos que é mais que necessário ter uma regulação dessa tecnologia que traz uma série de elemento prejudiciais como também traz uma série de coisas favoráveis que precisam ser identificadas e promovidas para o bem da sociedade de maneira geral”, pontuou Greg.

João Brant, secretário de Políticas Digitais da Secretaria de Comunicação da Presidência da República, avalia que a inteligência artificial pode trazer uma série de benefícios, mas ela também tem riscos.

“A gente precisa conseguir uma regulação que combine a garantia dos benefícios e o enfrentamento aos riscos. Para isso, nós precisamos botar direitos humanos em primeiro lugar. Significa garantir que as pessoas tenham garantido o poder de contestar decisões, caso sejam feitas pela inteligência artificial e afetem seus direitos, que eles possam enfrentar e ter direito de enfrentar discriminação e preconceito e que a gente tenha um sistema de regulação que proteja os direitos coletivos, não só os direitos individuais, disse Brant durante o painel.”

Entre as propostas defendidas pelo CNDH está a garantir a conectividade como um direito humano. “É condição essencial para a participação democrática e a formação de opinião informada”. Defensores de direitos humanos são vítimas frequentes de discursos de ódio, replicados e intensificados na aplicação de plataformas potencializadas pela IA”.

A liberdade de expressão e a diversidade religiosa são pilares dos direitos humanos e enfrentam novos desafios com o uso da IA em plataformas digitais. Para Aisha Sayuri do Programa de Vigilância de Direitos Humanos das Nações Unidas, os algoritmos podem amplificar o ódio e a intolerância. Para ela, há uma percepção equivocada de que os algoritmos são neutros. “Os sistemas fingem isenção, mas há programadores por trás”, disse. 

Os vieses nos sistemas de IA podem disseminar e intensificar desigualdades estruturais e preconceitos, afetando principalmente mulheres, negros, pessoas com deficiência, LGBTQIA+ e outros grupos vulnerabilizados, quando algoritmos replicam estruturas sociais de discriminação, mesmo que de forma indireta, agravam desigualdades preexistentes e restringem o acesso equitativo a oportunidades.

O Brasil tem discutido nas propostas o letramento digital, que é educar jovens e adultos a lidar com as informações na internet e a importância da participação da sociedade civil na construção das propostas. Brant falou da importância de que se possa apontar responsabilidades mesmo para conteúdos gerados por IA e de “não perder a capacidade de dizer o que é real”.  

e da implementação da carta de intenções firmada entre o Instituto de Políticas Públicas em Direitos Humanos (IPPDH) e o CNDH, que estabelece linhas de cooperação técnica para essas políticas.

Debate no G20 Brasil

A concentração do desenvolvimento e do controle da IA em poucas empresas multinacionais levanta preocupações sobre a soberania digital e a segurança de dados pessoais. A Declaração de São Luís, documento elaborado no G20 no Brasil, reforça a importância de uma IA que promova o desenvolvimento sustentável e reduza desigualdades, enquanto a Declaração de Maceió destaca a necessidade de garantir a integridade da informação nas redes sociais, onde o uso de IA para manipulação de dados representa uma ameaça à democracia e à transparência.

Atualmente tramita no Congresso brasileiro o Projeto de Lei 2.338, que estabelece diretrizes para a regulação da IA no Brasil, buscando assegurar a transparência, a explicabilidade e a responsabilidade dos algoritmos. O Projeto visa evitar que as tecnologias reproduzem preconceitos e ampliar o controle da sociedade sobre o funcionamento dos sistemas de IA, sobretudo em áreas sensíveis como segurança pública, saúde e educação.

IA e racismo estrutural

Os vieses nos sistemas de Inteligência Artificial podem disseminar e intensificar desigualdades estruturais e preconceitos, afetando principalmente mulheres, negros, pessoas com deficiência, LGBTQIA+ e outros grupos vulnerabilizados. Quando algoritmos replicam estruturas sociais de discriminação, mesmo que de forma indireta, agravam desigualdades preexistentes e restringem o acesso equitativo a oportunidades.

O secretário de Combate ao Racismo da Confederação Nacional dos Trabalhadores nO Ramos Financeiro (Contraf-CUT) e membro do coletivo nacional de combate ao racismo da CUT, Almir Aguiar, também presente ao evento, destacou a participação de movimentos negros nos debates.

Ele cita a inteligência artificial como fator de atenção por discriminar a população negra. “É preciso aprimorar essas tecnologias, os algoritmos. Não podemos deixar que sistemas da polícia para identificação de criminosos, por exemplo, tenham na população negra seus maiores alvos”, explicou Almir.

Participaram da atividade, além do dirigente cutista, Atahualpa Blanchet, do Instituto de Políticas Públicas em Direitos Humanos do Mercosul (IPPDH) e Consultor Ad hoc do Conselho Nacional de Direitos Humanos (CNDH); Paula Guedes, da Coalizão de Direitos na Rede; João Brant, Secretário de Políticas Digitais da Secretaria de Comunicação da Presidência da República do Brasil (SECOM); Artur Romeu, representante da Repórteres Sem Fronteiras; e Helena Martins, professora da Universidade Federal do Ceará, com a mediação de Katia Brembatti, da Associação Brasileira de Jornalismo Investigativo.

fonte: https://www.cut.org.br/noticias/e-preciso-regular-a-inteligencia-artificial-diz-dirigente-em-debate-no-g20-socia-64b0