Algoritmos não têm sentimentos, mas têm memória. No Brasil, a inteligência artificial aprende com um histórico de profunda desigualdade — um ciclo que o novo Marco Legal da IA tenta romper.
A neutralidade tecnológica é um mito estatístico. Sistemas de inteligência artificial não criam preconceitos do zero; eles otimizam padrões encontrados em bases de dados históricas. Quando esses dados refletem séculos de disparidades econômicas e sociais, o algoritmo não apenas aprende o viés — ele o automatiza e o escala.
No Brasil, a "estatística do preconceito" é o dado de treinamento padrão. Segundo o IBGE, em 2022, o rendimento-hora médio dos trabalhadores brancos foi 61,4% maior que o de ocupados pretos e pardos. A escolaridade não apaga a diferença: mesmo com ensino superior completo, trabalhadores brancos recebem 37,6% a mais por hora 1[1].
Quando um modelo de machine learning é treinado para prever risco de crédito, sucesso em contratações ou probabilidade de reincidência criminal usando o histórico brasileiro, a correlação estatística entre raça, CEP e renda se torna uma profecia autorrealizável. O algoritmo penaliza os grupos historicamente marginalizados não por intenção, mas por precisão matemática em relação a um passado desigual.
O risco de perpetuação de vieses é agravado pela falta de diversidade nas equipes que desenham, treinam e auditam esses modelos. Os pontos cegos de um algoritmo costumam refletir os pontos cegos de seus criadores.
Dados da comunidade Data Hackers, que mapeia o mercado de profissionais de dados no Brasil, mostram uma assimetria profunda na força de trabalho responsável por construir o futuro analítico do país.
Homens brancos representam quase metade (49,4%) dos profissionais da área de dados. Em contraste, mulheres pretas e pardas ocupam apenas 8,3% dessas posições . Quando a equipe que define as variáveis de sucesso de um modelo não reflete a demografia da população que será julgada por ele, falhas na identificação de vieses discriminatórios tornam-se sistêmicas.
É neste cenário que o Marco Legal da Inteligência Artificial (PL 2338/2023) tenta estabelecer um freio institucional. Aprovado pelo Senado em dezembro de 2024 e atualmente em tramitação na Câmara dos Deputados 2[2], o texto aborda o viés algorítmico de forma direta.
A legislação garante aos cidadãos o direito à "não discriminação ilícita ou abusiva e à correção de vieses discriminatórios". Mais importante, o PL muda a lógica de responsabilização da reação para a prevenção:
Classificação de Alto Risco: Sistemas que afetam o acesso a serviços essenciais, utilizam biometria para identificação ou têm "alto potencial danoso de ordem material ou moral, bem como viés discriminatório" são classificados como de alto risco.
Avaliação de Impacto Algorítmico (AIA): Antes de lançar um sistema de alto risco no mercado, os desenvolvedores serão obrigados a realizar uma AIA. O documento deve mapear os riscos aos direitos fundamentais e detalhar as medidas técnicas adotadas para mitigar vieses.
Supervisão Humana: O texto exige a garantia de revisão humana para decisões automatizadas que gerem efeitos jurídicos relevantes ou impactem significativamente os interesses do afetado.
Se aprovado sem desidratação de seus princípios fundamentais, o PL 2338 forçará as empresas de tecnologia a tratar a auditoria de viés não como uma iniciativa de relações públicas, mas como um requisito de conformidade legal.
A inovação tecnológica não precisa ser um espelho do passado. Com governança de dados rigorosa e equipes mais diversas, é possível construir algoritmos que corrijam, em vez de amplificar, a estatística do preconceito.
Belo AI
A decade after their last championship, the San Antonio Spurs endured a significant defensive decline. Victor Wembanyama's arrival has dramatically altered the team's trajectory, showcasing an individual impact that rivals the foundational players of their championship era.
Apr 13