Em tempos de algoritmo, a Inteligência Artificial pode substituir o julgamento humano?
Longe de ser uma promessa futurista, a inteligência artificial (IA) está presente nos bancos, nos hospitais, nos aplicativos de mobilidade, nos mecanismos de busca e, progressivamente, nas estruturas do Estado. O que até poucos anos parecia algo restrito à ficção científicatornou-se realidade também nas dinâmicas contemporâneas da gestão pública.
Porém, com todo esse entrelaçar da IA em todos os contextos, naturalizamos a presença dos algoritmos em decisões humanas, todavia há uma pergunta que está caindo no esquecimento: até que ponto a eficiência tecnológica pode substituir asensibilidade humana? (tenho pensado nisso todas as vezes que a IA pergunta se eu sou humana e reitero… a que ponto chegamos…)
O debate não é simples, tampouco meramente inovador, como bem observa Jaime Simão Sichman (2021), sistemas de IA operam por inferências probabilísticas e aprendizado baseado em dados históricos. Esse detalhe, aparentemente técnico, possui profundas implicações sociais como a replicação de desigualdades históricas, preconceitos estruturais e exclusões sociais; tudo sob aparência de racionalidade objetiva, segundo o sujeito que a alimenta.
Na gestão pública, por exemplo, a inteligência artificial vem sendo utilizada para seleção de candidatos, avaliação de desempenho, análise de produtividade e definição de prioridades administrativas. Em tese, o que, aparentemente representa modernização, na prática, pode acabarautomatizando discriminações, pois eliminasubjetividades.
Para ilustrar essa afirmação trago o exemplo dos Estados Unidos onde algoritmos foram utilizados para calcular o grau de periculosidade de indivíduos, influenciando diretamente em decisões judiciais.
Até aí tudo bem, não fosse o fato de se identificar, posteriormente, indícios de viés racista nesses sistemas de IA, ou seja, o que deveria representarimparcialidade, revelou-se uma reprodução, agora digital, de desigualdade histórica.
No Brasil, a Resolução n° 332/2020 do Conselho Nacional de Justiça já estabelece diretrizes para o uso ético da IA no Judiciário. Entre elas, destacam-se a transparência, a supervisão humana e a necessidade de diversidade nas equipes de desenvolvimento. Mas será que a diversidade formal é suficiente para impedir injustiças automatizadas?
Creio que provavelmente não, todavia, há que seconsiderar os bancos de dados utilizados, os interesses institucionais envolvidos e, na prática, a crençacontemporânea de que depositar todas as tomadas de decisões nos cálculos dos algoritmos seja a medida, por si só, mais assertiva.
E esse é o ponto mais sensível a ser considerado, pois há elementos humanos impossíveis de serem plenamente traduzidos em algoritmos como, arrependimento, contexto social, vulnerabilidade, medo, coerção, sofrimento, intenção. Sem jamais rejeitar a tecnologia na otimização de processos e da ampliação da capacidade administrativa do Estado, há que se compreender que a experiência humana ultrapassa integralmente os padrões estatísticos.
Acredito que a grande questão do nosso tempo seja seguinte: a que ponto se pode permitir que as IAs decidam aquilo que, historicamente, sempreexigiuresponsabilidade, ética e humanidade? No “frigir dos ovos”, o maior risco desse cenário é a possibilidade de se substituir a sensibilidade humana pela lógica fria previsivel do algoritmo.
Eu, Sonia CUNHA Servidora pública municipal, Mestra em Letras, Gestora Pública sempre em formação e mais um monte de coisas…Referências SICHMAN, Jaime Simão. Inteligência Artificial e sociedade: avanços e riscos. Estudos Avançados, v. 35, n.101, 2021.OLIVEIRA, Magno Gomes de. Proporcionalidade & Inteligência Artificial: vetores da política criminal moderna? Revista da Procuradoria-Geral do Estado doCeará, 2025.BRASIL. Conselho Nacional de Justiça. Resolução n° 332, de 21 de agosto de 2020.
