Questão 37 — Agentes Racionais e Ética em IA (Inteligência Artificial) — Cebraspe · Tribunal de Contas do Estado de Minas Gerais (TCE/MG) 2026

Inteligência Artificial Agentes Racionais e Ética em IA

Cebraspe 2026 Superior

Tribunal de Contas do Estado de Minas Gerais (TCE/MG) · Analista de Controle Externo – Especialidade: Ciência da Computação

Gabarito disponível

Certa startup brasileira desenvolveu uma aplicação de inteligência artificial para auxiliar a justiça federal na análise inicial de recursos jurídicos de baixo valor. O sistema opera como um agente inteligente que utiliza um extenso dataset de jurisprudências passadas para calcular a probabilidade de sucesso de novos recursos, com o objetivo de otimizar a triagem processual ao maximizar a taxa de acerto nas suas previsões. Em testes, a aplicação atingiu uma impressionante taxa de precisão de 98% na previsão de resultados. No entanto, uma auditoria de compliance ético revelou que o algoritmo apresentava um viés: os recursos originários de regiões com baixo índice de desenvolvimento humano (IDH) do Nordeste brasileiro eram sistematicamente classificados com menor probabilidade de sucesso, mesmo quando apresentavam mérito legal similar a casos de regiões mais desenvolvidas. A equipe técnica defendeu o sistema, alegando que ele era racional, pois maximizava consistentemente a métrica de acerto definida.
Considerando a natureza do sistema criado nessa situação hipotética e a distinção fundamental entre racionalidade e justiça em sistemas de IA, assinale a opção que apresenta corretamente a falha ética do sistema à luz dos conceitos básicos da inteligência artificial.

Selecione uma alternativa A) O viés regional é uma prova incontestável de que o sistema é um exemplo de inteligência artificial simbólica, pois somente essa arquitetura, baseada em regras pré-codificadas, é capaz de manifestar discriminação explícita, ao contrário dos modelos conectivistas (redes neurais). B) A falha do sistema é uma evidência de que ele não pode ser classificado como um agente racional, pois, por definição, ele deve seguir a função de utilidade ideal de uma sociedade justa, o que exige que o sistema possua consciência e um senso moral. C) O sistema é um agente puramente reativo, e sua incapacidade de manter estados internos sobre a equidade do dataset é a causa direta do viés, o que demonstra a ineficácia dos sistemas de machine learning baseados em modelos. D) O sistema demonstra uma limitação da inteligência artificial forte, cuja alta taxa de acerto é incompatível com o viés, o que confirma que a singularidade tecnológica não será alcançada enquanto os sistemas de inteligência artificial não forem treinados apenas com dados totalmente neutros, sem histórico humano. E) A racionalidade técnica do sistema é mantida, pois ele maximiza sua função utilidade (taxa de acerto), mas o viés detectado reside na definição dessa utilidade ou na qualidade dos dados de treinamento, o que o caracteriza como um sistema racionalmente tendencioso, mas não irracional.

Resolução comentada

O sistema é racional quanto à métrica, mas tendencioso por dados ou definição de utilidade.

Racionalidade, em IA, é maximizar a medida de desempenho definida; o sistema fez isso. O viés vem da definição da utilidade ou dos dados históricos de treinamento, tornando-o racional, porém injusto, e não irracional.

Análise das alternativas

A) Viés também ocorre em modelos conectivistas, e não é exclusivo da IA simbólica. B) Racionalidade não exige consciência nem senso moral. C) O sistema não é descrito como puramente reativo, e o viés vem dos dados/utilidade. D) Confunde IA forte e singularidade com o problema, sem relação direta; dados totalmente neutros não são pré-requisito conceitual.

Referência: Russell e Norvig — Inteligência Artificial (agentes racionais); ética e viés algorítmico.

Resolução comentada do VaiConcursos.