Gabarito disponível
Texto-base:
Um auditor pretende utilizar inteligência artificial generativa (IAG) em dois momentos de uma auditoria operacional realizada em um programa social destinado a comunidades quilombolas: na análise de informações obtidas em diferentes fontes e na redação dos achados de auditoria.
Considerando essa situação hipotética, julgue os itens seguintes.
No desenvolvimento dos achados de auditoria, a partir dos resultados da análise das informações feita com auxílio de IAG, o auditor deve atentar à possibilidade de ocorrência do viés de exclusão, que ocorrerá caso as comunidades quilombolas tenham sido sub-representadas ou excluídas do conjunto de dados utilizado no treinamento da IAG.
Um auditor pretende utilizar inteligência artificial generativa (IAG) em dois momentos de uma auditoria operacional realizada em um programa social destinado a comunidades quilombolas: na análise de informações obtidas em diferentes fontes e na redação dos achados de auditoria.
Considerando essa situação hipotética, julgue os itens seguintes.
No desenvolvimento dos achados de auditoria, a partir dos resultados da análise das informações feita com auxílio de IAG, o auditor deve atentar à possibilidade de ocorrência do viés de exclusão, que ocorrerá caso as comunidades quilombolas tenham sido sub-representadas ou excluídas do conjunto de dados utilizado no treinamento da IAG.
Resolução comentada
O viés de exclusão ocorre quando grupos são sub-representados nos dados de treinamento.
O viés de exclusão (ou de sub-representação) surge quando um grupo, como as comunidades quilombolas, está ausente ou pouco representado nos dados de treinamento. Os resultados da IAG podem então ignorar suas características e necessidades. O auditor deve ficar atento a isso ao desenvolver os achados.
Análise das alternativas
Certo: correta, pois descreve o conceito de viés de exclusão. Errado: incorreta, porque a possibilidade de viés é real e relevante nessa situação.
Referência: Literatura sobre viés em IA generativa; boas práticas de auditoria com IA.
Resolução comentada do VaiConcursos.