Gabarito disponível
Texto-base:
Um auditor pretende utilizar inteligência artificial generativa (IAG) em dois momentos de uma auditoria operacional realizada em um programa social destinado a comunidades quilombolas: na análise de informações obtidas em diferentes fontes e na redação dos achados de auditoria.
Considerando essa situação hipotética, julgue os itens seguintes.
No desenvolvimento dos achados de auditoria, a partir dos resultados da análise das informações feita com auxílio de IAG, o auditor deve atentar à possibilidade de ocorrência do viés de exclusão, que ocorrerá caso as comunidades quilombolas tenham sido sub-representadas ou excluídas do conjunto de dados utilizado no treinamento da IAG.
Um auditor pretende utilizar inteligência artificial generativa (IAG) em dois momentos de uma auditoria operacional realizada em um programa social destinado a comunidades quilombolas: na análise de informações obtidas em diferentes fontes e na redação dos achados de auditoria.
Considerando essa situação hipotética, julgue os itens seguintes.
No desenvolvimento dos achados de auditoria, a partir dos resultados da análise das informações feita com auxílio de IAG, o auditor deve atentar à possibilidade de ocorrência do viés de exclusão, que ocorrerá caso as comunidades quilombolas tenham sido sub-representadas ou excluídas do conjunto de dados utilizado no treinamento da IAG.
Resolução comentada
Viés de exclusão ocorre quando grupos são sub-representados nos dados de treinamento da IA.
O viés de exclusão (ou de sub-representação) surge quando determinado grupo, como comunidades quilombolas, está ausente ou pouco representado nos dados de treinamento. Isso pode distorcer a análise e os achados da auditoria, por isso o auditor deve estar atento a essa possibilidade. A assertiva descreve corretamente o conceito.
Análise das alternativas
A) Certa: descreve corretamente o viés de exclusão. B) Errada: negaria um conceito corretamente aplicado.
Referência: Conceitos de viés algorítmico em IA generativa
Resolução comentada do VaiConcursos.