Gabarito disponível
Texto-base:
Um auditor pretende utilizar inteligência artificial generativa (IAG) em dois momentos de uma auditoria operacional realizada em um programa social destinado a comunidades quilombolas: na análise de informações obtidas em diferentes fontes e na redação dos achados de auditoria.
Considerando essa situação hipotética, julgue os itens seguintes.
O uso de IAG contribui para a imparcialidade do relatório de auditoria, pois, desde que treinadas com grandes volumes de dados, as ferramentas de inteligência artificial generativa não reproduzem tendências humanas discriminatórias, como racismo.
Um auditor pretende utilizar inteligência artificial generativa (IAG) em dois momentos de uma auditoria operacional realizada em um programa social destinado a comunidades quilombolas: na análise de informações obtidas em diferentes fontes e na redação dos achados de auditoria.
Considerando essa situação hipotética, julgue os itens seguintes.
O uso de IAG contribui para a imparcialidade do relatório de auditoria, pois, desde que treinadas com grandes volumes de dados, as ferramentas de inteligência artificial generativa não reproduzem tendências humanas discriminatórias, como racismo.
Resolução comentada
A IAG pode reproduzir vieses discriminatórios presentes nos dados de treinamento.
Modelos generativos aprendem com dados produzidos por humanos e podem reproduzir e ampliar vieses, inclusive racismo. Treinar com muitos dados não elimina esse risco, e um volume maior pode até aumentar a exposição a conteúdos enviesados. Logo, a IAG não garante imparcialidade por si só.
Análise das alternativas
Certo: errada, porque afirma que a IAG não reproduz tendências discriminatórias. Errado: correta, pois o viés é um risco reconhecido.
Referência: Boas práticas sobre uso de IA generativa em auditoria; literatura sobre viés algorítmico.
Resolução comentada do VaiConcursos.