Gabarito disponível
A respeito da proteção de dados pessoais no Brasil, dos grandes modelos de linguagem (LLMs) e do uso de redes neurais no setor jurídico, julgue os itens que se seguem.
Modelos transformer superam, devido ao mecanismo de autoatenção, as redes neurais recorrentes tradicionais na captura de dependências de longo alcance em documentos jurídicos extensos, sendo esta a principal razão para a adoção dos transformers em tarefas como sumarização e busca semântica no campo jurídico.
Modelos transformer superam, devido ao mecanismo de autoatenção, as redes neurais recorrentes tradicionais na captura de dependências de longo alcance em documentos jurídicos extensos, sendo esta a principal razão para a adoção dos transformers em tarefas como sumarização e busca semântica no campo jurídico.
Resolução comentada
A autoatenção dá aos transformers vantagem sobre RNNs em longas dependências.
O mecanismo de autoatenção relaciona diretamente quaisquer posições da sequência e permite paralelização, o que supera as RNNs, que sofrem com o desvanecimento do gradiente em textos longos. Por isso os transformers são adotados em sumarização e busca semântica de documentos jurídicos extensos.
Análise das alternativas
A) Correta: descreve a vantagem dos transformers. B) Errada: negaria a vantagem reconhecida da autoatenção.
Referência: Vaswani et al. (2017), Attention Is All You Need.
Resolução comentada do VaiConcursos.