Pular para o conteúdo

Cebraspe · Universidade Virtual do Estado de São Paulo (UNIVESP) 2025

Questão discursiva 6 — Inteligência Artificial: Transformers — Positional Encoding, Attention e Self-attention

Inteligência Artificial Transformers — Positional Encoding, Attention e Self-attention

Discursiva Cebraspe 2025 Superior 8 pontos

Universidade Virtual do Estado de São Paulo (UNIVESP) · Professor Doutor – Especialidade: Computação · Questão 6

Padrão de resposta da banca disponível

Texto-base:
LLMs (Large Language Models) usa a arquitetura transformer, que é um tipo de aprendizado profundo (deep learning) desenvolvido por pesquisadores da Google e baseado no mecanismo multi-head attention.

A tecnologia que permitiu a construção de Transformers é composta de vários módulos, sendo três deles fundamentais: Positional encoding, Attention e Self-attention. Nesse sentido, faça o que se pede a seguir.
  1. 1
    Explique o que é o módulo Positional encoding.
    3 pontos
  2. 2
    Explique o que é o módulo Attention.
    2,5 pontos
  3. 3
    Explique o que é o módulo Self-attention.
    2,5 pontos

Em cada questão, ao domínio do conteúdo serão atribuídos até 8,00 pontos e à capacidade de expressão na modalidade escrita e ao uso das normas do registro formal culto da língua portuguesa serão atribuídos até 2,00 pontos.
Quesito 1 – Capacidade de expressão na modalidade escrita e uso das normas do registro formal culto da Língua Portuguesa: Conceito 0 – Insuficiente; Conceito 1 – Ruim; Conceito 2 – Regular; Conceito 3 – Bom; Conceito 4 – Ótimo.
O caderno traz espaço para rascunho de 10 linhas. Qualquer fragmento de texto além da extensão máxima de linhas disponibilizadas será desconsiderado.

0 linhas · 0 palavrasAté 10 linhas · espaço na prova: 10 linhas