Pular para o conteúdo

Diretoria de Ensino da Marinha (DEnsM) · Marinha do Brasil 2013

Questão 17 — Teoria da Informação: Entropia de Fonte

Teoria da Informação Entropia de Fonte

Diretoria de Ensino da Marinha (DEnsM) 2013 Superior

Marinha do Brasil · Professor do Magistério Superior · Caderno Amarela

Gabarito disponível

Uma fonte emite um símbolo, escolhido entre quatro possíveis, a cada intervalo de sinalização. Os símbolos ocorrem com as seguintes probabilidades:

p₀=0,4
p₁=0,3
p₂=0,2
p₃=0,1

Considerando as informações acima, a entropia aproximada da fonte, em bit (log base 2), é de:
Selecione uma alternativa

Resolução comentada

H ≈ 1,85 bit.

H = −Σp·log₂p = 0,4·1,322 + 0,3·1,737 + 0,2·2,322 + 0,1·3,322 ≈ 0,529 + 0,521 + 0,464 + 0,332 ≈ 1,85 bit.

Análise das alternativas

O máximo para 4 símbolos é 2 bit (equiprováveis), então 4,25, 3,42 e 2,23 são impossíveis. 0,67 é baixo demais para essa distribuição.

Referência: Shannon, entropia de fonte discreta.

Resolução comentada do VaiConcursos.

Ver gabarito

Gabarito: D

Fonte: Gabarito preliminar: Gabarito CP-PMS/2013 — página 11