Gabarito disponível
Resolução comentada
A altura é h = 2√(−ab·cosβ), e o volume é 2ab·senβ·√(−ab·cosβ).
As diagonais da base são d² = a²+b²+2ab·cosβ (a menor, pois cosβ<0) e D² = a²+b²−2ab·cosβ (a maior). No paralelepípedo reto, a menor diagonal é √(d²+h²). Igualando à maior diagonal da base, h² = −4ab·cosβ, então h = 2√(−ab·cosβ). A área da base é ab·senβ. Logo V = 2ab·senβ·√(−ab·cosβ).
Análise das alternativas
B) usa senβ dentro da raiz, o que não decorre da condição das diagonais. C) troca senβ por cosβ fora da raiz e usa senβ dentro, invertendo os papéis. D) usa −cosβ como fator da área da base, quando a área é ab·senβ. E) fica com sinal negativo e cosβ dentro da raiz, o que não dá um volume positivo coerente.
Referência: Lei dos cossenos; volume = área da base × altura.
Resolução comentada do VaiConcursos.