Gabarito disponível
As funções f(x) e g(x), definidas de ℝ em ℝ, são deriváveis, f(0) = g(0) = 0, f′(0) = α + 3, g′(0) = 1 − α e (f ∘ g)′(0) > 0. Isso acontece se, e somente se:
Resolução comentada
Pela regra da cadeia, (f∘g)'(0) = f'(0)·g'(0) = (α+3)(1−α) > 0, o que dá −3 < α < 1.
Como g(0) = 0, temos (f∘g)'(0) = f'(g(0))·g'(0) = f'(0)·g'(0) = (α+3)(1−α). O produto é positivo quando os dois fatores têm o mesmo sinal. Os dois positivos exigem α > −3 e α < 1. Os dois negativos exigem α 1, o que é impossível. Logo −3 < α < 1.
Análise das alternativas
As demais opções trazem intervalos que não correspondem às raízes −3 e 1 com o sinal correto da parábola −(α+3)(α−1). Isso vale para os extremos −1 e 3 e para os intervalos externos, onde o produto é negativo.
Referência: Cálculo I: regra da cadeia.
Resolução comentada do VaiConcursos.