Gabarito disponível
Para que a expressão y = (–1 + cos²(x))/x² seja a representação algébrica da função f: ℝ → ℝ, contínua em todos os pontos do seu domínio, é necessário definir:
Resolução comentada
Remoção da descontinuidade em x=0 via limite.
Como cos²x – 1 = –sen²x, a expressão vale –sen²x/x² = –(sen x/x)². Pelo limite fundamental, o limite em x→0 é –1. Para a função ser contínua, f(0) = –1.
Análise das alternativas
Os valores 1, 0, –π/3 e –π/2 são diferentes do limite –1, então manteriam a descontinuidade em x=0.
Referência: Limite fundamental lim sen x / x = 1; continuidade.
Resolução comentada do VaiConcursos.