Gabarito disponível
Resolução comentada
Área máxima com r = h = W/(4+π); custo = 40W²/(8+2π)².
O perímetro é 2r+2h+πr=W, logo h=(W−(2+π)r)/2. A área é A=Wr−(2+π/2)r². O máximo ocorre em r=W/(4+π), e então h=W/(4+π). A área retangular é 2rh=2W²/(4+π)², e o custo é 5·2W²/(4+π)²=10W²/(4+π)²=40W²/(8+2π)².
Análise das alternativas
A, C e D diferem por fatores incorretos no numerador. B tem o numerador correto, mas o denominador (4+π)² está sem o fator 4, e 40W²/(4+π)² daria 4 vezes o custo certo. E) Correta.
Referência: Derivadas: otimização (máximos e mínimos).
Resolução comentada do VaiConcursos.