Gabarito disponível
Resolução comentada
No máximo 8 notas de 10 e 8 notas de 5, totalizando R$ 120.
Para precisar de uma nota de 5 ao formar 90, ele não pode ter 9 notas de 10, então tem no máximo 8. Para precisar de uma nota de 10 ao formar 45, não pode ter 9 notas de 5, então tem no máximo 8. A maior quantia é 8·10 + 8·5 = 80 + 40 = R$ 120.
Análise das alternativas
A, B, C: valores menores que o máximo possível. E) R$ 125 exigiria, por exemplo, 9 notas de 5 (R$ 45), o que permitiria formar 45 sem nota de 10 e contradiria o enunciado.
Referência: Múltiplos e divisores — sistema monetário
Resolução comentada do VaiConcursos.