Gabarito disponível
A respeito dos fundamentos de GPU para ambientes de alto desempenho e das aplicações práticas da CUDA, julgue os itens a seguir.
Técnicas como AWQ (activation-aware weight quantization) e GGUF (general unified format) comprometem a precisão e a viabilidade da execução local de grandes modelos de linguagem, sendo inadequadas para aplicações como chatbots offline, análise de texto em tempo real ou inferência embarcada, já que essas abordagens aumentam a latência e o consumo de memória, exigindo hardware com alta capacidade computacional.
Técnicas como AWQ (activation-aware weight quantization) e GGUF (general unified format) comprometem a precisão e a viabilidade da execução local de grandes modelos de linguagem, sendo inadequadas para aplicações como chatbots offline, análise de texto em tempo real ou inferência embarcada, já que essas abordagens aumentam a latência e o consumo de memória, exigindo hardware com alta capacidade computacional.
Resolução comentada
AWQ e GGUF reduzem memória e viabilizam LLMs locais, com perda pequena de precisão.
Quantização como AWQ e o formato GGUF reduzem o tamanho do modelo e o consumo de memória, preservando bem a precisão. Isso viabiliza a execução local em hardware modesto, como em chatbots offline e inferência embarcada. O item afirma o contrário.
Análise das alternativas
A) Certo: afirma aumento de latência e memória e inadequação, o que é falso. B) Errado (correta): são técnicas que viabilizam execução local.
Referência: Literatura sobre quantização de LLMs (AWQ; llama.cpp/GGUF).
Resolução comentada do VaiConcursos.