Publicação
Controlo energético de GPU em sistemas de Deep Learning
| Resumo: | A área da Aprendizagem Profunda sofreu uma enorme expansão nos últimos anos, com modelos cada vez mais complexos e datasets cada vez maiores. Devido à crescente complexidade dos modelos, foi adotado o uso das GPUs para o seu treino, tornando este processo mais eficiente. No entanto, o crescimento progressivo do poder de processamento destes dispositivos causou um aumento do seu consumo energético. Para além da GPU, o processo de treino de um modelo de AP utiliza todos os outros recursos existentes num servidor: disco, RAM e CPU, podendo ainda recorrer à rede no caso de treino distribuído e nos casos em que o dataset está em armazenamento remoto. Quando o gargalo é qualquer outro recurso que não a GPU significa que o treino dos fragmentos neste recurso é mais rápido do que a reposição de novos fragmentos, ficando a GPU inutilizada até ao momento em que esse carregamento é concluído. Por padrão, a GPU opera à frequência máxima de forma a terminar o treino o mais rápido possível mas, nesta situação, acaba por ficar inativa. Por atuar a alta frequência apresenta um elevado consumo energético durante o treino, consumindo também energia durante o período de inutilização. Através do ajuste de frequência da GPU é possível diminuir o custo energético associado ao treino de modelos. No entanto, este ajuste deverá ter em conta as características da carga de trabalho por forma a não degradar o seu tempo de execução. De forma a resolver estes problemas, esta dissertação apresenta o WAFT, um novo sistema de otimização energética de GPUs especificamente concebido para treino de modelos de AP. Este sistema recorre ao ajuste dinâmico da frequência da GPU reconhecendo as várias fases de uma iteração. Adicionalmente, adapta o seu comportamento às característica do modelo e do hardware, de forma a diminuir o consumo energético sem prejudicar o tempo de execução. Através de uma avaliação experimental compreensiva, mostramos que o WAFT consegue diminuir o consumo energético até 42% em relação aos cenários usados em ambientes de produção. Ainda, quando comparado com soluções do estado da arte, o WAFT apresenta ganhos de poupança energética até 29%. |
|---|---|
| Autores principais: | Rodrigues, Diana Abreu Machado Azevedo |
| Assunto: | Otimização do Consumo Energético Aprendizagem Profunda Energy Consumption Optimization Deep Learning Engenharia e Tecnologia::Engenharia Eletrotécnica, Eletrónica e Informática |
| Ano: | 2025 |
| País: | Portugal |
| Tipo de documento: | dissertação de mestrado |
| Tipo de acesso: | acesso aberto |
| Instituição associada: | Universidade do Minho |
| Idioma: | português |
| Origem: | RepositóriUM - Universidade do Minho |
| Resumo: | A área da Aprendizagem Profunda sofreu uma enorme expansão nos últimos anos, com modelos cada vez mais complexos e datasets cada vez maiores. Devido à crescente complexidade dos modelos, foi adotado o uso das GPUs para o seu treino, tornando este processo mais eficiente. No entanto, o crescimento progressivo do poder de processamento destes dispositivos causou um aumento do seu consumo energético. Para além da GPU, o processo de treino de um modelo de AP utiliza todos os outros recursos existentes num servidor: disco, RAM e CPU, podendo ainda recorrer à rede no caso de treino distribuído e nos casos em que o dataset está em armazenamento remoto. Quando o gargalo é qualquer outro recurso que não a GPU significa que o treino dos fragmentos neste recurso é mais rápido do que a reposição de novos fragmentos, ficando a GPU inutilizada até ao momento em que esse carregamento é concluído. Por padrão, a GPU opera à frequência máxima de forma a terminar o treino o mais rápido possível mas, nesta situação, acaba por ficar inativa. Por atuar a alta frequência apresenta um elevado consumo energético durante o treino, consumindo também energia durante o período de inutilização. Através do ajuste de frequência da GPU é possível diminuir o custo energético associado ao treino de modelos. No entanto, este ajuste deverá ter em conta as características da carga de trabalho por forma a não degradar o seu tempo de execução. De forma a resolver estes problemas, esta dissertação apresenta o WAFT, um novo sistema de otimização energética de GPUs especificamente concebido para treino de modelos de AP. Este sistema recorre ao ajuste dinâmico da frequência da GPU reconhecendo as várias fases de uma iteração. Adicionalmente, adapta o seu comportamento às característica do modelo e do hardware, de forma a diminuir o consumo energético sem prejudicar o tempo de execução. Através de uma avaliação experimental compreensiva, mostramos que o WAFT consegue diminuir o consumo energético até 42% em relação aos cenários usados em ambientes de produção. Ainda, quando comparado com soluções do estado da arte, o WAFT apresenta ganhos de poupança energética até 29%. |
|---|