Optimizing the performance of multi-tier applications using interference and affinity-aware placement algorithms

Abstract

Os provedores de nuvem estão constantemente buscando tornar-se mais econômicos, onde uma estratégia comum é consolidar múltiplas aplicações em uma máquina física, usando técnicas como a virtualização. Esta consolidação, no entanto, traz alguns problemas relacionados ao desempenho, como a interferência de recursos. Além disso, dadas as características das aplicações multicamadas, nas quais as camadas precisam se comunicar através da rede, temos outra fonte de perda de desempenho, que, neste documento, nos referimos como afinidade de rede. Para reduzir os efeitos desses problemas, técnicas de placement são usadas para melhor distribuir as aplicações nas máquinas físicas. Várias dessas técnicas de placement consideram a interferência de recursos ou a afinidade da rede para decidir a melhor distribuição; No entanto, nenhum deles se concentra em ambos os critérios ao mesmo tempo. Esse fato leva a um placement que não está totalmente otimizado. Por esse motivo, implementamos um conjunto de algoritmos de placement que denominados CIAPA. Ele visa encontrar o melhor meio termo entre interferência e afinidade. CIAPA usa um modelo de degradação de desempenho, funções de custo e heurísticas para encontrar o placement com o custo mínimo. Nos experimentos, comparamos o custo alcançado pela CIAPA com outras estratégias de placement e verificamos que, para as cargas de trabalho utilizadas, CIAPA gera decisões de placement com melhor custo e, consequentemente, com melhor o desempenho.

Cloud providers are constantly seeking to become more cost effective, where a common strategy is to consolidate multiple applications in a physical machine, using techniques such as virtualization. This consolidation, however, brings some performance related problems such as resource interference. Moreover, given the characteristics of multi-tier applications, in which tiers need to communicate through the network, we have another source of performance degradation, which we refer as network affinity. In order to reduce the effects of such problems, placement techniques are used to better distribute the applications in the physical machines. Several of these placement techniques consider resource interference or network affinity in order to decide the best placement; however, none of them focus on both criteria at the same time. This fact leads to a placement that is not fully optimized. For this reason, we implemented a set of placement algorithms called CIAPA, which aims at finding the best trade-off between interference and affinity. CIAPA uses a performance degradation model, a cost function, and heuristics to find the placement with minimum cost. In the experiments, we compared the cost achieved by CIAPA with other placement strategies, and we have verified that, for the workloads used, it generates placement decisions with better cost, and, consequently, improved performance.