Proactive horizontal scaling method for kubernetes

Abstract

EN: Context. The problem of minimizing redundant resource reservation while maintaining QoS at an agreed level is crucial for modern information systems. Modern information systems can include a large number of applications, each of which uses computing resources and has its own unique features, which require a high level of automation to increase the efficiency of computing resource management processes. Objective. The purpose of this paper is to ensure the quality of IT services at an agreed level in the face of significant dynamics of user requests by developing and using a method of proactive automatic application scaling in Kubernetes. Method. This paper proposes a proactive horizontal scaling method based on the Prophet time series prediction algorithm. Prometheus metrics storage is used as a data source for training and validating forecasting models. Based on the historical metrics, a model is trained to predict the future utilization of computation resources using Prophet. The obtained time series is validated and used to calculate the required number of application replicas, considering deployment delays. Results. The experiments have shown the effectiveness of the proposed proactive automated application scaling method in comparison with existing solutions based on the reactive approach in the selected scenarios. This method made it possible to reduce the reservation of computing resources by 47% without loss of service quality compared to the configuration without scaling. Conclusions. A method for automating the horizontal scaling of applications in Kubernetes is proposed. Although the experiments have shown the effectiveness of this solution, this method can be significantly improved. In particular, it is necessary to consider the possibility of integrating a reactive component for atypical load patterns. UK: Актуальність. Інформаційні системи можуть включати велику множину додатків, кожен з яких використовує обчислювальні ресурси та має свої унікальні особливості роботи, що вимагає високого рівня автоматизації задля підвищення ефективності виконання процесів управління обчислювальними ресурсами. Проблема мінімізації збиткового резервування ресурсів при підтриманні показників QoS на узгодженому рівні є важливою для сучасних інформаційних систем. Мета роботи. Метою даної роботи є забезпечення якості ІТ-сервісів на узгодженому рівні в умовах суттєвої динаміці запитів користувачів шляхом розробки та використання методу проактивного автоматичного масштабування додатків в Kubernetes. Метод. В даній роботі пропонується метод проактивного горизонтального масштабування на основі алгоритму передбачення часових рядів Prophet. Як джерело даних пропонується використовувати сховище метрик Prometheus. На основі історичних метрик використання обчислювальних ресурсів отримується модель для передбачення майбутніх об’ємів використання за допомогою Prophet. Отримані значення валідуються, після чого застосовуються для обрахунку необхідної кількості реплік додатку з врахуванням затримок розгортання подів. Результати. Проведені досліди показали ефективність запропонованого методу для проактивного автоматичного масштабування додатків у порівнянні з існуючими рішеннями з використанням реактивного методу в обраних сценаріях. Даний метод дозволив зменшити резервування обчислювальних ресурсів на 47% без втрати в якості обслуговування у порівнянні з конфігурацією без масштабування. Висновки. Запропоновано метод автоматизації горизонтального масштабування додатків в Kubernetes. Хоча проведені досліди показали ефективність даного рішення, даний метод може бути значно доповнений. Зокрема, необхідно розглянути можливість інтеграції реактивної складової для нетипових шаблонів навантаження.