A model and training algorithm of small-sized object detection system for a compact aerial drone

Abstract

EN: Context. Lightweight model and effective training method of on-board object detection system for a compact drone are developed. The object of research is the process of small object detection on aerial images under computational resource constraint and uncertainty caused by small amount of labeled training data. The subject of the research are the model and training method for detecting small objects on aerial imagery. Objective. Goal of the research is developing efficient model and training method of object detection system for a compact aerial drone under conditions of restricted computing resources and the limited volume of the labeled training set. Methods. The four-stage training method of the object detector is proposed. At the first stage, selecting the type of deep convolutional neural network and the number of low-level layers that is pre-trained on the ImageNet dataset for reusing takes place. The second stage involves unsupervised training of high-level convolutional sparse coding layers using modification of growing neural gas to automatically determine the required number of neurons and provide optimal distributions of the neurons over the data. Its application makes it possible to utilize the unlabeled training datasets for the adaptation of the high-level feature description to the domain application area. At the third stage, there are reduction of output feture map using principan component analysis and building of decision rules. In this case, output feature map is formed by concatenation of feature maps from different level of deep network using upscaling upper maps to uniform shape for each channel. This approach provides more contextual information for efficient recognition of small objects on aerial images. In order to build classifier of output feature map pixels is proposed to use boosted information-extreme learning. Besides that, the extreme learning machine is used to build of regression model for predict bounding box of detected object. Last stage involves fine-tuning of high-level layers of deep network using simulated annealing metaheuristic algorithm in order to approximating the global optimum of complex criterion of training efficiency of detection model. Results. The results obtained on open datasets testify to the suitability of the model and training method for practical usage. The proposed training method utilize 500 unlabeled and 200 labeled training samples to provide 96% correctly detection of objects on the images of the test dataset. Conclusions. Scientific novelty of the paper is a new model and training method for object detection, which enable to achieve high confidence of recognition of small objects on aerial images under computational resource constraint and limited volume of the labeled training set. Practical significance of the paper results consists in the developed model and training method made it possible to reduce requirements for size of labeled training set and computation resources of on-board detection system of aerial drone in training and inference modes. UK: Актуальність. Розроблено обчислювально просту модель і ефективний метод навчання бортової системи детектування об’єктів на місцевості. Об’єкт дослідження – процес детектування малорозмірних об’єктів на аерофотознімках в умовах обмежених обчислювальних ресурсів і невизначеності, зумовленої малим об’ємом розміченої навчальної вибірки. Предмет дослідження – модель і метод навчання моделі для детектування малорозмірних об’єктів на аерофотознімках. Мета дослідження – розробка ефективних моделі і методу навчання системи детектування об’єктів малогабаритним літаючим апаратом в умовах обмежених обчислювальних ресурсів і обмеженого обсягу розміченої вибірки. Методи дослідження. В роботі запропоновано чотирьох етапний метод навчання детектора об’єктів. На першому етапі здійснюється вибір згорткової нейромережі, попередньо навченої на наборі ImageNet, а також вибір кількості шарів, які будуть запозичені. Другий етап передбачає додавання згорткового розріджено-кодуючого шару, що навчається без вчителя, для формування карти ознак. Для реалізації другого етапу розроблено модифікацію алгоритму зростаючого нейронного газу, яка забезпечує автоматичне визначення необхідної кількості нейронів і їх оптимальний розподіл за даними. Це дозволяє ефективно використовувати нерозмічені набори даних для адаптації високорівневого ознакового опису до доменної області використання. На третьому етапі проводиться редукція вихідної карти ознак шляхом застосування методу головних компонент й навчання вирішальних правил. При цьому вихідна карта ознак будується шляхом конкатенації карт ознак нижніх рівнів з масштабованими картами ознак верхнього рівня. Даний підхід до побудови карти ознак покликаний забезпечити підвищення ефективності розпізнавання малорозмірних об’єктів за рахунок збільшення кількості контекстної інформації в кожному пікселі. Побудова моделі класифікаційного аналізу пікселів вихідної карти ознак пропонується здійснювати на основі принципів бустінгу і інформаційно-екстремального машинного навчання, а прогнозування меж детектованих об’єктів пропонується реалізувати на основі машини екстремального навчання. Останній етап методу навчання полягає в тонкій настройці високорівневих шарів екстрактора ознак на основі метаевристичного алгоритму симуляції відпалу з метою максимального наближення до глобального оптимуму значення комплексного критерію ефективності навчання детектора. Результати. Результати, отримані на відкритому наборі даних, підтверджують придатність запропонованих моделі та методу навчання до практичного застосування. Запропонований метод навчання забезпечує 96% точності детектування малорозмірних об’єктів на тестових зображення при використанні 500 нерозмічених і 200 розмічених навчальних зображень. Висновки. Наукова новизна статті полягає в розробці нових моделі і методу навчання детектора об’єктів, що забезпечують високодостовірне розпізнавання малорозмірних об’єктів на аерофотознімках в умовах обмежених обчислювальних ресурсів і малого обсягу розмічених навчальних вибірок. Практичне значення одержаних результатів роботи полягає в розробці моделі та методу навчання детектора об’єктів, що дозволяють знизити вимоги до обсягу навчальної вибірки і обчислювальних ресурсів бортовий системи літаючого апарата в режимах навчання та екзамену.