Using modular neural networks and machine learning with reinforcement learning to solve classification problems

Abstract

EN: Context. The solution of the classification problem (including graphical data) based on the use of modular neural networks and modified machine learning methods with reinforcement for the synthesis of neuromodels that are characterized by a high level of accuracy is considered. The object of research is the process of synthesizing modular neural networks based on machine learning methods with reinforcement. Objective is to develop a method for synthesizing modular neural networks based on machine learning methods with reinforcement, for constructing high-precision neuromodels for solving classification problems. Method. A method for synthesizing modular neural networks based on a reinforcement machine learning approach is proposed. At the beginning, after initializing a system of modular neural networks built on the bottom-up principle, input data is provided – a training set of data from the sample and a hyperparameter to select the size of each module. The result of this method is a trained system of modular neural networks. The process starts with a single supergroup that contains all the categories of the data set. Then the network size is selected. The output matrix is softmax, similar to the trained network. After that, the average probability of softmax is used as a similarity indicator for group categories. If new child supergroups are formed, the module learns to classify between new supergroups. The training cycle of modular neural network modules is repeated until the training modules of all supergroups are completed. This method allows you to improve the accuracy of the resulting model. Results. The developed method is implemented and investigated on the example of neuromodel synthesis based on a modular neural network for image classification, which can later be used as a model for technical diagnostics. Using the developed method significantly reduces the resource intensity of setting up hyperparameters. Conclusions. The conducted experiments confirmed the operability of the proposed method of neuromodel synthesis for image classification and allow us to recommend it for use in practice in the synthesis of modular neural networks as a basis for classification models for further automation of tasks of technical diagnostics and image recognition using big data. Prospects for further research may lie in using the parallel capacities of GPU-based computing systems to organize directly modular neural networks based on them. EN: Актуальність. Розглянуто вирішення задачі класифікації (в тому числі графічних даних) на основі використання модулярних нейронних мереж та модифікованих методів машинного навчання з підкріпленням для синтезу нейромоделей, які відрізняються високим рівнем точності роботи. Об’єктом дослідження є процес синтезу модулярних нейронних мереж на основі методів машинного навчання з підкріпленням. Мета роботи полягає у розробці методу синтезу модулярних нейронних мереж на основі методів машинного навчання з підкріпленням, для побудови нейромоделей високої точності для розв’язання задач класифікації. Метод. Запропоновано метод синтезу імпульсних нейронних мереж на основі еволюційного підходу. На початку, після ініціалізації системи модулярних нейронних мереж, що побудована за принципом знизу вгору, подаються вхідні дані – навчальний набір даних з вибірки і гіперпараметр, для вибору розміру кожного модуля. Результатом роботи методу є навчена система модулярних нейронних мереж. Процес починають з однієї супергрупи, яка містить усі категорії набору даних. Потім обирається розмір мережі. Вихідна матриця softmax, подібна для навченої мережі. Після чого середня ймовірність softmax використовується як показник подібності для групових категорій. Якщо формуються нові дочірні супергрупи, модуль навчається класифікації між новими супергрупами. Цикл навчання модулів модулярних нейронних мереж повторюється до тих пір, поки не будуть навчені модулі всіх супергруп. Метод дозволяє підвищити точність результуючої моделі. Результати. Розроблений метод реалізовано та досліджено на прикладі синтезу нейромоделі на основі модулярної нейронної мережі для класифікації зображень, яка в подальшому зможе використовуватися у якості моделі для технічного діагностування. Використання розробленого методу значно знижує ресурсоємність налаштування гіперпараметрів. Висновки. Проведені експерименти підтвердили працездатність запропонованого методу синтезу нейромоделі для класифікації зображень та дозволяють рекомендувати його для використання на практиці при синтезі модулярних нейронних мереж у якості основи класифікаційних моделей для подальшої автоматизації задач технічного діагностування та розпізнавання образів з використанням великих даних. Перспективи подальших досліджень можуть полягати у використанні паралельних потужностей обчислювальних систем на базі GPU для організації на їх базі безпосередньо модульних нейромереж.