The general concept of the methods of algorithmic classification trees

Abstract

EN: Context. The general problem of constructing logical trees of recognition (classification) in the theory of artificial intelligence is considered in this paper. The object of this study is the concept of the classification tree (a logical and an algorithmic ones). The current methods and algorithms for constructing algorithmic classification trees are the subject of the study. Objective. This work aims to create a simple and effective method for constructing tree-like recognition models on the basis of algorithmic classification trees for the training set of discrete information, which is characterized by the structure of the logical classification trees obtained on the basis of independent classification algorithms evaluated through the functional of calculating their overall efficiency. Method. The general method of constructing algorithmic classification trees is proposed. It builds a tree-like structure (a classification model) for a given initial training data set. This structure consists of a set of autonomous algorithms of classification and recognition which have been evaluated at each step (stage) of constructing the model based on the given initial dataset. Namely, the method for constructing the algorithmic classification tree is proposed. The main idea of this method is to step by step approximate the initial dataset of arbitrary size and structure using a set of independent classification algorithms. This method, when forming the current vertex of the algorithmic tree (a node, a generalized feature) ensures the selection of the most effective (high-quality) autonomous classification algorithms from the initial dataset. In the process of constructing the resulting classification tree this approach can significantly reduce the size and complexity of the tree (the total number of branches, vertices and tiers of the structure) and improve the quality of its subsequent analysis (interpretability), the possibility of decomposition. The proposed method of constructing an algorithmic classification tree enables building different types of tree-like recognition models for a wide class of problems in the theory of artificial intelligence. Results. The algorithmic classification tree method, developed and presented in this work, was implemented in the software and was studied and compared with the methods of logical classification trees (based on the selection of a set of elementary features) when solving the problem of recognizing real data of the geologic type. Conclusions. The results of the conducted experiments described in this paper confirm the functional efficiency of the proposed mathematical software and show the possibility of its future use for solving a wide range of practical problems of recognition and classification. Further research prospects and approbation may consist in developing a limited method of the algorithmic classification tree, whose main points include the introduction of the criterion for stopping the procedure of constructing a tree model based on the depth of the structure, optimization of its software implementations, introduction of new types of algorithmic trees, and also the experimental research of this method while applying it for solving a wider range of practical problems. UK: Актуальність. Розглянута загальна задача побудови логічних дерев розпізнавання (класифікації) в теорії штучного інтелекту. Об‘єктом даного дослідження є концепція дерева класифікації (логічного та алгоритмічного). Предметом дослідження є актуальні методи та алгоритми побудови алгоритмічних дерев класифікації. Мета. Метою даної роботи є створення простого та ефективного методу побудови деревоподібних моделей розпізнавання на основі алгоритмічних дерев класифікації для навчальних вибірок дискретної інформації, який характеризується структурою отриманих логічних дерев класифікації з незалежних алгоритмів класифікації оцінених на основі функціоналу розрахунку їх загальної ефективності. Метод. Пропонується загальний метод побудови алгоритмічних дерев класифікації, який для заданої початкової навчальної вибірки будує деревоподібну структуру (модель класифікації), яка складається з набору автономних алгоритмів класифікації та розпізнавання оцінених на кожному кроці (етапі) побудови моделі за даною початковою вибіркою. Тобто пропонується метод побудови алгоритмічного дерева класифікації основна ідея якого полягає в по кроковій апроксимації начальної вибірки довільного об‘єму та структури набором незалежних алгоритмів класифікації. Даний метод при формуванні поточної вершини алгоритмічного дерева (вузла, узагальненої ознаки) забезпечує виділення найбільш ефективних (якісних) автономних алгоритмів класифікації з початкового набору. Такий підхід при побудові результуючого дерева класифікації дозволяє значно скоротити розмір та складність дерева (загальну кількість гілок, вершин та ярусів структури) підвищити якість його наступного аналізу (інтерпретабельність), можливість декомпозиції. Запропонований метод побудови алгоритмічного дерева класифікації дозволяє будувати різнотипні деревоподібні моделі розпізнавання для широкого класу задач теорії штучного інтелекту. Результати. Розроблений та представлений в даній роботі метод алгоритмічного дерева класифікації отримав програмну реалізацію та був досліджений та порівняний з методами логічних дерев класифікації (на основі селекції набору елементарних ознак) при розв‘язку задачі розпізнавання реальних даних геологічного типу. Висновки. Проведені в даній роботі експерименти підтвердили працездатність запропонованого математичного забезпечення та показують можливість його перспективного використання для розв‘язку широкого спектру практичних задач розпізнавання та класифікації. Перспективи подальших досліджень та апробацій можуть полягати в створенні обмеженого методу алгоритмічного дерева класифікації, який полягає в веденні критерію зупинки процедури побудови моделі дерева за глибиною структури, оптимізації його програмних реалізацій, введення нових типів алгоритмічних дерев а також експериментальних дослідженнях даного методу на більш широке коло практичних задач.