EIRNUZP – Електронний інституційний репозитарій Національного університету «Запорізька політехніка»
Інституційний репозитарій Національного університету «Запорізька політехніка» – це електронний архів, що накопичує, систематизує, зберігає та забезпечує довготривалий відкритий доступ до електронних публікацій та електронних версій документів наукового та навчально-методичного призначення, авторами яких є співробітники, аспіранти, докторанти та студенти Національного університету «Запорізька політехніка».
Communities in DSpace
Select a community to browse its collections.
Recent Submissions
Evaluation of quantized large language models in the text summarization problem
(Національний університет «Запорізька політехніка», 2025) Nedashkovskaya, N. I.; Yeremichuk, R. I.; Недашківська, Н. І.; Єремічук, Р. І.
EN: Context. The problem of increasing the efficiency of deep artificial neural networks in terms of memory and energy consumption, and the multi-criteria evaluation of the quality of the results of large language models (LLM) taking into account the judgments of users in the task of summarizing texts, are considered. The object of the study is the process of automated text summarization based on LLMs.
Objective. The goal of the work is to find a compromise between the complexity of the LLM, its performance and operational efficiency in text summarization problem.
Method. An LLM evaluation algorithm based on multiple criteria is proposed, which allows choosing the most appropriate LLM model for text summarization, finding an acceptable compromise between the complexity of the LLM model, its performance and the quality of text summarization. A significant improvement in the accuracy of results based on neural networks in natural language processing tasks is often achieved by using models that are too deep and over-parameterized, which significantly limits the ability of the models to be used in real-time inference tasks, where high accuracy is required under conditions of limited resources. The proposed algorithm selects an acceptable LLM model based on multiple criteria, such as accuracy metrics BLEU, Rouge-1, 2, Rouge-L, BERT-scores, speed of text generalization, or other criteria defined by the user in a specific practical task of intellectual analysis. The algorithm includes analysis and improvement of consistency of user judgments, evaluation of LLM models in terms of each criterion.
Results. Software is developed for automatically extracting texts from online articles and summarizing these texts. Nineteen quantized and non-quantized LLM models of various sizes were evaluated, including LLaMa-3-8B-4bit, Gemma-2B-4bit, Gemma-1.1-7B-4bit, Qwen-1.5-4B-4bit, Stable LM-2-1.6B-4bit, Phi-2-4bit, Mistal-7B-4bit, GPT-3.5 Turbo and other LLMs in terms of BLEU, Rouge-1, Rouge-2, Rouge-L and BERT-scores on two different datasets: XSum and CNN/ Daily Mail 3.0.0.
Conclusions. The conducted experiments have confirmed the functionality of the proposed software, and allow to recommend it for practical use for solving the problems of text summarizing. Prospects for further research may include deeper analysis of metrics and criteria for evaluating quality of generated texts, experimental research of the proposed algorithm on a larger number of practical tasks of natural language processing.
UK: Актуальність. Розглянуто задачу підвищення ефективності глибоких штучних нейронних мереж щодо обсягу пам'яті та енергоспоживання, та багатокритеріальне оцінювання якості результатів великих мовних моделей (LLM) з урахуванням суджень користувачів в задачі сумаризації текстів. Об’єктом дослідження є процес автоматизації сумаризації текстів на основі LLM.
Мета роботи – знайти компроміс між складністю моделі LLM, її точністю та ефективністю в задачі сумаризації або узагальнення текстів.
Метод. Запропоновано алгоритм оцінювання моделей LLM за багатьма критеріями (метриками), який дозволяє обрати найбільш підходящу модель LLM для сумаризації тексту, знайти прийнятний компроміс між складністю моделі LLM, її продуктивністю та якістю узагальнення тексту. Значне підвищення точності результатів на основі нейронних мереж у задачах обробки природної мови часто досягається використанням занадто глибоких і надмірно параметризованих моделей, що суттєво обмежує здатність моделей використовуватися у задачах виводу в реальному часі, за потреби високої точності в умовах обмежених ресурсів. Пропонований алгоритм обирає прийнятну модель LLM за багатьма критеріями, такими як показники точності BLEU, Rouge-1, 2, Rouge-L, BERT-оцінки, швидкість сумаризації або іншими критеріями, які визначаються користувачем в конкретній практичній задачі інтелектуального аналізу тексту. Алгоритм включає аналіз і підвищення узгодженості суджень користувачів, оцінювання моделей LLM за кожним критерієм, агрегування локальних ваг моделей, аналіз чутливості отриманих глобальних ваг моделей.
Результати. Розроблено програмне забезпечення для автоматичного отримання текстів з онлайн-статей і сумаризації цих текстів, та для оцінювання якості моделей LLM. Отримано оцінки якості дев’ятнадцяти квантованих і неквантованих моделей LLM різних розмірів, серед яких LLaMa-3-8B-4bit, Gemma-2B-4bit, Gemma-1.1-7B-4bit, Qwen-1.5-4B-4bit, Stable LM-2-1.6B-4bit, Phi-2-4bit, Mistal-7B-4bit, GPT-3.5 Turbo за показниками BLEU, Rouge-1, Rouge-2, Rouge-L і BERT-оцінок на двох різних наборах текстів XSum та CNN/Daily Mail 3.0.0.
Висновки. Проведені експерименти підтвердили працездатність пропонованого математичного забезпечення, дозволяють рекомендувати його для використання при вирішенні задач сумаризації текстів на практиці. Перспективи подальших досліджень можуть полягати у більш глибокому аналізі метрик та критеріїв оцінювання якості сгенерованих текстів, а також експериментальному дослідженні пропонованого алгоритму на більшій кількості практичних задач обробки природної мови.
Synthesis of neural network models for technical diagnostics of nonlinear systems
(Національний університет «Запорізька політехніка», 2025) Leoshchenko, S. D.; Oliinyk, A. O.; Subbotin, S. A.; Morklyanyk, B. V.; Леощенко, Сергій Дмитрович; Олійник, Андрій Олександрович; Субботін, Сергій Олександрович
EN: Context. The problem of synthesizing a diagnostic model of complex technical processes in nonlinear systems, which should be characterized by a high level of accuracy, is considered. The object of research is the process of synthesizing a neural network model for technical diagnostics of nonlinear systems.
Objective of the work is to synthesize a high-precision neural network model based on previously accumulated historical data about the system.
Method. It is proposed to use artificial neural networks for modeling nonlinear technical systems. First, you need to perform an overall assessment of the complexity of the task. Based on the assessment, a decision can be made on the best approach to organizing neuromodel synthesis. So, for the task, the level of ‘random complexity’ was chosen, because despite the relative structure of the data, their total array is quite large in volume and requires careful study in order to ensure high quality of the solution. Therefore, in the future, it was proposed to use a neuromodel based on recurrent networks of the GRU topology and use swarm intelligence methods for neurosynthesis, in particular the A3C method. The results obtained showed a high level of solution obtained, but due to the high level of resource intensity, the proposed approach requires further modifications.
Results. A diagnostic model of complex technical processes in nonlinear systems of optimal topology, characterized by a high level of accuracy, is obtained. The built neuromodel reduces the risks associated with ensuring human safety.
Conclusions. The conducted experiments confirmed the operability of the proposed approach and allow us to recommend it for further refinement in order to implement technical, industrial and operational process control systems in practice in automation systems.
Prospects for further research may lie in optimizing the resource intensity of synthesis processes.
UK: Актуальність. Розглянуто задачу синтезу діагностичної моделі складних технічних процесів у нелінійних системах, що має відрізнятися високим рівнем точності. Об’єктом дослідження є процес синтезу нейромережевої моделі для технічного діагностування нелінійних систем.
Мета роботи полягає у синтезі нейромережевої моделі високої точності, на основі попередньо накопичених історичних даних про систему.
Метод. Запропоновано використовувати штучні нейронні мережі для моделювання нелінійних технічних систем. По-перше, необхідно виконати загальну оцінку складності задачі. На основі оцінки можна прийняти рішення про подальший підхід до організації синтезу нейромоделі. Від так, для поставленої задачі було обрано рівень складності безладна складність, адже не зважаючи на відносну структурованість даних, їх загальний масив є досить великим за об’ємом та вимагає ретельного опрацювання з метою забезпечення високої якості рішення. Тому в подальшому було запропоновано використовувати нейромодель на основі рекурентних мереж топології GRU та використати для нейросинтезу методи ройового інтелекту, зокрема метод A3C. Отримані результати засвідчили високий рівень отриманого рішення, проте через високий рівень ресурсоємності запропонований підхід вимагає подальших модифікацій.
Результати. Отримано діагностичну модель складних технічних процесів у нелінійних системах оптимальної топології, що відрізняється високим рівнем точності. Побудована нейромодель знижує ризики пов’язані зі забезпеченням людської безпеки.
Висновки. Проведені експерименти підтвердили працездатність запропонованого підходу і дозволяють рекомендувати його для подальшого допрацювання з метою імплементації на практиці в системи автоматизації систем контролю технічних, промислових та експлуатаційних процесів. Перспективи подальших досліджень можуть полягати в оптимізації ресурсоємності процесів синтезу.
Програма навчальної дисципліни «Організація, планування та управління промисловим підприємством» для студентів напряму підготовки G9 «Прикладна механіка», галузь знань - G «Інженерія, виробництво та будівництво» денної та заочної форм навчання другого рівня вищої освіти
(Національний університет «Запорізька політехніка», 2025) Севастьянов, Родіон Вікторович; Sevastyanov, Rodion V.
UK: Метою курсу є формування у студентів сучасного економічного мислення і системи спеціальних знань про базові поняття щодо організації, планування та управління виробництвом промисловості, змісту його окремих напрямів та їх взаємозв'язку, системи показників, що їх характеризують.
EN: The aim of the course is to develop students' modern economic thinking and a system of specialized knowledge about the basic concepts of industrial production organization, planning, and management, the content of its individual areas and their interrelationships, and the system of indicators that characterize them.
Methodical instructions on performance of course project on the discipline “Applied mechanics” for students of specialty G3 Electrical engineering of all forms of learning
(Національний університет «Запорізька політехніка», 2025) Шевченко, Володимир Григорович; Shevchenko, Volodymyr G.; Рягін, Сергій Львович; Ryagin, Sergey L.; Шумикін, Сергій Олександрович; Shumykin, Serhii O.; Онищенко, Роман Вікторович; Onyshchenko, Roman V.
UK: Наведено методичні вказівки на виконання курсового проєкту з дисципліни «Прикладна механіка» для студентів спеціальності G3 Електрична інженерія усіх форм навчання
EN: Methodical instructions on performance of course project on the discipline “Applied mechanics” for students of specialty G3 Electrical engineering of all forms of learning are given
Програма переддипломної практики (стажування) магістрів спеціальності G9 «Прикладна механіка» (за освітньою програмою "Технології машинобудування")
(Національний університет «Запорізька політехніка», 2025) Тришин, Павло Романович; Вишнепольський, Євген Валерійович; Tryshyn, Pavlo; Vyshnepolskyi, Yevhen V.
UK: Наведено методичні рекомендації та вказівки до виконання завдань переддипломної практики (стажування) магістрантів машинобудівної спеціалізації
EN: Methodical recommendations and instructions to implement the tasks of the pre-graduate practice (internship) for masters of engineering specialization are given