Search academic texts

Registration Number

0824U001409, PhD dissertation

Status

Доктор філософії

Date

12-04-2024

popup.evolution

o

Title

Construction of self-adaptive algorithms based on neural networks

Author

Yuliia Litvinchuk,

popup.head Igor V. Malyk
popup.opponent Ihor V. Samoilenko
popup.opponent Pavlo S. Knopov
popup.review Dmytro I. Uhryn
popup.review Serhii E. Ostapov

Description

Дисертаційна робота присвячена побудові самоадаптивних алгоритмів за допомогою сумішей розподілів на основі розширеного алгоритму еволюційної стратегії з адаптацією коваріаційної матриці (CMA-ES) для оцінки параметрів складних систем. Результати дисертаційної роботи є підґрунтям для подальших теоретичних і практичних наукових розробок у дослідженні теорії еволюційних алгоритмів та розв’язанні оптимізаційних задач. Дисертацiя складається iз вступу, трьох роздiлiв, висновкiв, перелiку використаних джерел та додатку. У вступі обґрунтовано актуальнiсть теми дослiдження, сформульовано мету, завдання, предмет, об’єкт та методи дослiдження, вказано наукову новизну, теоретичне та практичне значення отриманих результатiв, проаналізовано зв’язок роботи з науковими дослiдженнями та особистий внесок здобувача, а також наведено відомості про апробацію та публікації основних результатів дисертацiї. Описано структуру та обсяг дисертаційної роботи. У першому розділі здiйснено огляд наукової лiтератури, присвяченої основним напрямкам дослiджень еволюційних алгоритмів, розглянуто ключові вiдомостi з теорії складних мереж, наведено опис основних напрямів досліджень та визначено завдання, якими займається теорія еволюційних алгоритмів. Проведено детальний огляд основних генетичних алгоритмів та еволюційної стратегії, зокрема, а також їх сфери застосування. Детально проаналiзовано хронологiю розвитку метаеврестичних алгоритмів для оптимізації складних систем. У першому пункті розділу 1 розглянуто існуючі методи оптимізації параметрів нейронних мереж на базі генетичних алгоритмів, етапи роботи та математична модель генетичного алгоритму. У другому пункті зроблено огляд еволюційної стратегії з адаптацією коваріаційної матриці, як одного з потужних алгоритмів оптимізації, що використовується для розв’язування задач складних систем. Пункт три відображає огляд інших еволюційних алгоритмів оптимізації, їх математичні моделі та сфери застосування. У другому розділі запропоновано розширений самоадаптивний алгоритм CMA-ES для оптимізації на областях з обмеженнями. Алгоритм враховує обмеження та використовує лише однопікові розподіли та цільові функції. Він ефективний для багатьох задач, але може бути неефективним для функцій з великою кількістю екстремумів. Загалом, модифікований алгоритм є перспективним для задач оптимізації зі складними обмеженнями на поведінку цільової функції. Також у другому розділі розроблено покращений самоадаптивний алгоритм CMA-ES для оптимізації параметрів складних систем, зокрема нейронних мереж. Алгоритм відрізняється від класичних тим, що динамічно підлаштовує кількість піків у суміші розподілів під час виконання, уникаючи зайвих обчислень. Основні характеристики та переваги алгоритму: - самоадаптивність: алгоритм підлаштовується під конкретну задачу, змінюючи розмірність суміші розподілів. - універсальність: може використовуватись із різними типами розподілів та застосовуватись до інших еволюційних алгоритмів. При цьому від базового розподілу вимагаться лише однопіковість. - ефективність: дозволяє уникнути зайвих обчислень цільової функції. - обґрунтованість: адаптивність базується на методах визначення оптимальної кількості кластерів в кластерному аналізі. Розглянуто модифікацію алгоритму для задач з обмеженнями на область пошуку. Вона враховує обмеження та використовує лише однопікові розподіли. Ця модифікація ефективна для багатьох задач, але може бути неефективною для функцій з великою кількістю екстремумів. Загалом, запропонований самоадаптивний алгоритм CMA-ES є перспективним інструментом для ефективної оптимізації складних систем, як зі стандартними, так і з обмеженими областями пошуку. В загальному розширений CMA-ES алгоритм є ефективним інструментом для оптимізації складних нелінійних та неопуклих задач. Він має ряд переваг перед класичним CMA-ES, таких як: - здатність враховувати мультимодальні цільової функції; - збільшення шансів на знаходження глобального оптимуму в порівнянні із класичними евристичними алгоритмами; - більш ефективний пошук гіперпараметрів складних систем. Однак розширений CMA-ES алгоритм має один істотний недолік – необхідність задавати розмірність суміші. Даний параметр може впливати на ефективність алгоритму, оскільки занадто мала розмірність може призвести до того, що алгоритм не зможе врахувати всі екстремуми цільової функції, а отже призводить до повільної збіжності. З іншого ж боку, занадто велика розмірність може збільшити час роботи алгоритму. У цілому, розширений CMA-ES алгоритм є потужним інструментом для оптимізації, який може бути корисним для вирішення задач з мультимодальними цільовими функціями. У третьому розділі розглянуто задачу пошуку оптимального керування для динамічних систем, що описуються стохастичними диференціальними рівнянням Іто із пуассонівськими збуреннями та марковськими перемиканнями.

Registration Date

2024-04-02

popup.nrat_date

2024-04-02