Оптимізація на основі моделювання

Методи ранжування та відбору призначені для завдань, у яких альтернативи фіксовані та відомі, а моделювання використовується для оцінки продуктивності системи. У налаштуванні оптимізації моделювання, застосовні методи включають підходи зони байдужості, оптимальні розподілення бюджету обчислень та алгоритми градієнта знань.

У методі Бокса-Вілсона (англ. Response surface methodology) мета полягає в тому, щоб знайти взаємозв'язок між вхідними змінними та змінними відгука. Процес починається зі спроби підігнати модель лінійної регресії. Якщо P-значення виявиться низьким, буде реалізована поліноміальна регресія вищого ступеня, яка є квадратичною. Процес пошуку гарного співвідношення між вхідними змінними та змінними відгуку буде виконуватися для кожного тесту моделювання. При оптимізації моделювання можна використовувати метод поверхні відгуку, щоб знайти найкращі вхідні змінні, які дають бажані результати з погляду змінних відгуків.[7]

Евристичні методи змінюють точність на швидкість. Їхня мета — знайти гарне рішення швидше, ніж традиційні методи, коли вони надто повільні або не можуть вирішити проблему. Зазвичай замість оптимального значення знаходять локальне оптимальне; однак значення вважаються досить близькими до остаточного рішення. Приклади таких методів є пошук табу та генетичні алгоритми.[4]

Метамоделі дозволяють дослідникам отримувати надійні наближені результати моделей без проведення дорогих та трудомістких комп'ютерних симуляцій. Отже, процес оптимізації моделі може зайняти менше часу та витрат на обчислення.[8]

Стохастична апроксимація використовується коли функція не може бути обчислена безпосередньо, лише оцінена за допомогою шумних спостережень. У цих сценаріях метод (або сімейство методів) шукає екстремуми цих функцій. Цільова функція буде:[9]

${\displaystyle {\underset {{\text{x}}\in \theta }{\min }}f{\bigl (}{\text{x}}{\bigr )}={\underset {{\text{x}}\in \theta }{\min }}\mathrm {E} [F{\bigl (}{\text{x,y}})]}$

${\displaystyle y}$ є випадковою величиною, яка представляє шум;

${\displaystyle x}$ є параметром, який мінімізує ${\displaystyle f{\bigl (}{\text{x}}{\bigr )}}$;

${\displaystyle \theta }$ є областю визначення параметра ${\displaystyle x}$.

Оптимізація без похідних застосовується до задачі оптимізації, коли її похідні відсутні або ненадійні. Методи, що не використовують похідні, створюють модель на основі значень вибіркових функцій або створюють вибірковий набір значень функцій без використання докладної моделі. Оскільки метод не використовує похідні, його не можна порівнювати з методами, заснованими на похідних.[10]

Для задач оптимізації без обмежень він має вигляд:

${\displaystyle {\underset {{\text{x}}\in \mathbb {R} ^{n}}{\min }}f{\bigl (}{\text{x}}{\bigr )}}$

Обмеження оптимізації без похідних:

1. Деякі методи не можуть впоратися з завданнями оптимізації з більш ніж кількома змінними; результати зазвичай не такі точні. Тим не менш, існує безліч практичних випадків, коли методи без похідних були успішними у нетривіальних задачах оптимізації моделювання, які включають випадковість, що виявляється як «шум» у цільовій функції. Наприклад, [5][11].

2. Зіткнувшись із мінімізацією невипуклих функцій, він покаже свої обмеження.

3. Методи оптимізації без похідних відносно прості і легкі, але, як і для більшості методів оптимізації, при практичної реалізації (наприклад, при виборі параметрів алгоритму) потрібна певна обережність.

Динамічне програмування має справу з ситуаціями, коли рішення ухвалюються поетапно. Ключ до вирішення таких проблем — знайти компроміс між поточними та майбутніми витратами.[12]

Одна динамічна базова модель має дві особливості:

1) Вона має дискретну динамічну систему за часом.

2) Функція вартості є адитивною з часом.

Для дискретних функцій динамічне програмування має вигляд:

${\displaystyle x_{k+1}=f_{k}(x_{k},u_{k},w_{k}),k=0,1,...,N-1}$

${\displaystyle k}$ є індекс дискретного часу.

${\displaystyle x_{k}}$ це стан часу k, що містить інформацію минулого і готує її до майбутньої оптимізації.

${\displaystyle u_{k}}$ є контрольною змінною.

${\displaystyle w_{k}}$ є випадковим параметром.

Для функції вартості вона має вигляд:

${\displaystyle g_{N}(X_{N})+\sum _{k=0}^{N-1}g_{k}(x_{k},u_{k},W_{k})}$

${\displaystyle g_{N}(X_{N})}$ це вартість у кінці процесу.

Так як вартість не може бути оптимізована суттєво, можна використовувати очікуване значення:

${\displaystyle E\{g_{N}(X_{N})+\sum _{k=0}^{N-1}g_{k}(x_{k},u_{k},W_{k})\}}$

Нейродинамічне програмування аналогічне динамічному програмуванню, за винятком того, що перше має концепцію апроксимаційних архітектур. Метод поєднує в собі штучний інтелект, алгоритми на основі моделювання та методи функціонального підходу. «Нейро» в цьому терміні походить від спільноти штучного інтелекту. Це означає навчитися приймати покращені рішення на майбутнє за допомогою вбудованого механізму, що базується на поточній поведінці. Найважливіша частина нейродинамічного програмування — це побудова навченої нейромережі для вирішення оптимальної задачі.[13]