Користувач:AnatoliiSavin/Кількісна оцінка невизначеності

Кількісна оцінка невизначеності (англ. uncertainty quantification) — це наука про кількісну характеристику та оцінку невизначеностей як в обчислювальних, так і в реальних застосуваннях. Вона намагається визначити, наскільки ймовірні певні результати, якщо деякі аспекти системи точно невідомі. Прикладом може бути передбачення прискорення людського тіла під час лобового зіткнення з іншим автомобілем: навіть якщо швидкість була точно відома, невеликі відмінності у виробництві окремих автомобілів, наскільки щільно затягнутий кожен болт тощо призведуть до різних результатів, які можна передбачити лише в статистичному значенні.

Багато проблем у природничих науках та інженерії також насичені джерелами невизначеності. [./Https://en.wikipedia.org/wiki/Computer_experiment Комп'ютерні експерименти] на комп'ютерних симуляціях є найпоширенішим підходом для вивчення проблем у кількісній оцінці невизначеності.

Джерела

Невизначеність може входити в математичні моделі та експериментальні вимірювання в різних контекстах. Один із способів класифікувати джерела невизначеності полягає в тому, щоб розглянути наступне:

Параметр невизначеності

Це походить від параметрів моделі, які є вхідними даними для комп’ютерної моделі (математичної моделі), але чиї точні значення невідомі експериментаторам і не можуть контролюватись у фізичних експериментах, або чиї значення не можуть бути точно визначені статистичними методами . Деякими прикладами цього є локальне прискорення вільного падіння в експерименті з падаючим об’єктом, різні властивості матеріалу в аналізі кінцевих елементів для інженерії та невизначеність мультиплікатора в контексті оптимізації макроекономічної політики .

Параметрична невизначеність

Це відбувається через мінливість вхідних змінних моделі. Наприклад, розміри оброблюваної деталі в процесі виробництва можуть не точно відповідати проєкту та інструкціям, що спричинить мінливість її продуктивності.

Структурна невизначеність

Також відома як "неадекватність моделі", "упередженість моделі" або "розбіжність моделі", це відбувається через відсутність знання фізики, що лежить в основі проблеми. Це залежить від того, наскільки точно математична модель описує справжню систему для реальної життєвої ситуації, враховуючи той факт, що моделі майже завжди є лише наближеннями до реальності. Одним із прикладів є моделювання процесу падіння об’єкта за допомогою моделі вільного падіння; сама модель є неточною, оскільки завжди існує тертя повітря. У цьому випадку, навіть якщо в моделі немає невідомого параметра, все одно очікується розбіжність між моделлю та справжньою фізикою.

Алгоритмічна невизначеність

Також відома як "числова невизначеність" або "дискретна невизначеність". Цей тип походить від числових помилок і числових наближень для реалізації комп’ютерної моделі. Більшість моделей надто складні для отримання точного рішення. Наприклад, метод скінченних елементів або метод скінченних різниць можна використовувати для наближення розв’язання рівняння з частинними похідними (що вносить числові помилки). Іншими прикладами є числове інтегрування та скорочення нескінченної суми, які є необхідними наближеннями в чисельній реалізації.

Експериментальна невизначеність

Також відома як "похибка спостереження", це походить від мінливості експериментальних вимірювань. Експериментальна невизначеність є неминучою, і її можна помітити, повторюючи вимірювання багато разів, використовуючи однакові налаштування для всіх вхідних даних/змінних.

Інтерполяція невизначеності

Це пов’язано з відсутністю доступних даних, зібраних за допомогою комп’ютерного моделювання та/або експериментальних вимірювань. Для інших вхідних налаштувань, які не мають даних моделювання чи експериментальних вимірювань, потрібно інтерполювати або екстраполювати, щоб передбачити відповідні реакції.

Алеаторика та епістема

Невизначеність іноді класифікують за двома категоріями, що особливо помітно в медичних застосуваннях.

Алеаторна (або випадкова) невизначеність

Алеаторична невизначеність, також відома як "стохастична невизначеність", є репрезентативною для невідомих, які відрізняються кожного разу, коли ми запускаємо той самий експеримент. Наприклад, одна стріла, випущена з механічного лука, який точно дублює кожен пуск (те саме прискорення, висота, напрямок і кінцева швидкість), не вражатиме ту саму точку цілі через випадкові та складні коливання стрижня стріли, знання яких неможливо визначити достатньо, щоб усунути результуючий розкид точок попадання. Аргумент тут, очевидно, полягає у визначенні поняття «неможливо». Те, що ми не можемо виміряти достатньо за допомогою наших доступних на даний момент вимірювальних пристроїв, не обов’язково виключає існування такої інформації, яка б перемістила цю невизначеність у наведену нижче категорію. Алеаторика походить від латинського "alea" або кості, що означає азартну гру.

Епістемічна (або пізнавальна) невизначеність

Епістемічна невизначеність, також відома як "систематична невизначеність", пов’язана з речами, які в принципі можна знати, але не їх не враховують на практиці. Це може бути тому, що вимірювання є неточним, тому що модель нехтує певними ефектами, або тому, що певні дані були навмисно приховані. Прикладом джерела такої невизначеності може бути опір в експерименті, призначеному для вимірювання прискорення сили тяжіння поблизу земної поверхні. Зазвичай використовується гравітаційне прискорення 9,8 м/с² ігноруючи вплив опору повітря, але опір повітря да об’єкту можна виміряти та включити в експеримент, щоб зменшити результуючу невизначеність у розрахунку гравітаційного прискорення.

Комбінована поява та взаємодія алеаторної та епістемічної невизначеності

Алеаторна та епістемічна невизначеність також можуть виникати одночасно в одному вираженні. Наприклад, коли експериментальні параметри демонструють алеаторну невизначеність, і ці експериментальні параметри вводяться в комп’ютерне моделювання. Якщо потім для кількісного визначення невизначеності сурогатна модель, наприклад процес Гаусса або розширення поліноміального хаосу, вивчається з комп’ютерних експериментів, цей сурогат виявляє епістемічну невизначеність, яка залежить від алеаторної невизначеності експериментальних параметрів або взаємодіє з нею. Таку невизначеність більше не можна класифікувати лише як алеаторну або епістемічну, вона є більш загальною інференціальною невизначеністю висновків.

У реальних застосуваннях присутні обидва типи невизначеностей. Кількісна оцінка невизначеності має на меті чітко виразити обидва типи невизначеності окремо. Кількісна оцінка алеаторичних невизначеностей може бути відносно простою, де традиційна (частотницька) ймовірність є найосновнішою формою. Часто використовуються такі методи, як метод Монте-Карло. Розподіл ймовірностей може бути представлений його моментами (у гауссовому випадку достатньо середнього значення та коваріації, хоча, загалом, навіть знання всіх моментів до будь-якого високого порядку все одно не визначає функцію розподілу однозначно), або такими нещодавними методами, як Кархунена–Лове та розширення поліноміального хаосу . Щоб оцінити епістемічну невизначеність, докладаються зусилля, щоб зрозуміти знання (відсутність знань) про систему, процес або механізм. Епістемічну невизначеність зазвичай розуміють через призму баєсівської ймовірності, де ймовірності інтерпретуються як вказівки на те, наскільки впевненою може бути раціональна людина щодо конкретного твердження.

Математичний погляд

У математиці невизначеність часто характеризують у термінах розподілу ймовірностей. З цієї точки зору епістемічна невизначеність означає відсутність впевненості в тому, яким є відповідний розподіл ймовірностей, а алеаторична невизначеність означає невпевненість у тому, якою буде випадкова вибірка, взята з розподілу ймовірностей.

Види проблем

Існують два основних типи проблем у кількісній оцінці невизначеності: одна – це пряме поширення невизначеності (де різні джерела невизначеності поширюються через модель, щоб передбачити загальну невизначеність реакції системи), а інша – зворотна оцінка невизначеності моделі та невизначеності параметрів (де параметри моделі калібруються одночасно з використанням даних тестування). Більш поширеним є дослідження першої проблеми, і для неї було розроблено більшість методів аналізу невизначеності. З іншого боку, остання проблема привертає все більшу увагу в спільноті інженерів-проєктувальників, оскільки кількісна оцінка невизначеності моделі та наступні передбачення справжньої реіації(й) системи становлять великий інтерес для проєктування надійних систем.

Пряме поширення

Поширення невизначеності – це кількісна оцінка невизначеностей на виході(ах) системи, що поширюється від невизначених вхідних даних. Вона зосереджена на впливі на результати параметричної мінливості, перерахованої в джерелах невизначеності. Об’єктами аналізу поширення невизначеності можуть бути:

• Оцінка моментів нижчого порядку виходів, тобто середнє значення та дисперсію.
• Оцінка надійності виходів. Це особливо корисно в розробці надійності, де вихідні дані системи зазвичай тісно пов’язані з продуктивністю системи.
• Оцінка повного розподілу ймовірностей виходів. Це корисно в сценарії оптимізації корисності, де для обчислення корисності використовується повний розподіл.

Зворотна оцінка

Враховуючи деякі експериментальні вимірювання системи та деякі результати комп’ютерного моделювання з її математичної моделі, зворотна кількісна оцінка невизначеності оцінює розбіжність між експериментом і математичною моделлю (яка називається корекцією упередженості), а також оцінює значення невідомих параметрів у моделі, якщо такі є (що називається калібруванням параметрів або просто калібруванням). Загалом це набагато складніша проблема, ніж пряме поширення невизначеності; однак це має велике значення, оскільки зазвичай реалізується в процесі оновлення моделі. Існує кілька сценаріїв зворотної кількісної оцінки невизначеності:

Результат корекції упередженості, включаючи оновлену модель (середнє передбачення, prediction mean) і інтервал довіри передбаченню (prediction CI).

Лише корекція упередженості

Корекція упередженості кількісно визначає неадекватність моделі, тобто розбіжність між експериментом і математичною моделлю. Загальна формула оновлення моделі для корекції упередженості така:

$y^{e}(\mathbf {x} )=y^{m}(\mathbf {x} )+\delta (\mathbf {x} )+\varepsilon$

де $y^{e}(\mathbf {x} )$ позначає експериментальні вимірювання як функцію кількох вхідних змінних $\mathbf {x}$, $y^{m}(\mathbf {x} )$ позначає реакцію комп'ютерної моделі (математичної моделі), $\delta (\mathbf {x} )$ позначає адитивну функцію розбіжності (вона ж функція упередженості), а $\varepsilon$ позначає експериментальну невизначеність. Метою є оцінка функції розбіжності $\delta (\mathbf {x} )$, а як побічний продукт – оновлена модель $y^{m}(\mathbf {x} )+\delta (\mathbf {x} )$. Інтервал довіри передбаченню надається разом з оновленою моделлю як кількісна оцінка невизначеності.

Тільки калібрування параметрів

Калібрування параметрів оцінює значення одного або кількох невідомих параметрів у математичній моделі. Загальна формула оновлення моделі для калібрування така:

$y^{e}(\mathbf {x} )=y^{m}(\mathbf {x} ,{\boldsymbol {\theta }}^{*})+\varepsilon$

де $y^{m}(\mathbf {x} ,{\boldsymbol {\theta }})$ позначає реакцію комп’ютерної моделі, яка залежить від кількох невідомих параметрів моделі ${\boldsymbol {\theta }}$, а ${\boldsymbol {\theta }}^{*}$ позначає справжні значення невідомих параметрів у ході експериментів. Мета полягає в тому, щоб оцінити ${\boldsymbol {\theta }}^{*}$, або отримати розподіл ймовірностей ${\boldsymbol {\theta }}^{*}$ що охоплює найкраще знання справжніх значень параметрів.

Корекція упередженості та калібрування параметрів

Це розглядає неточну модель з одним або декількома невідомими параметрами, а її формулювання оновлення моделі поєднує обидва сценарії разом:

$y^{e}(\mathbf {x} )=y^{m}(\mathbf {x} ,{\boldsymbol {\theta }}^{*})+\delta (\mathbf {x} )+\varepsilon$

Це найповніша формулювання оновлення моделі, яка включає всі можливі джерела невизначеності, і для її вирішення потрібно найбільше зусиль.

Вибіркові методології

Було проведено багато досліджень для вирішення проблем кількісної оцінки невизначеності, хоча більшість із них стосується поширення невизначеності. Протягом останніх одного-двох десятиліть також було розроблено низку підходів для проблем зворотної кількісної оцінки невизначеності, які виявилися корисними для більшості проблем малого та середнього масштабу.

Пряме поширення

Існуючі підходи до поширення невизначеності включають імовірнісні та неімовірнісні підходи. В основному існує шість категорій ймовірнісних підходів до поширення невизначеності:

• Методи на основі моделювання: Моделювання Монте-Карло, вибірка за значимістю, адаптивна вибірка тощо.
• Загальні сурогатні методи: У неінструктивному підході сурогатна модель вивчається, щоб замінити експеримент або моделювання дешевим і швидким наближенням. Сурогатні методи також можуть бути використані повністю баєсівським способом. Цей підхід виявився особливо ефективним, коли вартість вибірки, наприклад, обчислювально дорогого моделювання, є непомірно високою.
• Методи, засновані на локальному розширенні: Ряди Тейлора, метод збурень тощо. Ці методи мають переваги, коли мають справу з відносно невеликою мінливістю вхідних даних і виходами, які не виражають високої нелінійності. Ці лінійні або лінеаризовані методи детально описані в статті Поширення невизначеності .
• Методи, засновані на функціональному розширенні: Розширення Неймана, ортогональне розширення або розширення Кархунена–Ловева, з розширенням поліноміального хаосу і вейвлет-розширеннями як окремими випадками.
• Методи на основі найбільш вірогідної точки: Метод надійності першого порядку і метод надійності другого порядку.
• Методи на основі числового інтегрування: Повне факторне чисельне інтегрування і зменшення розмірності.

Для неімовірнісних підходів інтервальний аналіз, нечітка теорія, теорія можливостей і теорія доказів є одними з найбільш широко використовуваних.

Імовірнісний підхід вважається найбільш строгим підходом до аналізу невизначеності в інженерному проєктуванні через його узгодженість з теорією аналізу рішень. Його наріжним каменем є розрахунок функцій щільності ймовірності для статистики вибірки. Це можна виконати строго для випадкових змінних, які можна отримати як перетворення змінних Гауса, що призводить до точних інтервалів довіри.

Зворотна невизначеність

Частотна

У регресійному аналізі та проблемах найменших квадратів стандартна помилка оцінок параметрів легко доступна, яку можна розширити до довірчого інтервалу .

Баєсівська

За баєсівською системою існує кілька методологій зворотної кількісної оцінки невизначеності. Найскладнішим напрямком є націлення на вирішення проблем як з корекцією упередженості, так і з калібруванням параметрів. Виклики таких проблем включають не лише вплив неадекватності моделі та невизначеності параметрів, але й брак даних як комп’ютерного моделювання, так і експериментів. Поширеною ситуацією є те, що вхідні параметри не однакові в експериментах і моделюваннях. Інша поширена ситуація полягає в тому, що параметри, отримані з експериментів, вводяться в моделювання. Для обчислювально дорогих симуляцій часто необхідна сурогатна модель, наприклад процес Гаусса або поширення поліноміального хаосу, що визначає зворотну проблему для пошуку сурогатної моделі, яка найкраще наближена до моделювання.

Модульний підхід

Підхід до зворотної кількісної оцінки невизначеності – це модульний баєсівський підхід. Модульний баєсівський підхід отримав свою назву від процедури з чотирьох модулів. Окрім поточних доступних даних, слід призначити попередній розподіл невідомих параметрів.

Модуль 1: Моделювання процесу Гауса для комп’ютерної моделі

Щоб вирішити проблему, пов’язану з відсутністю результатів моделювання, комп’ютерну модель заміняють моделлю процесу Гауса (ПГ)

$y^{m}(\mathbf {x} ,{\boldsymbol {\theta }})\sim {\mathcal {GP}}{\big (}\mathbf {h} ^{m}(\cdot )^{T}{\boldsymbol {\beta }}^{m},\sigma _{m}^{2}R^{m}(\cdot ,\cdot ){\big )}$

де

$R^{m}{\big (}(\mathbf {x} ,{\boldsymbol {\theta }}),(\mathbf {x} ',{\boldsymbol {\theta }}'){\big )}=\exp \left\{-\sum _{k=1}^{d}\omega _{k}^{m}(x_{k}-x_{k}')^{2}\right\}\exp \left\{-\sum _{k=1}^{r}\omega _{d+k}^{m}(\theta _{k}-\theta _{k}')^{2}\right\}.$

$d$ є розмірністю вхідних змінних, а $r$ – розмірність невідомих параметрів. Поки $\mathbf {h} ^{m}(\cdot )$ заздалегідь визначено, $\left\{{\boldsymbol {\beta }}^{m},\sigma _{m},\omega _{k}^{m},k=1,\ldots ,d+r\right\}$, відомі як гіперпараметри моделі процесу Гауса, необхідно оцінювати за допомогою оцінки максимальної правдоподібності. Цей модуль можна розглядати як узагальнений метод крігінгу.

Модуль 2: Моделювання процесу Гауса для функції розбіжності

Подібно до першого модуля функція розбіжності замінюється моделлю процесу Гауса

$\delta (\mathbf {x} )\sim {\mathcal {GP}}{\big (}\mathbf {h} ^{\delta }(\cdot )^{T}{\boldsymbol {\beta }}^{\delta },\sigma _{\delta }^{2}R^{\delta }(\cdot ,\cdot ){\big )}$

де

$R^{\delta }(\mathbf {x} ,\mathbf {x} ')=\exp \left\{-\sum _{k=1}^{d}\omega _{k}^{\delta }(x_{k}-x_{k}')^{2}\right\}.$

Разом із попереднім розподілом невідомих параметрів і даними як комп’ютерних моделей, так і експериментів можна отримати оцінки максимальної ймовірності для $\left\{{\boldsymbol {\beta }}^{\delta },\sigma _{\delta },\omega _{k}^{\delta },k=1,\ldots ,d\right\}$ . У той же час, ${\boldsymbol {\beta }}^{m}$ з модуля 1 також оновлюється.

Модуль 3: Апостеріорний розподіл невідомих параметрів

Теорема Байєса застосована для обчислення апостеріорного розподілу невідомих параметрів:

$p({\boldsymbol {\theta }}\mid {\text{data}},{\boldsymbol {\varphi }})\propto p({\rm {{data}\mid {\boldsymbol {\theta }},{\boldsymbol {\varphi }})p({\boldsymbol {\theta }})}}$

де ${\boldsymbol {\varphi }}$ включає всі фіксовані гіперпараметри в попередніх модулях.

Модуль 4: Передбачення експериментальної реакції та функції розбіжності

Повний підхід

Повністю баєсівський підхід вимагає не тільки пріоритетів для невідомих параметрів ${\boldsymbol {\theta }}$, але також слід призначити і пріоритети для інших гіперпараметрів ${\boldsymbol {\varphi }}$. Він складається з наступних кроків:

1. Вивести апостеріорний розподіл $p({\boldsymbol {\theta }},{\boldsymbol {\varphi }}\mid {\text{data}})$ ;
2. Інтегрувати ${\boldsymbol {\varphi }}$ і отримати $p({\boldsymbol {\theta }}\mid {\text{data}})$ . Цей єдиний крок завершує калібрування;
3. Передбачення експериментальної реакції та функції розбіжності.

Однак підхід має істотні недоліки:

• У більшості випадків $p({\boldsymbol {\theta }},{\boldsymbol {\varphi }}\mid {\text{data}})$ є дуже складною функцією ${\boldsymbol {\varphi }}$. Тому й інтеграція стає дуже складною. Крім того, якщо пріоритети для інших гіперпараметрів ${\boldsymbol {\varphi }}$ не вибираються ретельно, складність числового інтегрування зростає ще більше.
• На етапі прогнозування передбачення (яке повинно принаймні включати очікуване значення реакції системи) також вимагає чисельного інтегрування. Для інтеграції часто використовується метод Монте-Карло марковських ланцюгів; однак це обчислювально дорого.

Повністю баєсівський підхід вимагає величезної кількості обчислень і, можливо, ще не практичний для роботи з найскладнішими ситуаціями моделювання.

Відомі обставини

Теорії та методології розширення невизначеності набагато краще встановлені порівняно зі зворотною кількісною оцінкою невизначеності. Для останнього залишаються невирішеними кілька труднощів:

1. Питання розмірності: Обчислювальні витрати різко зростають із збільшенням розмірності проблеми, тобто з кількістю вхідних змінних та/або кількістю невідомих параметрів.
2. Питання ідентифікованості: Різні комбінації невідомих параметрів і функції розбіжності можуть давати однаковий експериментальний прогноз. Отже, різні значення параметрів не можуть бути розрізнені/ідентифіковані. Ця обставина обходиться в баєсівському підході, де такі комбінації усереднюються.
3. Неповна реакція моделі: Відноситься до моделі, яка не має рішення для деяких комбінацій вхідних змінних.
4. Кількісна оцінка невизначеності у вхідних величинах: Відсутність важливих подій у доступних даних або критичних величин, які не ідентифіковані аналітиками через, наприклад, обмеження існуючих моделей.
5. Малий розгляд впливу виборів, зроблених аналітиками.

Дивіться також

• Баєсова лінійна регресія
• Баєсова ймовірність

Література

[[Категорія:Математична статистика]] [[Категорія:Дослідження операцій]] [[Категорія:Математичне моделювання]] [[Категорія:Прикладна математика]]