Теорема Цибенка, Універсальна теорема апроксимації — теорема, доведена Джорджем Цибенком
(George Cybenko) в 1989 році, яка стверджує, що штучна нейронна мережа прямого зв'язку (англ. feed-forward; у яких зв'язки не утворюють циклів) з одним прихованим шаром може апроксимувати будь-яку неперервну функцію багатьох змінних з будь-якою точністю. Умовами є достатня кількість нейронів прихованого шару, вдалий підбір
і
, де
— ваги між вхідними нейронами і нейронами прихованого шару
— ваги між зв'язками від нейронів прихованого шару і вихідним нейроном
— коефцієнт «упередженості» для нейронів прихованого шару.
Нехай
будь-яка непрервна сигмоїдна функція, наприклад,
. Тоді, якщо дана будь-яка неперервна функція дійсних змінних
на
(або будь яка інша компактна підмножина
) і
, тоді існують вектори
та параметризована функція
така, що
для всіх ![{\displaystyle \mathbf {x} \in [0,1]^{n},}](https://wikimedia.org/api/rest_v1/media/math/render/svg/bfbfac23a5c0a6c05fb66fb10713fc2aecc34612)
де
![{\displaystyle G(\mathbf {x} ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta } )=\sum _{i=1}^{N}\alpha _{i}\varphi (\mathbf {w} _{i}^{T}\mathbf {x} +\theta _{i}),}](https://wikimedia.org/api/rest_v1/media/math/render/svg/22eb0bd1507fe3f13bc8cb7e4608fe2a71de2dde)
та
та
.
Диференційовні обчислення |
---|
| Загальне |
|
---|
| Поняття |
|
---|
| Мови програмування |
|
---|
| Застосування |
|
---|
| Апаратне забезпечення |
|
---|
| Програмні бібліотеки |
|
---|
| Втілення |
Аудіовізуальні |
|
---|
| Словесні |
|
---|
| Вирішувальні |
|
---|
|
---|
| Люди |
|
---|
| Організації |
|
---|
| |
|