Устойчивость
Как и в других сетях, веса между слоями в этой сети могут рассматриваться в виде матрицы W. В работе [2] показано, что сеть с обратными связями является устойчивой, если ее матрица симметрична и имеет нули на главной диагонали, т. е. если wij = wji и wii = 0 для всех i.
Устойчивость такой сети может быть доказана с помощью элегантного математического метода. Допустим, что найдена функция, которая всегда убывает при изменении состояния сети. В конце концов эта функция должна достичь минимума и прекратить изменение, гарантируя тем самым устойчивость сети. Такая функция, называемая функцией Ляпунова, для рассматриваемых сетей с обратными связями может быть введена следующим образом:
где Е – искусственная энергия сети; wij – вес от выхода нейрона i к входу нейрона j;
OUTj – выход нейрона j; Ij – внешний вход нейрона j; Тj – порог нейрона j.
Изменение энергии Е, вызванное изменением состояния j-нейрона, есть
Допустим, что величина NET нейрона j больше порога. Тогда выражение в скобках будет положительным, а из Уравнения (6.1) следует, что выход нейрона j должен измениться в положительную сторону (или остаться без изменения). Это значит, что ?OUT. может быть только положительным или нулем и ?Е должно быть отрицательным. Следовательно, энергия сети должна либо уменьшиться, либо остаться без изменения.
Слава Україні!
Адмін сайту, який є громадянином України та безвиїзно перебуває в Україні на протязі всього часу повномасштабної російської агресії, зичить щастя та мирного неба всім українським хлопцям та дівчатам! Також він рекомендує українським трейдерам кращих біржових та бінарних брокерів, що мають приємні торгові умови та не співпрацюють з російською федерацією. А саме:
Exness – для доступу до валютного ринку;
RoboForex – для роботи з CFD-контрактами на акції;
Deriv – для опціонної торгівлі.
Ну, і звичайно ж, заборонену в росії компанію Альпарі, через яку Ви маєте можливість долучитися як до валютного ринку, так і до торгівлі акціями та бінарними опціонами (Fix-Contracts). Крім того, Альпарі ще цікава своїми інвестиційними можливостями. Дивіться, наприклад:
рейтинг ПАММ-рахунків;
рейтинг ПАММ-портфелів.
Все буде Україна!
Далее, допустим, что величина NET меньше порога. Тогда величина ?OUTj может быть только отрицательной или нулем. Следовательно, опять энергия должна уменьшиться или остаться без изменения.
И окончательно, если величина NET равна порогу, ?j равна нулю и энергия остается без изменения.
Это показывает, что любое изменение состояния нейрона либо уменьшит энергию, либо оставит ее без изменения. Благодаря такому непрерывному стремлению к уменьшению энергия в конце концов должна достигнуть минимума и прекратить изменение. По определению такая сеть является устойчивой.
Симметрия сети является достаточным, но не необходимым условием для устойчивости системы. Имеется много устойчивых систем (например, все сети прямого действия!), которые ему не удовлетворяют. Можно продемонстрировать примеры, в которых незначительное отклонение от симметрии может приводить к непрерывным осцилляциям. Однако приближенной симметрии обычно достаточно для устойчивости систем.
|
