Глава 3. ЭНЕРГЕТИЧЕСКИЙ АСПЕКТ АВТОМАТА

Глава 3. ЭНЕРГЕТИЧЕСКИЙ АСПЕКТ АВТОМАТА

3.1. САМООРГАНИЗАЦИЯ БАЗОВОЙ СТРУКТУРЫ

Формирование базовой структуры удобно начинать рассматривать от некоторого простого исходного состояния, когда еще нет условий для взаимодействия нейронов и нет условий для разрядов. Поэтому примем, что в исходном состоянии межнейронные связи отсутствуют (есть только топологические заготовки связей) и возраст нейронов мал, точнее, существенно меньше критического, так что возбудимости _il^на близки к нулю.

С течением времени благодаря увеличению значений q увеличивается вероятность спонтанных разрядов, а когда q начинает превышать некоторый возраст q^сг, становится возможной спонтанная генерация нейронов. Спонтанной генерацией и спонтанными разрядами будем называть процесс и события, возникающие и протекающие без внешней помощи (W⁺=0, W^-=0).

Генерацию нейронов удобно рассматривать, пользуясь рис. 3.1, построенным исходя из уравнения (2.11), которое позволяет при некотором огрублении считать нейрон пороговым элементом. Условием гарантированного разряда (см. рис. 2.9) будет выполнение неравенства

-(П₀(q ) +П^д(t ))>U_l.

(3.1)

Рис.3.1. График изменения значений динамического порога

Если в момент случайного спонтанного разряда значение медленного потенциала U^м меньше величины U^м₁, то разряд останется одиночным, если больше, то он станет первым разрядом в серии разрядов, т.е. породит генерацию. Возраст q^сг определяется из условия

-(П₀(q ^сг) =U₁^м. (3.2)

Первая фаза самоорганизации сети - это образование сети возбуждающих связей между нейронами за счет того, что пары нейронов, между которыми имеется заготовка связи, случайно оказываются генерирующими одновременно. Между состояниями одновременных генераций нейронов i и j связь ^j_ir уменьшается согласно (2.15). Чтобы образовалась сеть связей, необходимо, чтобы при одновременных генерациях связь увеличивалась на величину большую, чем она уменьшается за время между этими генерациями. Это будет обеспечиваться только при достаточно больших в среднем временах спонтанных генераций. Конкретизируя зависимость l₀(q ) —вероятность события "случайный разряд"—от возраста нейрона (см. (2.10)), делаем так, чтобы случайные разряды в среднем происходили вблизи значений U₂^м медленного потенциала при возрастах нейронов, близких q^н, таком, что -П₀(q ^н) =U₂^м. Снижение возраста от q^н до q^сг при низкочастотной генерации определит среднее время спонтанных и одновременных генераций, а значит, и величины приращений возбуждающих связей. Время в состоянии покоя определится в среднем временем старения нейрона от возраста q^сг до возраста q^н. Зная все эти времена, можно подобрать физиологические константы в алгоритмах изменения величин связей так, чтобы связи увеличивались.

Прекращение спонтанной генерации связано не только со снижением возраста нейронов, но и с появлением статического порога. Конец генерации определяется условием

-(П₀(q ^сг + D ) + П^c(n _min)) = U₁^м (3.3)

Возраст при окончании генерации на небольшую величину D больше, чем q^сг, из-за появления П^с. Частота спонтанной генерации близка к минимальной, так как t разрядов близко к t^э.

Через некоторое время после начала "жизни" автомата все нейроны окажутся в режиме периодических спонтанных генераций, периодических не строго, так как первые разряды в серии случайны. Какая-то часть нейронов будет находиться в состоянии низкочастотной генерации, остальные в состоянии покоя. Составы генерирующих нейронов будут меняться.

В самый начальный период самоорганизации сети, когда спонтанные генерации у всех нейронов уже имеют место, а межнейронных связей еще нет, средний возраст нейронов поддерживается несколько большим чем q^сг. Этот возраст существенно больше критического (см. q^кр на рис. 2.10), и потребление сети велико. Режим спонтанных генераций — это режим роста связей, так как любая пара нейронов, имеющих заготовку связи, будет иногда попадать в группу одновременно генерирующих нейронов.

Пусть установился режим спонтанных генераций. Растут возбуждающие связи. Появляется фактор взаимопомощи в виде возбуждающих потенциалов W⁺. Режим остается, по существу, тем же, но он уже не вполне спонтанный: благодаря W⁺ генерация: в среднем начинается раньше и продолжается дольше, что делает процесс роста связей самоускоряющимся. Этот режим, характеризуемый периодическими сериями низкочастотной генерации всех нейронов множества и ростом возбуждающих связей, представляет собой первую фазу самоорганизации нейронной сети.

Переход ко второй фазе определяется переходом какого-либо из нейронов в режим высокочастотной генерации (преодоление порога рефрактер-ности) за счет очередного увеличения одной из связей на этот нейрон. Благодаря форме зависимости П^д(t ) при U^м>U₃^м (см. рис. 3.1) частота генерации нейрона сразу увеличивается в несколько раз и существенно увеличивается его помощь другим нейронам, имеющим от него связи. Некоторые из нейронов, получивших эту дополнительную помощь, также преодолевают порог рефрактерности. В результате развивается взрывной процесс — взрыв активности. Возраст нейронов быстро снижается, и для некоторых пар нейронов возникают условия трансформации связи из возбуждающей в тормозную (см. разд. 2.15). Появление фактора W^-, существенное снижение возраста нейронов и значительное повышение статических порогов приводят к прекращению генерации сначала у нескольких нейронов, а затем благодаря уменьшению W⁺ и у всех. Таким образом, вторая фаза самоорганизации сети характеризуется самозапирающимися, достаточно глобальными, высокочастотными генерациями и длительными интервалами "молчания" на время старения. При этом постепенно, раз от раза увеличивается число тормозных связей — возникает и усиливается фактор альтернативности, выражающийся во взаимном запирании нейронных групп. Размер групп, в пределах которых нет тормозных связей, уменьшается. Благодаря тормозным связям между группами группы организуют "очередь". Группы работают, т.е. проходят режим высокочастотной генерации (функциональные обновления), поочередно: работающая притормаживает следующую за ней по фазе (по подготовленности нейронов к генерации, что будет понятнее в разд. 3.3). Когда очередь окажется замкнутой, то это будет означать, что впервые в жизни автомата у него организовался "сон" — режим устойчивой ритмической активности.

Третья и последняя фазы самоорганизации сети — это ее "доводка" до состояния, когда новые тормозные связи уже не могут образоваться. После завершения самоорганизации появление новых тормозных связей возможно лишь при чрезвычайных обстоятельствах (как реакция на очень сильную "боль"). Трансформация возбуждающей связи в тормозную определяется условием (2.19), в которое входит требование малого возраста нейрона (q»q₀) и требование его высокочастотной генерации (_in»n_opt). Естественное завершение самоорганизации определяется тем, что после того как некоторое количество тормозных связей уже появилось, появление новых тормозных связей уменьшает вероятность образования последующих, и так, пока она не станет исчезающе малой. От количества тормозных связей зависит количество групп взаимопомощи и их размер — чем больше связей, тем будут меньше группы, так как внутри группы тормозных связей быть не может. Но чем меньше размер группы, тем меньше взаимопомощь внутри группы (в предположении, что значения r⁺ более или менее застабилизированы), и при каком-то количестве тормозных связей при возрасте нейронов, близком к q₀, частота генерации сможет быть лишь близкой к минимальной. Это и будет причиной для прекращения образования новых тормозных связей — самоорганизация завершилась.