Глава 4. ЭКСПЕРИМЕНТЫ НА МОДЕЛИ

Глава 4. ЭКСПЕРИМЕНТЫ НА МОДЕЛИ

4.1. КРАТКО О МОДЕЛИ

Говоря о модели, мы имеем в виду программную реализацию некоторого множества элементов — нейронов, представляемых текущими значениями ряда переменных, описывающих и выражающих состояние нейронов и величины межнейронных связей.

При выборе и построении модели необходимо было удовлетворить двум требованиям: создаваемая модель должна использовать разумные количества машинного времени и сохранять полноту свойств, предполагаемых общей концепцией. У нейронной системы две группы свойств: свойства энергетического плана и свойства информационного плана, являющиеся следствием при некоторых условиях первых свойств. На одной и той же рабочей программной модели получить сразу те и другие свойства невозможно из-за технических ограничений — не хватит машинной памяти и скорости машины. Поэтому приходится строить рабочие модели двух типов, ориентированные на исследование и демонстрацию отдельно свойств энергетического плана и свойств информационного плана. В этой главе речь идет об энергетических свойствах. Об особенностях рабочей модели, реализующей и показывающей информационные свойства, мы будем говорить в гл. 8. Разница в организации рабочих моделей двух указанных назначений в том, что в первом случае мы строим истинно нейронные модели, представляя каждый нейрон и все его связи индивидуально. Во втором случае у нас единичным элементом модели будет уже не нейрон, а сразу нейронный ансамбль, что позволит за счет некоторого огрубления (более обобщенных представлений) получить экономию машинной памяти и существенно уменьшить требуемое машинное время.

Итак, мы хотим увидеть на работающей модели процесс самоорганизации нейронной массы, направленный на экономию потребляемого нейронами питания, и при этом хотим, чтобы модель работала достаточно быстро. Модель мы строим в виде программы для универсальной ЭВМ, работающей последовательно. Время работы модели зависит от числа нейронов следующим образом:

Т=nТ_N+n²Т_p,

где Т — машинное время, затраченное на реализацию некоторой единицы времени жизни модели (шаг модели); n - количество нейронов в модели; Т_N — машинное время на вычисление новых значений всех переменных для одного нейрона; Т_p — машинное время на вычисление новых значений одной связи и на передачу воздействия по этой связи.

Одна из характеристик модели — связность нейронов, показывающая, сколько связей имеет каждый нейрон. Связность мы определяем не абсолютным числом связей, а отношением числа нейронов модели, на которые есть связь от одного нейрона, к общему числу нейронов модели. Связность выбирается из соображений, которые станут понятны в дальнейшем, и не зависит от n. Таким образом, количество связей от одного нейрона пропорционально числу нейронов, отсюда общее число связей, а значит, и машинное время на их обработку пропорциональны n². Из соображений экономии машинного времени количество нейронов в модели следует стараться делать как можно меньшим. Однако количество нейронов в модели должно удовлетворять и другим требованиям. Согласно нейронной концепции автомата, рассмотренной в предыдущих главах, задача об экономии питания решается, во-первых, путем организации сна и, во-вторых, путем организации системы шумовых генераторов - нейронных ансамблей. Сон, как уже было сказано, — это взаимодействие больших групп взаимопомощи случайного состава. Случайность не абсолютная, а удовлетворяющая условию: внутри группы взаимопомощи не должно быть тормозных связей. Случайность означает перемежающийся состав групп взаимопомощи и обеспечивает перемешивание нейронов и поддержание некоторой гомогенности. Нам надо исключить появление в режиме сна сильных персональных межнейронных связей, способных закрепить состав групп взаимопомощи, или, иначе говоря, нам надо не допустить преждевременного появления конструкций памяти, не являющейся памятью о чем-либо. Из сказанного следует, что величины возбуждающих связей между нейронами, обеспечивающие режим сна, должны быть слабыми (в противоположность этому связи в нейронных ансамблях должны быть сильными, способными закреплять составы нейронов в ансамблях). Необходимость иметь слабые связи означает необходимость иметь большие размеры групп взаимопомощи для режима сна, что и оказывается определяющим в выборе числа нейронов в модели. Из компромисса между требованием концепции — иметь слабые связи — и требованием экономить машинное время мы выбираем размер модели, т.е. количество нейронов в модели.

Отметим основные конструктивные характеристики и некоторые особенности рабочей модели.

1. Количество нейронов - 200.

2. Количество связей от одного нейрона - 50. Из этого числа 6 связей тормозные, а остальные 44 - возбуждающие. Связи распределены случайным образом, и адресация связей не изменяется.

3. Возбуждающие связи изменяются от нуля. Поскольку значительное машинное время расходуется на обработку связей, а связей много (44Ч 200 = 8800), то сделано так, что изменяются "законным образом" только 100 случайно выбранных связей, а для всех остальных принимается значение, равное среднему значению для этих 100 "законных" связей в данный момент времени.

4. Тормозные связи в исходном состоянии модели только размечены, но не "включены". "Включение" каждой связи осуществляется индивидуально при достижении определенного условия. Для связи ^j_ir^- (связь от нейрона j к нейрону i) включение происходит, если значение _iqуже достаточно мало, а нейроны i и j находятся в состоянии генерации. Связь включается, когда нейрон i уже вполне обновился, но благодаря большому возбуждающему потенциалу _iW⁺ продолжает бесполезную генерацию. Значения всех тормозных связей в модели одинаковы, значительны и не изменяются.

5. На долю каждого из нейронов в единицу времени приходится некоторое количество питания, одинаково для всех нейронов, но иногда изменяющееся во времени. Управление количеством поступающего питания осуществляется в модели только за счет событий "размножение" и "смерть" нейронов, которые не происходят реально, но имитируются путем пересчета доли питания, приходящейся на один нейрон. Значения вероятностей для событий "смерть" и "размножение" вычисляются по значениям резервов питания. Погибший нейрон используется как добавочное питание дня оставшихся. При событии "рождение" ("размножение") некоторое количество питания изымается в виде расхода на собственно образование нового нейрона. Это же количество питания вернется в систему при гибели нейрона.

От условий питания зависит самочувствие нейрона, но в данной модели фактор "самочувствие" не будет использован. Роль этого фактора будет продемонстрирована при рассмотрении работы другой модели в гл. 8.

6. Время в модели дискретно, т.е. значения всех переменных, описывающих состояния нейронов и связей, обновляются с некоторым интервалом D t, соответствующим шагу модели. Величина D t принята равной 1. Величина шага модели определяет степень огрубления концептуальной модели при переходе к рабочей модели. Считаем, что интервал времени "единица" соответствует нескольким t ^э, так что для генерирующего нейрона интенсивность генерации будет определяться средним за время шага значением частоты генерации.

7. Минимальная частота генерации принимается равной 1; оптимальная частота принимается равной 4; максимально возможная частота равна 6.

8. Возраст нейрона в модели изменяется в диапазоне 0ё2000. Значение критического возраста принято равным 1000.