Жанр: Учеба
Нейрокомпьютерная техника: Теория и практика
...збуждения (как требует правило двух третей). В результате любая
компонента вектора X, равная единице, обеспечивает второй единичный вход,
тем самым заставляя соответствующий нейрон слоя сравнения возбуждаться и
устанавливая его выход в единицу. Таким образом, в этот момент времени
вектор С идентичен вектору X.
Как обсуждалось ранее, распознавание реализуется вычислением свертки для
каждого нейрона слоя распознавания, определяемой следующим выражением: NETj
= (Bj C), (8.3)
где Вj - весовой вектор, соответствующий нейрону j в слое распознавания;
С - выходной вектор нейронов слоя сравнения; в этот момент С равно X; NETj -
возбуждение нейрона j в слое распознавания.
F является пороговой функцией, определяемой следующим образом: OUTj = 1,
если NETj>T, (8.4) OUTj = 0 в противном случае,
где Т представляет собой порог.
Принято, что латеральное торможение существует, но игнорируется здесь для
сохранения простоты выражении. Оно обеспечивает тот факт, что только нейрон
с максимальным значением NET будет иметь выход, равный единице; все
остальные нейроны будут иметь нулевой выход. Можно рассмотреть системы, в
которых в распознающем слое возбуждаются несколько нейронов в каждый момент
времени, однако это выходит за рамки данной работы.
Сравнение. На этой фазе сигнал обратной связи от слоя распознавания
устанавливает G1 в нуль; правило двух третей позволяет возбуждаться только
тем нейронам, которые имеют равные единице соответствующие компоненты
векторов Р и X.
Блок сброса сравнивает вектор С и входной вектор X, вырабатывая сигнал
сброса, когда их сходство S ниже порога сходства. Вычисление этого сходства
упрощается тем обстоятельством, что оба вектора являются двоичными (все
элементы либо 0, либо 1). Следующая процедура проводит требуемое вычисление
сходства:
1. Вычислить D - количество единиц в векторе X.
2. Вычислить N - количество единиц в векторе С.
Затем вычислить сходство S следующим образом: S=N/D. (8.5)
Например, примем, что Х = 1 0 1 1 1 0 1 D = 5 С = 0 0 1 1 1 0 1 N = 4
S=N/D=0,8
S может изменяться от 1 (наилучшее соответствие) до 0 (наихудшее
соответствие).
Заметим, что правило двух третей делает С логическим произведением
входного вектора Х и вектора Р. Однако Р равен Тj, весовому вектору
выигравшего соревнование нейрона. Таким образом, D может быть определено как
количество единиц в логическом произведении векторов Тj и X.
Поиск. Если сходство .S выигравшего нейрона превышает параметр сходства,
поиск не требуется. Однако если сеть предварительно была обучена, появление
на входе вектора, не идентичного ни одному из предъявленных ранее, может
возбудить в слое распознавания нейрон со сходством ниже требуемого уровня. В
соответствии с алгоритмом обучения возможно, что другой нейрон в слое
распознавания будет обеспечивать более хорошее соответствие, превышая
требуемый уровень сходства несмотря на то, что свертка между его весовым
вектором и входным вектором может иметь меньшее значение. Пример такой
ситуации показан ниже.
Если сходство ниже требуемого уровня, запомненные образы могут быть
просмотрены с целью поиска, наиболее соответствующего входному вектору
образа. Если такой образ отсутствует, вводится новый несвязанный нейрон,
который в дальнейшем будет обучен. Для инициализации поиска сигнал сброса
тормозит возбужденный нейрон в слое распознавания на время проведения
поиска, сигнал G1 устанавливается в единицу и другой нейрон в слое
распознавания выигрывает соревнование. Его запомненный образ затем
проверяется на сходство и процесс повторяется до тех пор, пока конкуренцию
не выиграет нейрон из слоя распознавания со сходством, большим требуемого
уровня (успешный поиск), либо пока все связанные нейроны не будут проверены
и заторможены (неудачный поиск).
Неудачный поиск будет автоматически завершаться на несвязанном нейроне,
так как его веса все равны единице, своему начальному значению. Поэтому
правило двух третей приведет к идентичности вектора С входному вектору X,
сходство S примет значение единицы и критерий сходства будет удовлетворен.
Обучение. Обучение представляет собой процесс, в котором набор входных
векторов подается последовательно на вход сети и веса сети изменяются при
этом таким образом, чтобы сходные векторы активизировали соответствующие
нейроны. Заметим, что это - неуправляемое обучение, нет учителя и нет
целевого вектора, определяющего требуемый ответ.
В работе [2] различают два вида обучения: медленное и быстрое. При
медленном обучении входной вектор предъявляется настолько кратковременно,
что веса сети не имеют достаточного времени для достижения своих
ассимптотических значений в результате одного предъявления. В этом случае
значения весов будут определяться скорее статистическими характеристиками
входных векторов, чем характеристиками какого-то одного входного вектора.
Динамика сети в процессе медленного обучения описывается дифференциальными
уравнениями.
Быстрое обучение является специальным случаем медленного обучения, когда
входной вектор прикладывается на достаточно длительный промежуток времени,
чтобы позволить весам приблизиться к их окончательным значениям. В этом
случае процесс обучения описывается только алгебраическими выражениями.
Кроме того, компоненты весовых векторов Тj принимают двоичные значения, в
отличие от непрерывного диапазона значений, требуемого в случае быстрого
обучения. В данной работе рассматривается только быстрое обучение,
интересующиеся читатели могут найти превосходное описание более общего
случая медленного обучения в работе [2].
Рассмотренный далее обучающий алгоритм используется как в случае
успешного, так и в случае неуспешного поиска.
Пусть вектор весов Вj (связанный с возбужденным нейроном j распознающего
слоя) равен нормализованной величине вектора С. В [2] эти веса вычисляются
следующим образом: (8.6)
где сi - i-я компонента выходного вектора слоя сравнения; j - номер
выигравшего нейрона в слое распознавания; bij - вес связи, соединяющей
нейрон i в слое сравнения с нейроном j в слое распознавания; L - константа >
1 (обычно 2).
Компоненты вектора весов Тj, связанного с новым запомненным вектором,
изменяются таким образом, что они становятся равны соответствующим двоичным
величинам вектора С: tij = сi для всех i, (8.7)
где tij является весом связи между выигравшим нейроном j в слое
распознавания и нейроном i в слое сравнения. ПРИМЕР ОБУЧЕНИЯ СЕТИ APT
В общих чертах сеть обучается посредством изменения весов таким образом,
что предъявление сети входного вектора заставляет сеть активизировать
нейроны в слое распознавания, связанные с сходным запомненным вектором.
Кроме этого, обучение проводится в форме, не разрушающей запомненные ранее
образы, предотвращая тем самым временную нестабильность. Эта задача
управляется на уровне выбора критерия сходства. Новый входной образ (который
сеть не видела раньше) не будет соответствовать запомненным образам с точки
зрения параметра сходства, тем самым формируя новый запоминаемый образ.
Входной образ, в достаточной степени соответствующий одному из запомненных
образов, не будет формировать нового экземпляра, он просто будет
модифицировать тот, на который он похож. Таким образом при соответствующем
выборе критерия сходства предотвращается запоминание ранее изученных образов
и временная нестабильность.
Рис. 8.6. Процесс обучения APT
На рис. 8.6 показан типичный сеанс обучения сети APT. Буквы показаны
состоящими из маленьких квадратов, каждая буква размерностью 8x8. Каждый
квадрат в левой части представляет компоненту вектора Х с единичным
значением, не показанные квадраты являются компонентами с нулевыми
значениями. Буквы справа представляют запомненные образы, каждый является
набором величин компонент вектора Тj.
Вначале на вход заново проинициированной системы подается буква "С". Так
как отсутствуют запомненные образы, фаза поиска заканчивается неуспешно;
новый нейрон выделяется в слое распознавания, и веса Тj устанавливаются
равными соответствующим компонентам входного вектора, при этом веса Вj
представляют масштабированную версию входного вектора.
Далее предъявляется буква "В". Она также вызывает неуспешное окончание
фазы поиска и распределение нового нейрона. Аналогичный процесс повторяется
для буквы "Е". Затем слабо искаженная версия буквы "Е" подается на вход
сети. Она достаточно точно соответствует запомненной букве "Е", чтобы
выдержать проверку на сходство, поэтому используется для обучения сети.
Отсутствующий пиксель в нижней ножке буквы "Е" устанавливает в 0
соответствующую компоненту вектора С, заставляя обучающий алгоритм
установить этот вес запомненного образа в нуль, тем самым воспроизводя
искажения в запомненном образе. Дополнительный изолированный квадрат не
изменяет запомненного образа, так как не соответствует единице в запомненном
образе.
Четвертым символом является буква "Е" с двумя различными искажениями. Она
не соответствует ранее запомненному образу (S меньше чем (), поэтому для ее
запоминания выделяется новый нейрон.
Этот пример иллюстрирует важность выбора корректного значения критерия
сходства. Если значение критерия слишком велико, большинство образов не
будут подтверждать сходство с ранее запомненными и сеть будет выделять новый
нейрон для каждого из них. Это приводит к плохому обобщению в сети, в
результате даже незначительные изменения одного образа будут создавать
отдельные новые категории. Количество категорий увеличивается, все доступные
нейроны распределяются, и способность системы к восприятию новых данных
теряется. Наоборот, если критерий сходства слишком мал, сильно различающиеся
образы будут группироваться вместе, искажая запомненный образ до тех пор,
пока в результате не получится очень малое сходство с одним из них.
К сожалению, отсутствует теоретическое обоснование выбора критерия
сходства, в каждом конкретном случае необходимо решить, какая степень
сходства должна быть принята для отнесения образов к одной категории.
Границы между категориями часто неясны, и решение задачи для большого набора
входных векторов может быть чрезмерно трудным.
В работе [2] предложена процедура с использованием обратной связи для
настройки коэффициента сходства, вносящая, однако, некоторые искажения в
результате классификации как "наказание" за внешнее вмешательство с целью
увеличения коэффициента сходства. Такие системы требуют правил определения,
является ли производимая ими классификация корректной. ХАРАКТЕРИСТИКИ APT
Системы APT имеют ряд важных характеристик, не являющихся очевидными.
Формулы и алгоритмы могут казаться произвольными, в то время как в
действительности они были тщательно отобраны с целью удовлетворения
требований теорем относительно производительности систем APT. В данном
разделе описываются некоторые алгоритмы APT, раскрывающие отдельные вопросы
инициализации и обучения. Инициализация весовых векторов Т
Из ранее рассмотренного примера обучения сети можно было видеть, что
правило двух третей приводит к вычислению вектора С как функции И между
входным вектором Х и выигравшим соревнование запомненным вектором Тj.
Следовательно, любая компонента вектора С будет равна единице в том случае,
если соответствующие компоненты обоих векторов равны единице. После обучения
эти компоненты вектора Тj остаются единичными; все остальные устанавливаются
в нуль.
Это объясняет, почему веса tij должны инициализироваться единичными
значениями. Если бы они были проинициализированы нулевыми значениями, все
компоненты вектора С были бы нулевыми независимо от значений компонент
входного вектора, и обучающий алгоритм предохранял бы веса от изменения их
нулевых значений.
Обучение может рассматриваться как процесс "сокращения" компонент
запомненных векторов, которые не соответствуют входным векторам. Этот
процесс необратим, если вес однажды установлен в нуль, обучающий алгоритм
никогда не восстановит его единичное значение.
Это свойство имеет важное отношение к процессу обучения. Предположим, что
группа точно соответствующих векторов должна быть классифицирована к одной
категории, определяемой возбуждением одного нейрона в слое распознавания.
Если эти вектора последовательно предъявляются сети, при предъявлении
первого будет распределяться нейрон распознающего слоя, его веса будут
обучены с целью соответствия входному вектору. Обучение при предъявлении
остальных векторов будет приводить к обнулению весов в тех позициях, которые
имеют нулевые значения в любом из входных векторов. Таким образом,
запомненный вектор представляет собой логическое пересечение всех обучающих
векторов и может включать существенные характеристики данной категории
весов. Новый вектор, включающий только существенные характеристики, будет
соответствовать этой категории. Таким образом, сеть корректно распознает
образ, никогда не виденный ранее, т. е. реализуется возможность,
напоминающая процесс восприятия человека. Настройка весовых векторов Вj
Выражение, описывающее процесс настройки весов (выражение (8.6) повторено
здесь для справки) является центральным для описания процесса
функционирования сетей APT. (8.6)
Сумма в знаменателе представляет собой количество единиц на выходе слоя
сравнения. Эта величина может быть рассмотрена как "размер" этого вектора. В
такой интерпретации "большие" векторы С производят более маленькие величины
весов bij, чем "маленькие" вектора С. Это свойство самомасштабирования
делает возможным разделение двух векторов в случае, когда один вектор
является поднабором другого; т. е. когда набор единичных компонент одного
вектора составляет подмножество единичных компонент другого.
Чтобы продемонстрировать проблему, возникающую при отсутствии
масштабирования, используемого в выражении (8.6), предположим, что сеть
обучена двум приведенным ниже входным векторам, при этом каждому распределен
нейрон в слое распознавания.
Заметим, что Х1 является поднабором Х2. В отсутствие свойства
масштабирования веса bij и tij получат значения, идентичные значениям
входных векторов. Если начальные значения выбраны равными 1,0, веса образов
будут иметь следующие значения:
Если Х прикладывается повторно, оба нейрона в слое распознавания получают
одинаковые активации; следовательно, нейрон 2, ошибочный нейрон, выиграет
конкуренцию.
Кроме выполнения некорректной классификации, может быть нарушен процесс
обучения. Так как Т2 равно 1 1 1 0 0, только первая единица соответствует
единице входного вектора, и С устанавливается в 1 0 0 0 0, критерий сходства
удовлетворяется и алгоритм обучения устанавливает вторую и третью единицы
векторов Т2 и В2 в нуль, разрушая запомненный образ.
Масштабирование весов bij предотвращает это нежелательное поведение.
Предположим, что в выражении (8.2) используется значение L=2, тем самым
определяя следующую формулу:
Значения векторов будут тогда стремиться к величинам
Подавая на вход сети вектор Х1 , получим возбуждающее воздействие 1,0 для
нейрона 1 в слое распознавания и 1/2 для нейрона 2; таким образом, нейрон 1
(правильный) выиграет соревнование. Аналогично предъявление вектора Х2
вызовет уровень возбуждения 1,0 для нейрона 1 и 3/2 для нейрона 2, тем самым
снова правильно выбирая победителя. Инициализация весов bij
Инициализация весов bij малыми значениями является существенной для
корректного функционирования систем APT. Если они слишком большие, входной
вектора который ранее был запомнен, будет скорее активизировать несвязанный
нейрон, чем ранее обученный. Выражение (8.1), определяющее начальные
значения весов, повторяется здесь для справки ?для всех i, j, (8.1)
Установка этих весов в малые величины гарантирует, что несвязанные
нейроны не будут получать возбуждения большего, чем обученные нейроны в слое
распознавания. Используя предыдущий пример с L=2, т=5 и bij<1/3, произвольно
установим bij=1/6. С такими весами предъявление вектора, которому сеть была
ранее обучена, приведет к более высокому уровню активации для правильно
обученного нейрона в слое распознавания, чем для несвязанного нейрона.
Например, для несвязанного нейрона Х1 будет производить возбуждение 1/6, в
то время как Х2 будет производить возбуждение 1/2; и то и другое ниже
возбуждения для обученных нейронов.
Поиск. Может показаться, что в описанных алгоритмах отсутствует
необходимость наличия фазы поиска за исключением случая, когда для входного
вектора должен быть распределен новый несвязанный нейрон. Это не совсем так;
предъявление входного вектора, сходного, но не абсолютно идентичного одному
из запомненных образов, может при первом испытании не обеспечить выбор
нейрона слоя распознавания с уровнем сходства большим р, хотя такой нейрон
будет существовать.
Как и в предыдущем примере, предположим, что сеть обучается следующим
двум векторам: X1 = 1 0 0 0 0 X2 = 1 1 1 0 0
с векторами весов Вi, обученными следующим образом B1 = 1 0 0 0 0 B2 =
1/2 1/2 1/2 0 0
Теперь приложим входной вектор X3 = 1 1 0 0 0. В этом случае возбуждение
нейрона 1 в слое распознавания будет 1,0, а нейрона 2 только 2/3. Нейрон 1
выйдет победителем (хотя он не лучшим образом соответствует входному
вектору), вектор С получит значение 1 1 0 0 0, S будет равно 1/2. Если
уровень сходства установлен в 3/4, нейрон 1 будет заторможен и нейрон 2
выиграет состязание. С станет равным 1 1 0 0 0, S станет равным 1, критерий
сходства будет удовлетворен и поиск закончится. Теоремы APT
В работе [2] доказаны некоторые теоремы, показывающие характеристики
сетей APT. Четыре результата, приведенные ниже, являются одними из наиболее
важных:
1. После стабилизации процесса обучения предъявление одного из обучающих
векторов (или вектора с существенными характеристиками категории) будет
активизировать требуемый нейрон слоя распознавания без поиска. Эта
характеристика "прямого доступа" определяет быстрый доступ к предварительно
изученным образам.
2. Процесс поиска является устойчивым. После определения выигравшего
нейрона в сети не будет возбуждений других нейронов в результате изменения
векторов выхода слоя сравнения С; только сигнал сброса может вызвать такие
изменения.
3. Процесс обучения является устойчивым. Обучение не будет вызывать
переключения с одного возбужденного нейрона слоя распознавания на другой.
4. Процесс обучения конечен. Любая последовательность произвольных
входных векторов будет производить стабильный набор весов после конечного
количества обучающих серий; повторяющиеся последовательности обучающих
векторов не будут приводить к циклическому изменению весов. ЗАКЛЮЧЕНИЕ
Сети APT являются интересным и важным видом систем. Они способны решить
дилемму стабильности-пластичности и хорошо работают с других точек зрения.
Архитектура APT сконструирована по принципу биологического подобия; это
означает, что ее механизмы во многом соответствуют механизмам мозга (как мы
их понимаем). Однако они могут оказаться не в состоянии моделировать
распределенную память, которую многие рассматривают как важную
характеристику функций мозга. Экземпляры APT представляют собой "бабушкины
узелки"; потеря одного узла разрушает всю память. Память мозга, напротив,
распределена по веществу мозга, запомненные образы могут часто пережить
значительные физические повреждения мозга без полной их потери.
Кажется логичным изучение архитектур, соответствующих нашему пониманию
организации и функций мозга. Человеческий мозг представляет существующее
доказательство того факта, что решение проблемы распознавания образов
возможно. Кажется разумным эмулировать работу мозга, если мы хотим повторить
его работу. Однако контраргументом является история полетов; человек не смог
оторваться от земли до тех пор, пока не перестал имитировать движения
крыльев и полет птиц. Литература
1. Carpenter G., Grossberg S. 1986. Neural dynamics of category learning
and recognition: Attention; memory consolidation and amnesia. In Brain
Structure, Learning and Memory (AAAS Symposium Series), eds. J. Davis., R.
Newburgh and E. Wegman.
2. Carpenter G., Grossberg S. 1987. A massively parallel architecture for
a self-organizing neural pattern recognition machine. Computing Vision.
Graphics, and Image Processing 37:54-115.
3. Carpenter G., Grossberg S. 1987 ART-2: Self-organization of stable
category recognition codes for analog input patterns. Applied Optics
26(23):4919-30.
4. Crossberg S. 1987. Competitive learning: From interactive activation
to adaptive resonanse. Cognitive Science 11:23-63.
5. Lippman R. P. 1987. An introduction to computing with neurals nets.
IEEE Transactions on Acosufics, Speech and Signal Processing, April, pp.
4-22.
Глава 9.
Оптические нейронные сети
Использование и обучение нейронных сетей требует в основном двух типов
операций над данными: вычислений и передачи данных. Вычислительные функции
легко и просто выполняются электронными системами. Элементы интегральных
цепей работают в наносекундных интервалах. Кроме того, они имеют размеры,
измеряемые в микронах, и могут иметь стоимость менее сотой цента за вентиль.
Задачи передачи данных решаются не просто. Электронные сигналы в
интегральных сетях требуют наличия конденсаторов для передачи сигналов от
вентиля к вентилю. Хотя конденсаторы имеют микронные размеры, занимаемое
пространство (с учетом пространства, необходимого для изоляции одного
конденсатора от другого) может стать настолько большим, что на пластине
кремния не останется места для размещения вычислительных цепей. Несмотря на
то, что существует технология реализации обыкновенных цифровых компьютеров в
виде больших функциональных блоков с относительно небольшим количеством
конденсаторов, эта технология не годится в случае массового параллелизма.
Аналогичное решение для искусственных нейронных сетей в настоящее время
неизвестно. Мощность нейронных сетей определяется большим количеством
связей; взятые отдельно элементы имеют относительно малые вычислительные
возможности.
Серьезную проблему представляет достижение требуемой связанности в
электронных цепях. В [10] предполагается, что плотность конденсаторов в
двумерной системе должна уменьшаться обратно пропорционально квадрату
расстояния от нейрона-источника; в противном случае отсутствует возможность
реализации системы в виде интегральных цепей. Это ограничение имеет особое
значение при реализации сетей с полными взаимными связями.
Реализация нейронных сетей в виде оптических систем позволяет решить эту
проблему. Взаимное соединение нейронов с помощью световых лучей не требует
изоляции между сигнальными путями, световые потоки могут проходить один
через другой без взаимного влияния. Более того, сигнальные пути могут быть
расположены в трех измерениях. (Интегральные цепи являются существенно
планарными с некоторой рельефностью, обусловленной множеством слоев.)
Плотность путей передачи ограничена только размерами источников света, их
дивергенцией и размерами детектора. Потенциально эти размеры могут иметь
величину в несколько микрон. Наконец, все сигнальные пути могут работать
одновременно, тем самым обеспечивая огромный темп передачи данных. В
результате система способна обеспечить полный набор связей, работающих со
скоростью света.
Оптические нейронные сети могут также обеспечить важные преимущества при
проведении вычислений. Величина синаптических связей может запоминаться в
голограммах с высокой степенью плотности; некоторые оценки дают
теоретический предел в 1012 бит на кубический сантиметр. Хотя такие значения
на практике не достигнуты, существующий уровень плотности памяти очень
высок. Кроме того, веса могут модифицироваться в процессе работы сети,
образуя полностью адаптивную систему.
Учитывая эти преимущества, можно задать вопрос, почему наряду с
оптическими нейронными сетями вообще рассматриваются другие способы
реализации. К сожалению, возникает множество практических проблем при
попытках оптической реализации нейронных сетей. Оптические устройства имеют
собственные физические характеристики, часто не соответствующие требованиям
искусственных нейронных сетей. Хотя они в действительности пригодны для
обработки изображений, изображения от оптических нейронных сетей, полученные
до настоящего времени, были разочаровывающе плохими. Однако достаточно
взглянуть на первые пробы телевизионных изображений, чтобы понять, какой
огромный прогресс возможен в повышении качества изображения. Несмотря на эти
трудности, а также на такие проблемы, как стоимость, размеры и критичность к
ориентации, потенциальные возможности оптических систем побуждали (и
побуждают) попытки проведения интенсивных и широких исследований. В этой
области происходят стремительные изменения и в ближайшее вре
...Поділитися у соцмережах
