Жанр: Электронное издание
125_44
...", а с
изучением физических структур и нейродинамических принципов, которые
лежат в основе "естественного интеллекта". Персептрон является прежде
всего и главным образом моделью мозга, а не устройством для распоз
навания образов. Его использование в качестве модели мозга позволяет
определить физические условия образования различных физиологических
свойств" [17, с. 18]. Персептрон - типичный пример двойственности кибер
нетического исследования, которое часто трактуется как конструирование
некоторого инженерного устройства, будучи по замыслу созданием модели
естественного объекта.
Доклад Розенблатта на симпозиуме 1961 г. о персептроне, обретающем
"органы чувств", .вызвал у английского кибернетика Г. Ласка ассоциацию
с проблемами эмбриологии: "Как эмбрион, развивающийся под действием
количественно определенного градиента и фиксированного закона эво
люции, внезапно претерпевает качественные изменения?" [15, с. 489]. Эта
аналогия возвращает нас к цитированному выше примеру о "нервной
системе эмбриона, чьи клетки вначале почти не воздействуют друг на
друга, а затем соединяются в систему", который привел Эшби, иллюст
рируя понятие. "самосвязующейся" системы. Следуя его классификации,
системы Фэрли-Кларка и Розенблатта следовало бы отнести к самоорганизующимся
системам первого типа.
Вернемся, однако, к модели Маккалока-Питтса как точке приложения
133
конструктивной критики. Помимо фиксированности структуры, о которой
говорилось выше, критике подвергалась и фиксированность поведения,
характерная для этой модели* Биологи отмечали, что живые организмы
совершенствуют свое поведение, обучаясь на опыте. Инженеры, со своей
стороны, констатировали, что в этой модели для небольшого изменения
поведения необходим синтез заново всей сети. Требовалась модель
гибкого, изменчивого поведения. Поэтому была выдвинута концепция
"машинного обучения", т.е. выработки приемлемого поведения на основе
прошлого опыта. Эту точку зрения развивал тот же Ф. Розенблатт:
"Многие обсуждавшиеся здесь модели касаются вопроса о том, какую
логическую структуру должна иметь система, чтобы обладать некоторым
свойством X. Вопрос можно поставить и по-другому: какого рода система
может развить свойство X" [18, с. 471]. Эту методологическую посылку
Маккалок не принял. Его по-прежнему интересовало "конструирование
моделей работы нервной системы, а не моделей пути ее прихода к
данному состоянию" [40, р. 49]. Розенблатт же конструировал персептрон
именно как обучающуюся машину: "В каждом случае объектом анализа
является экспериментальная система, включающая в себя персептрон,
определенную окружающую среду и процедуру обучения или внешнюю
обучающую систему" [17, с. 41].
Обучение подразумевает совершенствование поведения, его лучшую
организацию. Этот процесс совпадает с "самоорганизацией второго типа"
по классификации Эшби. Значит, персептрон Розенблатта следует отнести
к самоорганизующимся системам второго, ,а не первого типа? Пара
доксальность ситуации усугубляется, когда 'ко второму типу начинает
тяготеть и система Фэрли-Кларка. Фэрлй тоже описывает ее как
обучающуюся машину: "Изолировав систему, мы подавали на ее вход
какой-либо тест и отмечали каким-либо произвольным образом ее выход.
Затем мы предоставляли ей возможность приобрести некоторый
определенный опыт, снова испытывали ее ljl смотрели, не улучшились ли
показатели выхода. И если это имело место, то мы говорили, что система
является самоорганизующейся... это - модель обучения" [19, с. 204].
На наш взгляд, парадокс разрешается,* если считать, что Эшби клас
сифицирует лишь значения термина "самоорганизация", но не различные
типы самоорганизующихся систем. Дрло в том, что одна самоорг
анизующаяся система может демонстрирЬвать самоорганизацию в разных
смыслах. Так и произошло в моделях Фэрли-Кларка и Розенблатта. В них
самоорганизация на уровне поведения ("обучение") достигается с
помощью внутреннего механизма самоу*орядочения.
Сложилась модель, которую мы буд*м называть "кибернетическим ме
ханизмом самоорганизации". Перех* от случайной, неупорядоченной
структуры системы к упорядоченной/происходит за счет направленного
изменения связей между элементами. Направление задает специальный
управляющий орган - модификатор/связей у Фэрли-Кларка или система
управления поощрением у Розекблатта. Сам управляющий орган
получает необходимую информацию по традиционному кибернетическому
каналу обратной связи. Именно внесение этого органа снаружи внутрь
системы делает ее самоорганизующейся (Маккей: ""само" - означает
лишь "не другим"" [41, р. 38]). Тем самым система становится иерархичес
кой. Брайнес и Свечинский отмечали, что кибернетическая "самоорганизующ
аяся система содержит по крайней мере два уровня. Один из них
реализует собственно алгоритм функционирования, а второй вносит в этот
алгоритм коррективы в соответствии с сигналами обратной связи о
результате воздействия" [3, с. 25]. В то же время перестройка внутренней
структуры улучшает и поведение системы (так как управляется отри
цательной обратной связью). "Изнутри" такая система выглядит самосвязующейся,
"извне" - обучающейся.
Итак, суммируем кибернетические представления о самоорганизации.
Этот термин употребляется в двух основных значениях:
1 - самоорганизация как самостоятельное повышение организованности
системы: описывает изменение внутренних связей системы; оценивается в
шкале "низкая - высокая организованность" независимо (в общем случае)
от внешних критериев; синоним "самоупорядочения". Присуща самосвязующимся
системам.
2 - самоорганизация как самостоятельное улучшение организации сис
темы: описывает изменение внешних связей системы (со средой), ее пове
дения; оценивается в шкале "плохая - хорошая организация" независимо
(в общем случае) от внутреннего механизма ее достижения; синоним "са
мообучения". Присуща обучающимся системам.
Соответственно возможны три типа самоорганизующихся систем:
1 - обучающиеся, но не самосвязующиеся (гомеостат Эшби),
2 - обучающиеся и самосвязующиеся (система Фарли-Кларка, переелтрон
Розенблатта). Именно они реализуют кибернетический механизм
самоорганизации,
3 - самосвязующиеся, но не обучающиеся. Это "неклассические" кибер
нетические системы. Мы рассмотрим их несколько позднее, нарушив
исторический порядок в угоду логическому.
Кибернетическое обучение путем самоорганизации случайных нейронаподобных
сетей было в 50-е годы очень популярно. Этой теорией увлекся,
заканчивая Гарвардский университет, и М. Минский, будущий крупней
ший ученый в области НИ. Он пытался построить обучающуюся машину
из 400 вакуумных трубок, выполнявших функцию элементов МаккалокаПиттс
а. Машина была призвана смоделировать поведение в лабиринте
четырех крыс, обучающихся избегать встреч друг с другом. Ученую
степень Минский получил, но машина так и не заработала. Причину этого
он видел в принципиальной слабости подхода "случайных сетей" и потра
тил позднее немало усилий на его развенчание. В 1969 г. совместно с
С. Пейпертом он написал книгу (см. (11)], в которой доказывал огра
ниченность возможностей устройств, подобных персептрону, предло
женному Розенблаттом (кстати, его бывшим соучеником по Высшей
научной школе в Бронксе). Один из главных недостатков таких устройств
состоял в том, что, отличая букву А от В, они не могли узнать эти
символы в комбинации ВА, считая ее новой, неизвестной буквой. "Я не
хотел заниматься тем, что не работало", - сказал Минский [цит. по (39,
р. 86)] и, как примерный ученый, отказывающийся от бесплодного направ
ления, перешел к исследованиям по НИ.
Самоорганизующнеся системы искусственного интеллекта
НИ как исследовательская область возник в середине 50-х годов. Его
целью было провозглашено создание машин, способных выполнять интел
лектуальные функции. При этом специалисты по НИ открыто про
тивопоставили свой подход кибернетике, в частности "самборганизующимся
системам". Они отказались от кибернетического моделирования
нейронной активности мозга, избрав путь моделирования интеллекта на
компьютерах, обрабатывающих символьную информацию. Человеком
ашинная параллель, проводимая кибернетикой на физиологическом
(аппаратном) уровне, была перенесена в НИ на символьный уровень. Об
этом метко сказал Минский: "Мне потребовалось много времени, чтобы
перейти от попыток понять, как работает мозг, к пониманию того, что он
делает" faro, по (Там же, с. 84)].
Отказ от моделирования случайных нейроноподобных сетей повлек за
собой забвение кибернетического механизма самоорганизации. В НИ соз
давалось немало обучающихся систем, но их уже не называли самоорг
анизующимися.
Если в раннем НИ и использовалась терминология "самоорганизующихся
систем", то весьма своеобразным образом. На конференции
1959 г. был представлен доклад видных исследователей НИ А. Ньюэлла,
Дж. Шоу и Г. Саймона (см. (12)]. Они создали компьютерную программу
ОРП ("Общий Решатель Проблем"), предназначенную для решения
произвольных интеллектуальных задач, представленных в специальной
форме (в виде поиска перехода от начального выражения к целевому
конечному выражению при заданных правилах уменьшения отдельных
различий между выражениями). Авторы считали, что "поскольку ОРП
претендует на разрешение широкого класса задач, вероятно, возможно
сделать ОРП программой ее собственного обучения" (Там же, с. 214].
Задачу улучшения работы некоторых частей ОРП им действительно
удалось записать в требуемой форме, т.е. система могла как бы
совершенствовать сама себя. Авторы назвали это "самоорганизацией":
"Идея использования той же "интеллектуальной" программы и для
собственного обслуживания опирается на глубоко укорененные пред
ставления о "самообращенном" характере явления самоорганизации" (Там
же, с 237]. Здесь заявлено новое, третье понимание самоорганиза
ции - как самообращенности, направленности деятельности всей системы
на себя же (в отличие от кибернетического механизма, где одна часть сис
темы организует другую). Однако, на наш взгляд, пример, приведенный
Ныоэллом, Шоу и Саймоном, как раз не демонстрирует явления "самообр
ащенности". В данном случае одна-система ОРП улучшает другую
систему ОРИ, но отнюдь не саму себя. Она "работает" с ней, как с "дру
гой", как с посторонней задачей. Изначальная тождественность орга
низующего и организуемого никак не используется. В дальнейшем этот
замысел так и не был реализован, и идея "самоорганизации как самообр
ащенности" осталась на время забытой.
В НИ при создании "разумных" машин в них, как правило, заклады
вались сложные интеллектуальные процедуры. Но были и исключения,
когда задача "вразумления" машины возлагалась на нее саму, а не на
человека-программиста. Такие машины должны были самостоятельно
эволюционировать от неинтеллектуального поведения к интеллектуаль
ному. Одна из первых попыток такого рода принадлежала американскому
ученому Р. Фридбергу 1см. (33, 34)]. Его "Обучающаяся машина" должна
была научаться решать задачи без предварительного объяснения, как это
сделать. Фридберг писал: "Если машине не говорится, как делать нечто,
то надо по крайней мере указать, что надо делать, иначе мы не сможем
сконцентрировать усилия на определенной проблеме. Но не видно способа
сказать что, не говоря как, кроме как позволив машине вырабатывать
процедуры случайным образом (или с помощью некоторой неинтел
лектуальной системы) и сообщая ей постоянно, делает ли она то, что
требуется, или нет" [33, р. 2].
Здесь кибернетическое обучение опирается на новый механизм -
случайную генерацию состояний системы. "Обучающаяся машина"
предназначалась для автоматического составления вычислительных ком
пьютерных программ. Она начинала с произвольной последовательности
команд, применявшейся к исходным данным. Далее система двигалась по
градиенту, выбирая направление в зависимости от близости полученного
результата вычисления к требуемому. На каждом шаге в последо
вательности изменялась одна команда (аналог мутации в генетике). Если
результат был благоприятным, это изменение закреплялось и происходила
"мутация" другой команды, в противном случае - возврат на шаг назад. В
отличие от кибернетического обучения путем поощрений и наказаний,
напоминающего онтогенез, Фридберг использовал скорее "филогене
тическую" процедуру, включающую мутации и отбор по результатам
деятельности. Неудачная последовательность команд "погибала", а
"выжившая" давала мутированное "потомство". Однако, Фридберга по
стигла неудача: эволюция шла медленно и неэффективно, к тому же
выяснилось, что наследование свойств "родителей" вообще не имеет
смысла, так как чисто случайный поиск из того же исходного состояния
дает требуемый результат в 1000 раз быстрее!
Тем не менее идея эволюционного пути к НИ развивалась и далее в
работах Л. Фогеля с соавторами [см. (20)]. Традиционные подходы к
проблеме создания НИ основывались на моделировании человеческого
мышления, на подражании "наиболее разумному существу". Фогель
считал эту точку зрения слишком эгоцентричной: "Хотя человек,
безусловно, разумное создание, яет оснований полагать, что он наиболее
интеллектуальное существо, которое вообще возможно. Эксперимент
природы продолжается, и ввиду ее прежних успехов в создании существ
последовательно все более высокой интеллектуальности кажется вполне
разумным предположить, что некоторые будущие существа будут
обладать значительно большим интеллектом, чем современный человек.
В этом свете было бы, пожалуй, полезным заменить процесс моде
лирования человека моделированием процесса его эволюции" ртам же,
с. 28]. Реализация подхода "эволюционного моделирования", полагал
Фогель, позволила бы создать машины, не воспроизводящие, а
превосходящие мышление человека. Система Фогеля имитировала эволю137
цию конечных автоматов (математических объектов с конечным числом
возможных состояний, входов и выходов, изображаемых обычно в виде
графа - множества вершин, соединенных стрелками). "Мутации" пред
ставляли собой изменения направления стрелок, добавление новых вер
шин и т.п., а отбор "потомков" осуществлялся по результатам предска
зания конечным автоматом очередного входного символа. Недостатки у
этой системы оказались те же: подъем по градиенту путем случайных
мутаций был слишком медленным, застревающим на локальных мак
симумах.
Эволюционный подход прямо не связывался его адептами с тематикой
самоорганизации, но имеет к ней, на наш взгляд, непосредственное
отношение. Он возник как важная альтернатива кибернетическому меха
низму самоорганизации, предусматривавшему направленное изменение
внутренней структуры с помощью специального организующего звена,
входящего в систему. В эволюционной модели такое звено отсутствует,
изменения структуры случайны. С одной стороны, такой шаг резко снизил
эффективность обучения и обрек это направление на неудачу, с другой
же - послужил толчком к поиску иных, отличных от кибернетического,
механизмов самоорганизации.
Среди тех, кто безуспешно пытэлся в начале 70-х годов применить
эволюционный подход к автоматическому программированию, был и
американский исследователь Д. Лопат. Использование процедуры случай
ных мутаций с последующим отбором наилучшие потомков в качестве
родителей для следующего поколения Ленат назвал "парадигмой слабого
генератора и строгого теста" [37, р. 286]. Вначале, вслед за Фридбергом и
Фогелем, он считал, что добьется успеха с помощью случайных мутаций.
"Эта гипотеза была простой, элегантной, эстетичной и неверной" (Там
же]. Время, необходимое для синтеза или модификации компьютерной
программы эволюционным методом, росло экспоненциально с ее длиной,
что вскоре вело к комбинаторному взрыву. Кроме этого "материального"
фактора, сказывался еще и "моральный" - эволюция оказалась не лучше
простой схемы случайного поиска.
Альтернативой, предложенной Ленатом, оказался механизм неслучай
ных мутаций, включенный в процедуру "полезной генерации и проверки".
Вместо кибернетической машины, подобной "чистой доске", начинающей с
нуля. Лопат создал систему, которая уже многое "знала". Она владела
правилами, как делать открытия, и правилами, как открывать новые
правила, как делать открытия. Задуманная в 1976 г. как развитие ранней
системы AM, программа "Эвриско" заработала в начале 80-х. Она
содержала исходный набор базисных понятий (заимствованных из работ
Ж. Пиаже) и правила-эвристики (вида "Если условие ТО действие" со
сложной структурой), способные изменять старые и порождать новые
понятия. Приведем простую эвристику: "Если у понятия мало примеров,
то обобщить его". Другие эвристики управляют специализацией понятий,
их композицией, порождением по аналогии и т.д.
Центральным моментом в системе Лопата является формулировка
самих эвристик в виде понятий. Это позволяет применять эвристики к
эвристикам, т.е. заставить эволюционировать саму процедуру эволюции,
достигая тем самым "полезной генерации". Способы направленного
"мутарования" эвристик многообразны: изменение условий или действий
путем вариации логических связок (замена конъюнкции на дизъюнкцию
вызывает обобщение), добавление новых условий или действий,
заимствованных у других эвристик, и т.п. При этом эвристики, при
меняемые к эвристикам ("метаэвристики"), ничем не отличаются от
эвристик, действующих на обыкновенные понятия (в то время как в
экспертных системах, активно развиваемых в НИ, предметные правила
строго отделены от метаправил). В "Эвриско", замечает Лопат, "нет
необходимости отличать метаэвристики от просто эвристик" [36, р. 226].
В этой ситуации каждая эвристика потенциально может воздействовать
на любое понятие (включая любую эвристику) и, следовательно, на всю
систему в целом. Иногда это приводило к трагикомичным случаям.
Однажды появилась одна эвристика, которая посоветовала просто
уничтожить все эвристики, ранее синтезированные системой. К счастью,
она погибла одной из первых, так что вопрос решился сам собой.
С появлением "Эвриско" в НИ после многолетнего перерыва возроди
лась тематика самооргзнизации. Ленат писал, что "парадигма, лежащая в
основе программ AM и "Эвриско", может рассматриваться как новое
поколение персептронов, базирующихся на собраниях или объединениях
развивающихся, самоорганизующихся, символических структур знания. В
классических персептронах все знания должны были быть закодированы в
виде топологических сетей связанных нейронов со взвешенными связями.
Схема представления, используемая в "Эвриско", обеспечивает гораздо
более мощные связи, принимающие форму эвристик для понятий,
включая и эвристики, указывающие, как использовать и развивать
эвристики. Оба типа персептронов опираются на закон больших чисел, на
локально-глобальное свойство достижения адекватного поведения через
взаимодействие большого количества небольших, относительно простых
частей" [38, р. 292].
Лопат, по сути дела, предложил новый механизм самоорганизации. В
устройствах типа персептрона или эволюционных моделях элементы
системы остаются пассивными, ее структура изменяется внутренним
управляющим органом либо случайным образом. В системе "Двриско",
напротив, каждый элемента любая эвристика является потенчиальным
источником активности. Она может воздействовать на любую другую
эвристику и вследствие этого получать обратное воздействие. Связи
между элементами 'носят самообращенный характер. В отличие от
описанной выше системы Ньюэлла, Шоу и Саймона, которая была
целиком "обращена", на себя как целое, "Эвриско" переводит самообр
ащенность на уровень взаимодействия своих элементов.
В то же время "Эвриско" была обучающейся системой. Она исполь
зовала результаты пробных игр для увеличения ценности удачно прора
ботавших эвристик и снижения ценности-бесполемья и "вредных". "Эвриско"
сочетала в своей работе кибернетическое обучение с новым внут
ренним механизмом самоорганизации - назовем его "синергическим" (ис
точник силы своей програмы Ленат видел в синергическом взаимодействии
эвристик, превышающем эффект их простой суперпозиции) [36,
р. 218]. "Эврис*о" продемонстрировала свою эффективность, открыв ряд
новых понятий в разных областях и победив на двух национальных
чемпионатах США по очень популярной среди американцев игре
"Морская эскадра за три миллиарда".
"Эвриско" развивалась, самостоятельно производя все новые и новые
структуры, и лишь практическая направленность работы заставляла
Легата отбирать из этих структур те, что вели к цели. Эта цель была
целью Дугласа Лопата, но не системы "Эвриско": синергический механизм
самоорганизации направляется не целью, а локальными взаимодействиями
элементов, соединенных самообращенными связями.
Неклассический кнбернетическиА подход"
В рамках кибернетики развивалось и неклассическое направление
изучения самоорганизующихся систем, предложившее механизм самоорга
низации, близкий скорее к синергическому, чем к классическому кибер
нетическому. Как ни парадоксально это звучит, но во второй половине
50-х годов таким "неклассиком" стал именно основатель кибернетики
Норберт Винер. Эволюция его взглядов произошла в период от первого
(1948) до второго (1961), дополненного издания "Кибернетики". Он
обнаружил, что "простые линейные обратные связи, изучение которых
сыграло такую большую роль в пробуждении интереса ученых к
кибернетическим исследованиям, оказываются совсем не такими простыми
и линейными, как представлялось сначала" [5, с. 30]. Ранее на изучение
нелинейных цепей распространялись линейные понятия прежней электро
техники: "...обычный способ подхода к нелинейным устройствам состоял в
том, что искалось расширенное понятие импеданса, которое охватывало
бы как линейные, так и нелинейные системы. В результате нелинейная
электротехника пришла в состояние, подобное состоянию Птолемеевой
системы астрономии в последний период ее существования, когда
нагромождали эпицикл на эпицикл, поправку на поправку, пока все это
латаное сооружение не рухнуло под собственной тяжестью" (Там же].
Пользуясь терминологией И. Лакатоса (см. (9)], можно сказать, что
старая научно-исследовательская-программа выставила "защитный пояс",
который, однако, не спас ее от регресса, и Винер предложил новую: "В
этом направлении я даю скорее программу, чем законченное исследо
вание, но программу, на которую я возлагаю большие надежды" [5, с. 39].
К тому времени интересы Винера "все более сосредоточивались вокруг
изучения ритмических процессов в живых организмах, порождаемых
реакцией таких организмов, обыкновенно нелинейной, на случайные
входы" [6, с. 18]. Исследуя электроэнцефалограммы человеческого моз
га, он обнаружил в центре альфа-ритма узкую и резкую полосу
возбуждения с характерным распределением частот. Механизм такой
"самоорганизации мозговых волн" он увидел в нелинейном взаимодействии
*См. также статью В.Кроиа, Г. Кюпперса и Р. Паслака в настоящем сборнике.
внутренних генераторов, создающем притяжение частот (см. X дополни
тельную главу "Мозговые волны и самоорганизующиеся системы" второго
издания "Кибернетики" [см. (5)]).
Подобный механизм Винер качественно описал при разборе другого
примера в статье 1958 г.: "...при образовании сосудистой системы заро
дыша позвоночного образуются определенные сократительные клетки,
которые вскоре уже составляют сердце с регулярным биением. Каким
образом эти клетки вовлекаются в согласованное действие?
Я представил себе ситуацию, при которой эти клетки исполняют как
органы информации двоякую роль. С одной стороны, они вырабатывают
электрические импульсы, способные воздействовать на другие подобные
клетки. С другой - они принимают такие импульсы, и их деятельность
изменяется вследствие этого приема. Если бы отношения между этими
органами как передатчиками и как приемниками были линейными, то
такие органы не могли бы изменять частоту колебаний друг у друга. Если,
однако, имеет место тенденция ко взаимодействию частот двух коле
блющихся элементов, будь то взаимное притяжение частот или, может
быть, их взаимное отталкивание, то появляется возможность организации.
Такая система, по мере *ого как она приобретает все больший и больший
синхронизм, будет испускать импульсы, имеющие все большую и боль
шую тенденцию синхронизировать осцилляторы, еще не вовлеченные в
пульсацию, пока, наконец, благодаря массовому действию они не составят
один пульсирующий орган" [6, с. 21-22].
У Винера, как и в описанном выше синергическом механизме самоор
ганизации, самообращенный характер связи элементов системы стано
вится источником их согласованного действия. Он даже использует тот же
термин: "...реакция нелинейной системы на случайные входы дает нам
ключ к способности физиологических процессов организовываться в
определенную синергическую деятельность" (Там же, с. 19-20].
Явление самоорганизации Винер иллюстрировал и на примерах, не
связанных с живыми организмами. Он описал притяжение частот гене
раторов переменного тока, присоединенных параллельно к одной сборной
шине: "В этом случае генераторы, стремящиеся вращаться быстро или с
опережением фазы, будут нести большую нагрузку, чем нормальные, а
вращающиеся медленно или с отставанием фазы - меньшую. Резуль
татом будет ускорение медленных членов и замедление быстрых. Если
даже ускорение и замедление отдельных членов регулируется приданными
им специальными регуляторами, то вся система в целом будет содержать
скрытый регулятор, более сильный, нежели любой из инидивидуальных
регуляторов. Интересно отметить, что этот скрытый регулятор распре
делен по всей системе и не может быть локализован ни в одной ее части.
Это наводит на мысль, что во многих проблемах, и в частности в случае
головного мозга, мы были, по-видимому, чрезмерно склонны предполагать
резкую локализацию функций" (Там же, с. 22].
"Неклассические" идеи Винера, однако, увлекли лишь малую часть
кибернетического научного сообщества. Г. Ласк представлял элементы
"абстрактной самоорганизующейся системы" в в
Закладка в соц.сетях
