Жанр: Журнал
Мегабитовая бомба
... кажется, - но я не в состоянии подкрепить свои слова никаким веским
аргументом или хотя бы его тенью, - что в конце концов будет возможна реализация
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, а не ИСКУССТВЕННОГО РАЗУМА. Я думаю так, потому что
интеллект мне кажется более БЕЗЛИЧНЫМ, то есть лишенным признаков
индивидуальности, чем РАЗУМ. Едва ли не первым математиком, который сумел
результативно и соответствующим образом использовать компьютер в творческой
работе, был Станислав Улам (Stanisіaw Ulam). (Не знаю, была ли издана на
польском языке его книга на эту тему: я читал ее по-русски.) Так вот,
эмоциональной жизни компьютер лишен полностью, но работе математика это не
мешает. Добавлю, что выдающийся немецкий психолог Дитрих Дшрнер (Dietrich
Dљrner) больше года тому назад описывал свою компьютерную программу, которая
должна была быть эмоциосозидательной, "эффективно аффективной", но его выводы не
убедили меня, и что еще хуже - нигде в научной прессе я не нашел ни слова о
таком достижении. Вещью известной и не исключительной является то, что самые
разнообразные, то есть совершаемые в далеких друг от друга областях творческой
мысли достижения, были некоторым образом "подсказаны" сознанию внесознанием,
которое можно было бы отождествлять с результатами действия интуиции. Не будучи
ученым, в своей писательской области могу сказать только следующее: некоторые
мои романы не были в их целостной фабуле написаны мной в том смысле, чтобы я
что-то планировал, осмыслял, схематизировал или хотя бы предвидел, что,
собственно, получится. Тогда откуда "ЭТО" взялось? Ответить напрямую, с полной
уверенностью, что было так и так, я не могу, поскольку сам не знаю, и здесь я
отдан исключительно домыслам (предположениям), что то, что "писалось", вытекало
извне сознания и, конечно же, переходило в поле сознания, потому что я писал не
в гипнотическом состоянии, но "совершенно обычно" видя, что пишу, и вместе с тем
не имея понятия, "что будет", "что произойдет", то есть что я напишу еще. И
таким образом (только весьма относительным), можно признать сознание
главенствующим в умственном труде. Nota bene компьютер в ЭТОМ вопросе не
отличается от работающего мозга ТАК, как prima facie [На первый взгляд (лат.)]
могло бы показаться, потому что и он, выполняя приказы (команды) программы, не
сумел бы "заранее" напечатать, какой будет финал работы: "что из этой программы"
(моделирующей, например) получится. Таким образом, между ним и нами появляются
функциональные "точки соприкосновения", и то, что именно так бывает, вселяет в
меня некоторый оптимизм (касательно AI) относительно будущего. Правда, может
оказаться, что до "искусственно разума" дорога еще длинная. Что опять-таки
связано с моим замечанием, что интеллект интеллектом, а людей глупых по
статистике больше, чем интеллектуальных, а разумных - совсем немного...
* Инфотерроризм
Эссе написано в июне 1997 г.
* 1
В последнем номере журнала "Foreign Affairs" за прошлый год опубликована
статья Уолтера Лаквера (Walter Laquer) "Терроризм постмодерна". Автор предварил
представление этого новейшего вида терроризма кратким перечислением его
исторических разновидностей. Например, он писал об аcсесcинах 1, чьей задачей
было уничтожение крестоносцев. В Польше XIX века во времена восстаний были
"стилетники". Мне не важна здесь мотивация поступков террористов. Достаточно
типичным является деление террористов на тех, кто преследует скорее
политические, чем разрушительные цели, и на "настоящих" террористовпрофессионалов.
К последним в наше время относятся Фракция Красной Армии, Sinn
Fein, баскская ЕТА, арабский Hamas и множество других групп, не столь известных
или почти совсем "угасших", как итальянские или французские ("Prima Linea",
"Action Directe"). Цели группировок, менее или более (Фракция Красной Армии)
связно сформулированные, в основном недостижимы путем покушений на убийства, в
наше время обычно направленные на "кого попало", то есть на каких-нибудь
прохожих, пассажиров метро (в Японии), поезда или автобуса, а не (как в царские
времена) на важных политических персон (включая и самого царя). Чисто
политические мотивы, имеющие место в таких террористических движениях, как Sinn
Fein или Hamas, достаточно легко "отстают" от смертоносной практики, когда речь
идет о добывании средств для борьбы (ограбление банков, хищение оружия,
например, а также выброс на рынок наркотиков - такие операции позволяют получить
много денег). При этом факторы этической природы на всех "фронтах" движения
сильно и противоречиво извращаются: если НЕТ НИКАКИХ ОГРАНИЧЕНИЙ, то нет и
поводов, по которым движение, имеющее в зародыше цель достичь какого-то
"изменения к лучшему", привести к "победе более совершенного строя, чем
существующий сейчас", должно отказываться от похищений, шантажа, нарушения
обещаний и клятв, ибо если "все средства, ведущие к хорошим целям, хороши",
ничто не может удержать от таких действий, которые повсеместно считаются
преступными. В общем-то, ни Лаквер, ни я здесь не собираемся касаться
"этической" стороны терроризма, хотя из других источников известно, что
практически все воюющие стороны злоупотребляют термином "терроризм". Немцы
называли аковцев 2 бандитами, но для поляка тождественность аковца герою
подпольного сопротивления кажется очевидной, а приравнивание бандиту просто
шокирует, как клевета.
* 2
В любом случае, известно и понятно, что терроризм во все времена
использует такие средства, которые имеются в распоряжении для нетеррористических
целей. Поэтому в игре участвуют бомбы, взрывные устройства, управляемые на
расстоянии (по радио) или с часовым механизмом (замедленного действия), а также
террористы-фанатики, готовые умирать со своим взрывоопасным грузом, как японские
камикадзе.
* 3
Страсть к разрушению и уничтожению может приводить к результатам,
противоречащим изначальным причинам действий. Убийство врачей и медсестер,
проводящих аборты, - это не единственный, но типичный пример внутренней
противоречивости, когда убивают, чтобы противостоять убийству. Однако в этих
заметках мне бы хотелось обратиться к возникающему только сейчас виду
терроризма, который не является "силовым", так как его главным оружием считается
информация в ее технологически уже существующем и поэтому доступном виде.
Конкретное действие, поле для которого представляют сети связи, вирусы,
"многоуровневые программы" компьютеров, сами компьютеры, а также различные виды
информации, способно пользу от передачи и преобразования информации превратить в
мусор. О так называемых "логических бомбах" (logic bomb) как кумулятивных
информационных снарядах (а скорее, о взрывообразно уничтожающих информацию) уже
говорится, но об их применении - пока молчат. Хотя известно, что не только
частные банки, но и FED, то есть Федеральный резервный банк (Federal Reserve)
Соединенных Штатов Америки, не спешат с оглашением каких-либо потерь, связанных
с операциями хакеров-террористов, проникающих через "защитные экраны" и "кодовые
фильтры", потому что публикации о подобных грабежах могли бы слишком обеспокоить
людей, по-прежнему верящих в банковских цепных псов.
* 4
Здесь уже границы между "просто терроризмом", мотивированным,
поддерживаемым политически или идеологически, и терроризмом, который может
приобретать характер "криптомилитаристский", "скрытно-военный" и
межгосударственный, постепенно стираются. Сюда же относятся и различные
пограничные области деятельности. Известно, что некоторые государства направляли
большое количество качественно сделанных фальшивых бумажных денег в другие
государства с намерением вызвать инфляцию и экономический кризис. Это, правда,
происходило и происходит помимо сетей, но и это является особой формой
информационной фальсификации, потому что банкнота тоже представляет собой
определенный тип информации: обладающей покупательской силой.
* 5
К теме инфотерроризма относится и разрастающийся шпионаж. Здесь речь идет
о взламывании и расшифровке кодов, которыми могут пользоваться третьи
государства в своем общении: эту сферу тайной деятельности мы уже прошли,
хорошим примером здесь является немецкая Enigma. Кроме того, у тайных работ
появляются шансы на новые результаты, которые могут нанести предполагаемому
противнику или хотя бы промышленному конкуренту самые большие потери. Если
информационному управлению должен быть подвергнут коллектив изобретателей,
неважно чего - ракет или автомобилей, или танков и оборудования к ним, самолетов
или оружия, даже компьютеров, то негласное и тайное вторжение в его
"информационный мозг", отвечающий за проектирование и производство, желательно
вести по всем направлениям. Речь может идти или о перехвате рабочих данных, или
об изменениях, которые трудно обнаружить и проверить таким образом, чтобы в
готовом продукте сразу была видна "ахиллесова пята", место преднамеренного
изменения, которое может дать о себе знать сразу или даже спустя годы по
специально поданному сигналу.
Также возможен перехват информации, например ее просматривание без
внесения каких-либо фальсификаций, только чтобы узнать, чем (как) управляет
вторая (третья) сторона. Кроме того, возможно такое изменение информации, что
адресат получит ее фальсифицированной. Между прочим, сама эта концепция не нова.
Еще в пятидесятые годы "Newsweek" опубликовал фотографию карты СССР с наложенной
на нее красными линиями фотометрической сеткой; из фото было видно, что, пытаясь
(довольно наивно) обмануть американцев, желая свести на нет их методы наводки на
большие, стратегически важные советские объекты, географы СССР создали карту
всей страны с передвинутыми по сравнению с реальными координатами, горными
массивами и городами...
Особая область возможных информационных вторжений располагается уже за
границами земного шара, над атмосферой, там, где обращаются орбитальные корабли
разного калибра. Зная соответствующие коды, противник может этими кораблями
маневрировать по своему усмотрению и даже устроить катастрофу космического
корабля или его падение на Землю в нужном месте.
Чем больше - говоря в общем - увеличивается область информационных атак
дальнего радиуса действия и чем больше эти атаки специализируются, тем больше
вреда можно нанести, профессионально вторгаясь в поток информационных и
управляющих сигналов. Поэтому умело проводимой хирургической операции на другом
полушарии Земли можно придать характер убийства (смертоносный). Можно также
запускать ракеты, если их старт зависит исключительно от системы кодов, которыми
управляют на расстоянии, но не имеющих контроля и опеки со стороны человека.
Можно действовать еще очень многими способами, приносящими вред, но я не хочу,
однако, далее продолжать этот перечень, тем более что уже появляются книги,
имеющие вид "учебников информационного уничтожения". Правда, они не такие
бестселлеры, каковыми оказались несколько книг, посвященных науке самоубийства,
но и так хватает плохого на Земле. Как известно - это утверждение настолько же
общее, насколько и важное, - не существует кода или шифра, способного длительное
время результативно противостоять попыткам взлома. Пожалуй, очевидно, что
террорист или террористическая организация всегда располагают возможностями, как
правило, меньшими, то есть более "слабыми", по сравнению с возможностями,
которые может мобилизовать государство. Но также известно, что ряд правительств
материально, то есть финансово и технически (в том числе и оружием) поддерживает
тех террористов, которые действуют в военно-политических интересах этих
государств, то есть мы имеем дело с поддержкой государством некоторых
террористических начинаний. (Во время Второй мировой войны Германия печатала
фальшивые английские фунты хорошего качества, которые, предположительно, в конце
войны были затоплены в одном из швейцарских озер).
* 6
Вышеизложенные замечания напрямую не следуют из статьи У. Лаквера. Однако
стоит процитировать выводы, которыми он закончил свою статью: "Реакция
государств и обществ интересует террористов меньше, чем обычных преступников и
организованную преступность, чем "взбунтовавшихся" работников больших корпораций
и, конечно, шпионов и вражеские правительства. "Электронные воры", будь то
занимающиеся аферами с кредитными картами или промышленным шпионажем, являются
частью системы: ее уничтожение отняло бы у них доходы... (Добавлю: они - как
паразиты, питающиеся кровью хозяина. - С. Лем. ) У политически мотивированных
террористов (в основном сепаратистов, стремящихся создать собственное
государство) цели ограничены... Однако террористические группы, находящиеся на
грани поражения или увлекающиеся апокалиптическими картинами, могут и не
колеблясь применить деструктивные средства, имеющиеся в их распоряжении.
Все это выводит терроризм за известные до сих пор границы. Для новой
реальности должны быть созданы новые определения и новые названия, а
разведывательные службы и политики должны будут научиться различать основные
типы террористических мотивов, методов и целей... Какая-либо из успешных акций
нового вида терроризма может принести больше жертв, больше материальных потерь и
вызвать больше паники, чем когда-либо мир испытал за свою историю".
Последний абзац с небольшими сокращениями представлен потому, что я уже
наслушался замечаний, что якобы то, что я публикую, отличается особым
"черновидением" и направленным в будущее пессимизмом. Поэтому я захотел дать
слово американскому политологу, дабы избежать очередного обвинения в мрачности,
которая будто бы является моей персональной чертой.
Во врезке приведены фрагменты статьи, опубликованной в польском
еженедельнике "Przekroj", №21/2001
Война хакеров
...Специалисты говорят, что технологически более слабая сторона может
прибегнуть к так называемой асимметричной стратегии. Она основана на нанесении
удара по противнику там, где он более всего уязвим и где его легче ранить.
Точнее, говорят и пишут уже о так называемой информационной войне. Нападения
такого рода осуществляла в небольшом масштабе палестинская сторона, пытаясь
задушить израильские серверы вирусным мусором. Асимметричный информационный удар
может привести к фатальным для жертвы результатам, тем более опасным, чем выше
был уровень компьютеризации управления, а также уровень интернетоподобной связи.
Спутниковая космическая разведка, деятельность крупных промышленных комплексов,
распределение электрических мощностей на территории США, транспорт, судоходство,
а также гражданская промышленность легче всего могут стать жертвами
информационных ударов...
Первые роли в ведении информационной войны должны играть специально
вышколенные стратегические хакеры. На страницах американского "Foreign Affairs"
можно найти статьи, призывающие к созданию негласного информационного фронта в
Штатах. Упущения в этой области, вызванные отсутствием координации действий,
средств и специальных знаний, могут привести, как предостерегают эксперты, к
опасным для Америки результатам. Впрочем, невозможно учесть все методы действия
на этом новом военном фронте, поскольку выявлено еще не все, что осуществляется
в реальности. Трудно сказать, будет ли идти речь о новой бескровной борьбе. Во
всяком случае, молох американской промышленности можно относительно легко
парализовать. Согласно правилам асимметричной стратегии, информационные удары
должны быть нацелены туда, где они могут принести наибольшие разрушения. Следует
добавить, что все средства, которые используются асимметричной стратегией,
являются исключительно дешевыми, зато эффективная защита от вредных воздействий
такого рода - задача трудоемкая, технически сложная и очень дорогостоящая...
Можно допустить, однако, что нависшая над миром опасность информационной
войны не превысит угрозу термоядерной войны, нереальной сейчас, но которая в 50х
годах прошедшего столетия могла уничтожить все человечество. Правда, между
этими опасностями существует большая разница - она состоит в том, что нельзя
"для пробы" сбросить на противника водородную бомбу. Зато первые информационные
атаки могут только создавать видимость ходов, они могут делать противнику "шах",
а не наносить удары, которым уже нельзя противостоять. Сейчас мы еще не знаем,
каким образом великие технические достижения, а также интеллектуальный потенциал
будут вовлечены в этот новый вид военных действий. По крайней мере, ясно одно:
глобальный обмен информацией, так же как до сих пор любая новая технология,
открывает нам свое новое лицо под знаком Марса.
Страшный урок
Текст представляет собой окончание статьи из еженедельника "Tygodnik
powszechny", №38 от 23.09.2001 г.
...Следует ли ожидать дальнейших, настолько же срежиссированных
террористических актов? Мне кажется, невозможно провести серию покушений такого
уровня и масштаба, если они осуществляются организацией, пытающейся скрыть свое
существование. Посылая кому-нибудь зашифрованные сообщения, невзламываемый шифр
можно применить только один раз. Повторение операции было бы равносильно
однозначному раскрытию ее центра управления. Кроме того, попасть непрошенному
террористу на борт самолета в Штатах уже будет непросто, а сделать это в
нескольких аэропортах одновременно - уже невозможно. До сих пор только
израильские авиалинии применяли чрезвычайные меры безопасности, пассажиров
проверяли до печени и селезенки, сейчас и в Соединенных Штатах после открытия
воздушного пространства обещают ввести подобные же строгости.
Не думаю, чтобы это было началом чего-то большего, это скорее кульминация
усилий, направленных на демифологизацию великодержавности единой и могучей
американской империи. Цель была достигнута: ударили в самое сердце Америки, до
чего раньше никогда дело не доходило, ибо даже Пирл-Харбор находился на далекой
периферии. Путин официально посочувствовал американцам, но думаю, что в Кремле
тихонько сплясали казачок.
Буш хотел вернуться к доктрине Монро, но не получилось. По-настоящему
хороших знатоков внешней политики в его окружении нет; Чейни, возможно, лучший,
но у него проблемы со здоровьем, Пауэлл - человек рассудительный, но перевес - у
менее ответственной Райс. Интеллекта недостаточно - необходим еще разум.
Небезопасно отрываться от земли, мечтая о спутниках и лазерах, когда смертельная
опасность может скрываться на значительно более низком этаже. По-прежнему слышны
голоса: создаем антиракетный щит. Глупцов не нужно сеять, они сами прорастают.
Впрочем, американцы вообще не рассматривали возможность атак, осуществляемых
самоубийцами. При этом следует честно сказать, что не каждое государство сможет
послать в бой самоубийц. Достаточно сильным должен быть идейный или религиозный
фанатизм: прямо в рай!
Некоторые пишут, что определенная информация о готовящемся уже несколько
недель большом террористическом акте была известна спецслужбам, но не попала на
высший уровень. Правда ли это - не знаю, но так или иначе террористический акт -
это страшный урок, который показывает, что администрации Буша, уставившейся на
небо, где собираются разместить антиракетный щит, нужно скорее спуститься на
землю.
* Естественный интеллект
Эссе написано в июле 1997 г.
* 1
У нас есть Интернет и другие сети связи с глобальным радиусом действия.
Имеются сетевые "узлы" - компьютеры новейшего поколения, такие как Intel
Teraflop, выполняющие триллион (или по американской терминологии - биллион)
вычислительных операций в секунду. Чемпион мира по шахматам был и будет бит. Это
не вызывает сомнения. А так как из компьютера не удалось высечь и следа
интеллекта (то есть создать интеллектуальные программы), специалисты пытаются
каким-то образом восполнить этот существенный пробел. Появляются различные
подсистемы для классификации данных, для их распознавания, по крайней мере по
синтаксису, раз уж широта значений (n- размерная семантика) чаще всего остается
недоступной; у нас есть серверы, провайдеры, браузеры, делающие возможным
серфинг в любой сети, есть даже блокираторы, которые должны сделать недоступным
для несовершеннолетних пользователей то, что является неприличным или развратным
(или по местным нормам считается таковым). Конгресс США принял Indecency Act,
закон, наказывающий за распространение в Сети всякого рода непристойностей, а
точнее говоря, порнографии, но Верховный Суд признал этот закон недопустимым,
так как он противоречит первой поправке (First Amendment) к Конституции США,
которая гарантирует свободу слова и изображения. Я на стороне этой поправки,
хотя очень хорошо отдаю себе отчет в ее небезопасных последствиях: если все
можно, то педофилические действия и изображения не должны запрещаться, но
молодым умам они могут нанести значительный вред. Вместе с тем я разделяю мнение
американского публициста, который, будучи рассержен назойливой агрессивностью
антипорнографистов, написал, что еще ни один типично порнографический текст или
изображение никого не привели к смерти, никого не склонили к убийству, вместе с
тем к актам насилия и к преступлениям достаточно определенно склоняет до 90%
мирового телевещания. Благодаря телевидению повсеместно известно, каким образом
можно похищать людей (лучше всего детей, женщин), связывать их, держать в
заключении, использовать к собственной выгоде, бить, истязать, подвергать
страшному воздействию огня, мора, воды, ставить им ловушки, демонстрировать в
зрелищах; известно, что преступниками и похитителями бывают и судьи, и
полицейские, и шерифы, что красивых и с виду невинных девушек можно научить
пользоваться оружием, наручниками, пуленепробиваемыми жилетами: все это вместе
взятое я также считаю настоящей порнографией, и на нее нет никакого закона и
никакой управы. Но об этом я упомянул "только попутно".
* 2
В 60-е годы, когда молодая кибернетика считалась "буржуазной лженаукой", я
бывал в советской Москве и беседовал с самыми уважаемыми учеными, которые тогда
были вынуждены тайно заниматься кибернетикой. Запрет знания не делал меня
несчастным, я понимал, что если оно (знание) будет постоянно запрещаться в
Советах, это ускорит их глобальное поражение не только в области гонки
вооружений; из астронавтики бы у русских тоже ничего не вышло. В то время и там,
где кибернетика могла свободно развиваться (например, в США или во Франции), и
там, где она считалась "подрывной деятельностью", господствовало убеждение, что
ее развитие в скором времени ДОЛЖНО привести к созданию быстро мыслящих
конструкций, то есть, говоря кратко, к AI (сокращение от Artificial Intelligence
). Уже тогда появлялись скептики, братья Дрейфусы (Dreyfus), например, и даже
те, кто немного позже осмеливался сомневаться в якобы безусловной правильности
теста Тьюринга, то есть тезиса, что если собеседник не может определить,
разговаривает ли он с человеком или с машиной, это доказывает, что машина ведет
себя так же умно, как и человек. Сейчас мы такой уверенности уже не испытываем,
потому что машины, с которой удалось бы поговорить на различные темы, как не
было, так и нет.
* 3
В этой удивительной ситуации, с точки зрения надежды, господствовавшей
почти полвека назад, думаю, следует повнимательнее приглядеться к области
явлений, из которой искусственный интеллект должен был бы per analogiam [По
аналогии (лат.)] быть выведен. Для большей точности я разделю свои рассуждения
на три части. А именно, primum comparationis [Первое сравнение (лат.), далее по
тексту второе и третье сравнения] будет оригинал для возможного копирования, то
есть МОЗГ ЧЕЛОВЕКА. Sekundum comparationis будут все центральные нервные системы
животных, которые этот первый мозг эволюционно определили таким образом, что его
конструкция (по крайней мере, частично) основана на их строительных принципах (я
не буду касаться генной автоинженерии, поскольку для того, чтобы провести такое
сравнение в пределах доступного нам сегодня и по-прежнему убогого, то есть
неполного, знания, потребовался бы толстый том). И наконец, tertium
comparationis будет просто "дерево жизни" Линнея (Linnaeus), включая самые
истоки, то есть возникновение способных к обучению репликаторов типа ДНК. Весь
мой упрощенный по необходимости вывод берется оттуда, что наивные инженеры,
например Эшби (Ashby) или Мак-Кей (McKay) (Джон фон Нейманн [John von Neumann ]
был уже тогда более скептичен), считали, что бытие, именуемое интеллектом, "само
собой разумеется", и принимали концепцию Алана Тьюринга (Alan Turing) как
бесспорную: тот, кого нельзя в разговоре отличить от человека, eo ipso
[Вследствии этого, в силу этого (лат.)] равен человеку. Сомневаться в этом
утверждении им даже в голову не приходило.
* 4
Последующие полвека, при полном отсутствии искусственного интеллекта (или
хотя бы первых зачатков его), породили огромную библиотеку из работ и книг по
AI, которая постоянно пополняется. Некоторые из появившихся в Польше работ на
эту тему мне довелось читать в нынешнем году. Их можно разделить на
"инженерские", то есть "здравомыслящие", и на уходящие к противоположному полюсу
"глубинные герменевтико-когнитивистские" работы. Здесь можно блуждать и
углубляться в виртуальные бесконечности языка, в его созидательные возможности
или перескакивать в математику, то есть к конструктивистской формализации, где
компьютеры чувствуют себя не худшим образом, поскольку "обычная диалоговая
семантика" все более отделяема от математики. Тем временем отдельно и как-то
параллельно (хотя в этой параллельности можно и даже чуть ли не следует
сомневаться) развивались новые исследования мозга, о котором мы уже знаем, что
все больше его не знаем, несмотря на успешное исследование отдельных центров и
роли отдельных участков: серого вещества, коркового, а также размещенных в мозгу
на разной глубине ядер и центров. Так возникают менее или более основанные на
фактическом материале (гистологически-невральной препараторике) или на материале
PET [Позитронно-эмиссионная томография], электрической, биохимической
э
...Закладка в соц.сетях
