Возможности вычислительных машин и человеческий разум

         

Искусственный интеллект


Когда Роджер Шенк выражал надежду на возможность создания программы, способной обучаться подобно тому, как это делает ребенок, он вторил словам Г. А. Саймона, сказанным им за 10 лет до того:

"Если система GPS представляет собой некоторую теорию, описывающую, каким образом машина может самостоятельно достичь более высокого уровня интеллекта или как люди обучаются языку, то пусть она совершенствует свой интеллект и пусть она обучается языку. Это вполне законное требование ... Не только от своего имени, но и от имени всех, работающих в этой области, я принимаю это требование и выражаю надежду, что один из нас в течение не очень продолжительного времени разработает соответствующие программы"1.

И Саймон, и Шенк выразили те безбрежные и грандиозные мечты, которые служат стимулом для работы в области искусственного интеллекта: в сущности, все это значит ни больше ни меньше, как построить машину, являющуюся моделью человека, робот, который должен иметь детство, обучаться языку, как это делает ребенок, пополнять свои знания о мире, воспринимая его при помощи своих органов чувств, и в конечном счете охватить всю сферу человеческой мысли. (Неважно, правда, лишь в данный момент, что осуществись эта мечта - мы будем располагать машиной, понимающей язык, но все еще не собственно теорией понимания языка, так как лицезрение некоторой машины, "обучающейся подобно тому, как это делает ребенок", не эквивалентно пониманию процесса овладения языком.)

Возможность или невозможность создания такой программы определяется тем, является ли человек просто одним из видов рода "систем обработки информации" или он представляет собой нечто большее. Я настаиваю на том, что в научном и в обыденном сознании чрезмерно упрощенное в целом понятие интеллекта преобладает и именно это понятие частично позволило разрастись грандиозным, но порочным фантазиям искусственного интеллекта. Я настаиваю также на том, что живой организм в значительной степени определяется теми задачами, с которыми он сталкивается.
Перед человеком возникают такие задачи, с которыми никакая машина никогда не сможет встретиться. Человек-это не машина. Еще я настаиваю на том, что, хотя человек почти наверное обрабатывает информацию, совсем необязательно он делает это так, как вычислительные машины. Люди и вычислительные машины не являются разными видами одного и того же рода.
Немногие научные концепции внесли такую сильную путаницу в мышление и ученых, и широкой публики, как "коэффициент умственных способностей" или, как его называют, intelligence quotient (I. Q.). Сама идея того, что интеллект можно количественно оценить с помощью простой линейной шкалы, причинила неописуемый вред нашему обществу вообще и образованию в частности. Например, в Соединенных Штатах она породила мощное направление педагогического тестирования, оказавшее серьезное влияние на академическую судьбу миллионов студентов, а следовательно, и на то, какие ученые степени смогли они получить. Она, в сущности, определяет тот "успех", которого сможет на протяжении своей жизни добиться человек, поскольку, по крайней мере в Соединенных Штатах, возможности "преуспеть" в общем открываются лишь для обладающих надлежащими дипломами, т. е. учеными степенями, свидетельствами о профессиональном образовании и т. п.
Когда современные педагоги утверждают, что тесты для определения умственной одаренности измеряют способность испытуемого хорошо учиться, они имеют в виду немногим более того, что эти тесты "прогнозируют" способность испытуемого успешно проходить через испытания типа экзаменов. Такая способность, естественно, обеспечивает получение степени и, следовательно, "успех". Таким образом, любая взаимосвязь результатов подобных тестов и "успеха" человека в том смысле, в каком это понятие, в общем, трактуется в обществе, должна неизбежно оказываться артефактом процедуры тестирования, Сам тест становится критерием того, с чем должна быть установлена его взаимосвязь! "Психологи должны стыдиться того, что они способствовали возникновению представления об общем умственном развитии, которое породило подобную программу тестирования"2.


Меня в данном случае заботит то обстоятельство, что мифы, окружающие тестирование с помощью I.Q., породили широко распространенное и глубоко ошибочное представление об интеллекте как в конечном счете о постоянном, непреложном и независимом в культурном отношении свойстве индивидуума (например, нечто вроде цвета его глаз) и, более того, как о признаке, допускающем даже генетическую передачу от поколения к поколению.
Недостаток тестирования с помощью I.Q. связан не с его ложностью, а с его неполнотой. Измеряются некоторые умственные способности, возведенные влиятельными кругами западноевропейских обществ по политическим мотивам в статус основных человеческих ценностей и, следовательно, "sine qua non" [Прим. перев.: Неизменное условие (лат.)] успеха. Такое тестирование неполно по двум причинам: во-первых, оно не учитывает, что творчество человека зависит не только от интеллекта, но и в очень большой степени от взаимодействия между интеллектом и другими методами мышления: интуицией и здравым смыслом; во-вторых, оно характеризует интеллект как линейно измеримое явление, существующее вне всякой системы отсчета.
Эйнштейн научил нас тому, что идея движения как такового бессмысленна, т. е. имеет смысл говорить лишь о движении объекта относительно некоторой системы отсчета, но не о каком-то абсолютном движении объекта. Когда, говоря неформально, мы замечаем, что поезд двигался, мы имеем в виду, что он двигался относительно некоторой фиксированной точки на Земле. В обыденном разговоре нам нет необходимости подчеркивать это обстоятельство, поскольку Земля (или наше тело) служит для нас своего рода "отсутствующей" системой отсчета, существование которой в большинстве обычных разговоров неявно предполагается и учитывается. Но физик, выступающий в качестве физика, не может позволять себе подобных вольностей. Его уравнения движения должны быть записаны применительно к той системе координат, относительно которой совершается описываемое ими движение.
Tочно так же обстоит дело и с интеллектом, который сам по себе - понятие бессмысленное.


Чтобы придать ему смысл, требуется некоторая система отсчета и задание соответствующей сферы мышления и деятельности. Причина, по которой эта необходимость не затрагивает нас в процессе обыденного обсуждения интеллекта, заключается в том, что соответствующая система отсчета (наши культурные и социальные установки вместе с их характеристическими сферами мышления и деятельности) в такой степени нас пронизывает, что подсознательно предполагается ее очевидность. Но наша культурная и социальная среда в действительности ни универсальна, ни абсолютна. Следовательно, как бы мы не использовали термин "интеллект" - в качестве ученых или педагогов, необходимо явно выделить сферу мышления и деятельности, заслуживающую термина "интеллектуальная".
Наша повседневная жизнь в изобилии дает нам примеры того, что интеллект проявляется лишь в конкретных социальных и культурных условиях. Самая необразованная мать, неспособная грамматически правильно написать на своем родном языке простейшую заметку (как, правда, многие профессора не в состоянии сделать этого на языках, которыми они владеют), постоянно находит тонкие и разумные (решения, касающиеся жизни ее семьи. Известные ученые-гуманитарии признаются, что не обладают интеллектом, необходимым для овладения школьным курсом алгебры. Признанные гении иногда проявляют совершенную бестолковость в организации собственной частной жизни. Вычислительные же машины совершают поразительные "интеллектуальные подвиги", например, обыгрывают в шашки чемпиона по шашкам и решают сложнейшие системы уравнений, но не могут перепеленать ребенка. Можно ли сравнивать между собой эти интеллекты? Нельзя.
Тем не менее идея измеримости интеллекта по некоторой абсолютной шкале, следовательно, сравнимости интеллектов, в различных формах глубоко проникла в мышление современного общества. На этой идее лежит ответственность, по крайней мере частичная, за многочисленные бесплодные дебаты о .том, возможно ли "в принципе" создать вычислительные машины, более разумные, чем человек.




Даже умеренные и разумные психологи, например Джордж А. Миллер, порой ошибаются, выступая с высказываниями типа:
"Я с очень большим оптимизмом смотрю на окончательный результат работ, посвященных машинному решению интеллектуальных задач. На протяжении нашей жизни машины могут превзойти нас по общему умственному развитию"3.
Отождествление интеллекта с I. Q. существенно извратило первоначально математический вопрос о том, что вычислительные машины могут и чего не могут делать, превратив его в бессмысленный вопрос: "Сколько" интеллекта можно (снова "в принципе") придать вычислительной машине? И, естественно, безрассудная антропоморфизация вычислительной машины, столь сейчас распространенная, особенно в среде "искусственной интеллигенции", легко сочетается с такими бесхитростными представлениями об интеллекте. Это соединение неоправданной метафоры с плохо продуманной идеей затем порождает (и воспринимает) как вполне закономерное предположение: вычислительную машину можно запрограммировать так, чтобы она эффективно выполняла функции психотерапевта.
Однажды я высказал надежду, что можно будет доказать существование некоторого предела (верхней грани) интеллекта, достижимого для машин, точно так же, как Клод Шеннон, создатель современной теории информации, доказал существование верхней грани для количества информации, которое можно передать по некоторому заданному информационному каналу. Шеннон доказал, например, что по определенному телефонному кабелю одновременно можно вести не более некоторого фиксированного числа телефонных переговоров. Однако прежде чем хотя бы просто сформулировать этот теперь по праву знаменитый результат, он должен был располагать каким-то способом квантификации информации. Как бы в противном случае он мог говорить о пропускной способности канала, обеспечивающей передачу "такой-то", но не "большей" информации? В самом деле, создание Шенноном меры величины информации уже само по себе представляет важный вклад в современную науку. (Учитывая, естественно, что он также разработал и убедительную теорию, в которой его мера играет решающую роль.)


Мне теперь ясно, что, поскольку об интеллекте можно говорить лишь применительно к определенным сферам мышления и деятельности и поскольку эти сферы не поддаются измерению, мы не можем воспользоваться какой-нибудь мерой интеллекта шенноновского типа и, следовательно, не существует теоремы того рода, на доказательство которой я рассчитывал. Проще говоря: можно выразить пожелание, даже высказать мнение о том, что имеется определенный предел интеллекта, достижимого машинами, но у нас нет способа придать этим пожеланиям и оценкам точное значение и безусловно нет способа доказывать их.
Является ли отсутствие возможности вычислить верхнюю грань для машинного интеллекта основанием для "оптимистического" вывода о том, что "машины могут превзойти нас в общем умственном развитии" или для того же "пессимистического" вывода? [прим авт.: Оптимист говорит: "Это наилучший изо всех возможных миров!" Пессимист отвечает: "Это верно"] Нет, это не основание ни для того, ни для другого. Мы установили, что дело обстоит как раз наоборот: любой довод, предполагающий получение или опровержение подобного вывода, сам сформулирован неверно и потому бесплоден.
Эти соображения проливают дополнительный свет на проблему, упоминающуюся в гл. 7, где говорилось о "целях, неуместных применительно к машинам". Многие станут утверждать, что прежде всего не имеет смысла говорить о целях машин. Но эта риторическая увертка, если отнестись к ней серьезно, оказывается просто голословным утверждением, так как она игнорирует то обстоятельство, что в реальной действительности люди перепоручают ответственность вычислительным машинам и наделяют их целями и намерениями.
Вопрос, который я пытаюсь здесь выяснить, заключается в следующем: "Какие цели и намерения человека не подходят для того, чтобы возлагать их на вычислительные машины?" Можно сконструировать автопилот и возложить на него задачу удержания самолета во время полета на заданном курсе.


Эта задача представляется подходящей для передачи ее выполнения машинам. Технически возможно также создать вычислительную систему, которая сможет проводить опрос больных, обращающихся в психиатрической диспансер, и подготавливать графическое отображение результатов опроса психически больного в виде таблиц и графиков, снабженных комментариями на естественном языке. Проблема состоит не в возможности сделать нечто, а в уместности передачи машине некой функции, прежде являвшейся прерогативой человека.
"Искусственная интеллигенция", как мы убедились, утверждает, что нет такой сферы человеческого мышления, которая была бы недоступна машинам. Они считают само собой разумеющимся, что машина может думать точно так же, как думает психиатр, занимаясь со своим пациентом. Они настаивают на том, что необходимость повышения производительности труда и снижения затрат диктует необходимость передачи подобных обязанностей машинам. Как заметил мне однажды во время дискуссии профессор Джон Маккарти: "Что из известного судьям мы не могли бы сообщить вычислительной машине?" Его ответ на этот вопрос, являющийся на самом деле снова нашим вопросом, но представленным в иной форме: естественно, "ничего". И, как он далее утверждал, совершенно естественно, что искусственный интеллект стремится создать машины для вынесения судебных решений.
Утверждение о том, что судьи и психиатры не знают чего-либо, не пригодного для передачи вычислительной машине, является следствием значительно более общего утверждения, с которым согласна вся "искусственная интеллигенция", а именно: среди всего, что вообще известно человеку, нет ничего такого, что, по крайней мере, в принципе нельзя было каким-то образом сделать доступным вычислительным машинам.
Не все специалисты в области информатики столь наивны, чтобы считать, что знание представляет собой просто определенную организацию "фактов" (в чем их когда-то обвиняли). Различные программы понимания языка и машинного зрения, в частности, хранят одну часть своих знаний в виде утверждений, т.


е. аксиом и теорем, а другую - в виде процессов. Действительно, планируя и исполняя некоторые сложные процедуры, эти программы синтезируют подпрограммы - воспроизводят новые процессы, которые в явном виде не определялись программистами. Некоторые существующие вычислительные системы, в частности, так называемые системы "рука - глаз", приобретают знания, непосредственно изучая среду, в которой они действуют. Следовательно, подобные машины узнают новое не только, когда им что-то сообщается в явном виде, но также и открывая "новое" в процессе непосредственного взаимодействия со своим внешним миром. И наконец, определенным навыкам вычислительную машину можно обучить; скажем, удержанию в равновесии метловища, опирающегося на один конец, показывая, как это делается, причем даже в том случае, когда сам инструктор совершенно не в состоянии на словах объяснить, как он делает этот трюк. Дело обстоит таким образом, и это действительно реальный факт, что знание людьми каких-то вещей, которые они не в состоянии передать с помощью устного или письменного сообщения, само по себе не является достаточным основанием для утверждения о существовании неких знаний, в принципе, не доступных вычислительным машинам.
Однако, чтобы "признание" мной наличия у вычислительных машин мощи, дозволяющей им приобретать знания многими способами, не рассматривалось как значащее больше, чем я имел в виду, попробую сформулировать свою позицию вполне определенно.
Во-первых (это наименее важно), способность даже наиболее совершенных из ныне существующих вычислительных систем собирать информацию методами, отличными от определенных Шенком как "кормление с ложечки", все еще чрезвычайно ограниченна. Мощь существующих эвристических методов выделения знаний даже из естественноязыковых текстов, вводимых в вычислительные машины непосредственно "с ложечки", базируется на шаткой основе, по выражению Винограда, "тончайшего пласта необходимого знания". Просто абсурдно считать, что любая из существующих вычислительных систем может вообще как-то узнать известное, скажем, двухлетнему ребенку об игрушечных кубиках.


Во-вторых, совсем не очевидно, что все человеческие знания представимы с помощью "информационных структур", даже самых сложных. Человек может, например, знать, какое именно эмоциональное воздействие окажет касание руки другого человека и на этого человека, и на него самого. Приобретение таких знаний определенно не является функцией одного только мозга; оно не может просто сводиться к некоторому процессу передачи какой-то информационной структуры из определенного источника во внешнем мире в определенный участок мозга. Соответствующие знания частично имеют кинестетический [Прим. перев.: Кинестетический - относящийся к движению. Известны так называемые кинестетические ощущения, т. е. ощущения движения ("мускульное чувство"), сигнализирующее о сокращении мышц и о положении членов тела. У человека все мышцы, сухожилия и суставы снабжены так называемыми проприоцепторами, чувствительными к напряжению и растяжению мышц, натяжению сухожилий и т. п.] характер; для получения их необходимо как минимум иметь руку. Существуют, таким образом, определенные вещи, которые люди узнают благодаря наличию у них тела. Ни один живой организм, не обладающий телом, подобным телу человека, не в состоянии знать эти вещи так, как знают их люди. При любом символическом представлении их утрачивается какая-то информация, существенная с точки зрения определенных человеческих целей.
В-третьих (пример с касанием руки относится и к этому случаю), существуют некоторые вещи, которые люди узнают только в результате того, что другие люди воспринимают их в качестве людей и обращаются с ними соответствующим образом. Ниже я подробнее остановлюсь на этом моменте.
И, наконец, в-четвертых, даже те разновидности знаний, которые внешне кажутся поддающимися передаче от одного человека другому исключительно посредством языка, на самом деле совсем не столь пригодны для коммуникации. Клод Шеннон показал, что даже в абстрактной теории информации "информационное содержание" некоторого сообщения является функцией не только самого сообщения, но решающим образом зависит от уровня знаний принимающего и от того, чего он ждет.


Сообщение: " Прибываю семичасовым самолетом, люблю, Билл" - несет различное информационное содержание для жены Билла, знающей, что он должен вернуться домой, но не знающей, каким именно самолетом, и для какой-нибудь девушки, которая вообще никакого Билла не ждет и удивлена его признанием в любви.
Язык в реальном употреблении отличается неопределенностью, совершенно несоизмеримой, естественно, с неопределенностью тех аспектов языка, которые поддаются анализу с помощью теории информации. Но даже приведенный мной пример, показывает, что язык связан с биографиями тех, кто им пользуется, а следовательно, и с историей общества, т. е. на самом деле вообще всего человечества. Язык же человека не столь чисто функционален в этом смысле, как функциональны машинные языки. Язык человека не отождествляет вещи и слова лишь с теми целями, к достижению которых он непосредственно стремится, или объектами, подлежащими преобразованию. Употребление человеком языка - проявление его памяти, которая-совершенно иное, чем запоминающее устройство вычислительной машины, приобретшее в результате антропоморфизацин статус "памяти". Например, память человека порождает надежды и страхи, однако трудно представить себе, что могли бы означать слова "вычислительная машина надеется".
Эти соображения затрагивают не только определенные технические ограничения, свойственные вычислительным машинам, но связаны также и с основной проблемой - что значит быть человеком и что значит быть вычислительной машиной.
Я согласен с положением, что современная вычислительная система достаточно сложна и автономна, чтобы о ней можно было говорить, как о некотором организме. Учитывая ее возможности воспринимать свою среду и воздействовать на нее, я согласен даже с тем, что в некотором крайне ограниченном смысле ее можно сделать "социальной", т. е. модифицирующей в соответствии с опытом, приобретаемым ею в ее мире [Прим. перев.: Под социализацией в социологии понимается процесс усвоения человеческим индивидом определенной системы знаний, норм и ценностей, позволяющих ему функционировать в качестве полноправного члена общества; включает как целенаправленное воздействие на личность (воспитание), так и стихийные, спонтанные процессы, влияющие на ее формирование].


Я признаю также и то, что у сконструированного должным образом робота можно вызвать чувство самоощущения - он может, например, научиться различать части своей конструкции и объекты, находящиеся вне его, робота можно заставить назначать более высокий приоритет защите своих частей от механических повреждений, чем аналогичной защите объектов, не принадлежащих его конструкции, он может сформировать некоторую модель самого себя, которую в определенном смысле можно было бы рассматривать как своего рода самосознание. Следовательно, когда я говорю о своей готовности считать подобного робота неким "живым организмом", я выражаю свое согласие рассматривать его как некое животное. Кроме того, я уже признал, по крайней мере в принципе, что не вижу способа определить границу степени разумности такого рода "живого организма".
Я сделал эти оговорки, как назвали бы их юристы, не потому, что считаю возможным создание в "обозримом будущем" "социального" робота, признаваемого таковым любым объективным наблюдателем. Я не считаю это возможным, но пояснение нужно для того, чтобы избежать ненужных, бесконечных и в итоге бесплодных упражнений на тему создания каталога, доступного и недоступного вычислительным машинам здесь или где-нибудь еще, сегодня или когда бы то ни было. Эти упражнения отвлекут нас от главной проблемы: существуют ли цели, достижение которых неуместно перекладывать на вычислительные машины.
Если и люди, и машины поддаются социализации, то следует спросить, в чем социализация человека должна обязательно отличаться от социализации машины. Ответ, естественно, столь очевиден, что сама постановка такого вопроса кажется смехотворной, если не неприличной. Ставить подобную проблему - один из признаков безумия нашего времени.
Любой живой организм социализируется в процессе разрешения возникающих перед ним задач. Именно те биологические характеристики, которые выделяют один вид из ряда других, определяют, с каким перечнем задач он будет сталкиваться и в чем состоит их отличие от задач, возникающих перед любым другим видом.


Каждый вид, хотя бы только поэтому, будет специализироваться по-своему.
Человеческий детеныш, как отмечали многие, рождается преждевременно, т. е. в состоянии абсолютной беспомощности. Но у младенца имеются биологические потребности, которые, чтобы он просто выжил, должны удовлетворяться кем-то другим. Действительно, многочисленные исследования детских домов показывают, что грудной ребенок нуждается в удовлетворении не только элементарных физических потребностей; младенец умрет, если он накормлен и умыт, но с самого момента рождения не окружен нежностью и лаской, т. е. если другие люди не относятся к нему как к человеку4.
Катастрофа, по выражению Эрика Эриксона, заключается в том, что любой человек обязательно должен сам пройти через библейскую историю о рае. В течение некоторого времени ребенок только требует и любая его потребность должна удовлетворяться; от него же ничего не требуется. Затем, часто после того, как у ребенка появляются зубы и он начинает кусать грудь, которая его кормит, единство между ним и его матерью нарушается. Эриксон полагает, что эта универсальная драма человека (представляет собой онтогенетический вклад в библейское сказание об эдемском саде [Прим. перев.: Под социализацией в социологии понимается процесс усвоения человеческим индивидом определенной системы знаний, норм и ценностей, позволяющих ему функционировать в качестве полноправного члена общества; включает как целенаправленное воздействие на личность (воспитание), так и стихийные, спонтанные процессы, влияющие на ее формирование]. Этот период настолько важен в жизни ребенка, что
"внезапное лишение привычной материнской любви без соответствующей компенсации на протяжении этого периода [при прочих неблагоприятных условиях] может привести к возникновению у младенца острой депрессии или к слабо выраженному, но хроническому плачу, способному вызвать депрессивный фон, который сохранится на протяжении всей его жизни. Но даже и при самых благоприятных обстоятельствах этот период оставляет после себя в наследство первородное ощущение греха, рока и вселенской ностальгии по потерянному раю.


Следовательно, [эти ранние стадии] формируют у младенца начала основного чувства доверия и основного чувства недоверия, которые остаются на протяжении всей жизни источником самозарождения и основных надежд, и чувства рока"5.
Таким образом начинается восстановление мира в воображении отдельного человека. Мир этот, как я отмечал выше - хранилище субъективизма человека, стимулятор его сознания и в конечном счете творец тех будто бы внешних сил, с которыми человек должен сталкиваться на протяжении всей своей жизни.
"По мере того, как диапазон понимания, установления связей и восприимчивости ребенка расширяется, он встречается с учебными элементами своей культуры и в результате узнает основные атрибуты человеческого существования, каждый существенный в личном или культурном отношении путь ... Приобретать ... означает воспринимать и усваивать то, что дается. Это первый социальный метод, который усваивает человек; причем звучит это проще, чем оказывается на самом деле. Дело в том, что продвигающийся на ощупь неустойчивый организм новорожденного обучается этому приему только после того, как приобретает умение регулировать свои системы органов в соответствии с тем способом, которым материнская среда реализует свои методы ухода за ребенком..."
"В целом оптимальная ситуация, обеспечивающая подготовленность ребенка к получению того, что ему дается, - это взаимная подстройка ребенка и матери, позволяющая ему развивать и координировать свои методы получения по мере того, как она развивает и координирует свои методы, посредством которых она "дает". ... Кажется, что рот и сосок груди служат просто центрами общей ауры сердечности и взаимной зависимости, которой наслаждаются и на которую реагируют расслаблением не только эти органы, находящиеся в центре событий, но и оба организма в целом. Взаимность ослабления напряжения, возникающая таким образом, имеет первостепенную важность для первого опыта общения с дружелюбной внешней силой. Можно сказать ..., что в процессе получения того, что ему дается, и обучения давать другому возможность делать для себя то, что он хотел, чтобы было сделано, ребенок создает также в себе необходимую основу для главного: самому начать становиться человеком, дающим что-то другим."6


Из этих замечаний Эриксона ясно, что начальные (и решающие) этапы социализации человека обеспечивают тотальную связь двух живых организмов - ребенка и его матери, приводящую к нерасторжимой взаимозависимости удовлетворения их глубочайших биологических и эмоциональных потребностей. И из этого чреватого проблемами вновь обретенного единства матери и ее ребенка (так как порождает травмы, связанные с их разлучением) возникают основы понимания человеком того, что значит давать и получать, доверять и не доверять, быть чьим-нибудь другом и самому иметь друга, ощущать надежду и испытывать удары судьбы.
Говоря о теориях (с. 189), я отмечал, что ни один термин ни одной теории нельзя понять полностью. То же самое можно сказать о словах вообще, особенно о таких словах, как "доверие", "дружба", "надежда", и образованных из них словах. Эриксон показывает, что подобные слова получают свои значения из самого раннего и универсального опыта человека, а понимание этих слов всегда неизбежно носит метафорический характер. Эта глубокая истина свидетельствует также о том, что понимание человеком мира в целом, поскольку оно достигается при помощи языка, всегда обязательно вынуждено обходиться метафорическими описаниями. И поскольку ребенок, как указывает Эриксон, "встречается с учебными элементами своей культуры" и "в результате узнает основные атрибуты человеческого существования, каждый существенный в личном и культурном отношении путь", то любая культура, т. е. на самом деле любой отдельный человек, принадлежащий этой культуре, понимает подобные слова и язык, а следовательно, и собственно мир способом, идиосинкразическим в культурном и личном отношениях.
Я мог бы продолжать описывать и более поздние этапы социализации человека - влияния, оказываемые обучением в школе, браком, тюремным заключением, войной, ненавистью и любовью, переживаниями, связанными с чувствами вины и стыда, столь радикально отличающимися в разных человеческих культурах, и т.


д. Однако это ничуть не помогло бы тем, кто еще не убежден в том, что всякое "понимание", которым, как можно считать, обладает вычислительная машина, а следовательно, любой "интеллект", который ей можно приписать, имеет лишь самое отдаленное отношение к пониманию и интеллекту, свойственным человеку. Мы же сделаем вывод о том, что какого бы интеллекта не смогли сегодня или в будущем достичь вычислительные машины, их интеллект всегда будет чужд истинным проблемам и заботам человека.
И тем не менее экстремистское (закоренелое) крыло "искусственной интеллигенции" будет настаивать на том, что человек в целом (снова используем выражение Саймона)-это, в сущности, некая система обработки информации и, следовательно, информационная теория человека должна оказаться адекватной для объяснения поведения человека во всей его полноте. Можно было бы принять большую посылку, но не считать, что из нее необходимо следует указанный вывод.
Мы уже убедились в том, что часть "обрабатываемой" человеком информации имеет кинестетический характер, т. е. "хранится" в его мышцах и суставах. Просто неочевидно, что такую информацию и соответствующую ее обработку можно вообще представить в виде структур данных и программ вычислительных машин.
Естественно, можно доказывать принципиальную возможность имитации на вычислительной машине всей сети клеток, образующих тело человека, но в этом случае должна возникнуть теория обработки информации, совершенно отличная от всего созданного в этой области до сих пор. Кроме того, подобная имитация приведет к "поведению", реализуемому в таком невероятно большом масштабе времени, что ни один робот, построенный на основании этих принципов, не имел бы, на - самом деле, возможности вступать во взаимодействие с человеком. И наконец, нет никаких надежд на то, что в ближайшие несколько сот лет человечество разовьет нейрофизиологию в степени, достаточной для создания интеллектуального фундамента, который позволил бы создать такую машину.


Следовательно, подобными доводами можно пренебречь.
Существует еще одно допущение, введенное создателями моделей человека, придерживающимися информационного подхода, которое может оказаться неверным, причем его опровержение существенно подрывает всю их программу. Речь идет о существовании одного и только одного класса информационных процессов и сводимости любого элемента этого класса к тому роду информационных процессов, примерами которых служат системы типа GPS и формализмы понимания языка шенковского типа. Все-таки у любого человека возникает впечатление, что он мыслит при помощи интуиции, озарения и прочих неформальных механизмов подобного типа, по крайней мере в той же степени, как и посредством логических средств. Вопросы типа "Может ли вычислительная машина иметь оригинальные идеи? Может ли она придумать метафору, написать симфонию или поэму?" не прекращаются. Дело обстоит так, будто обыденное сознание знает разницу между машинным мышлением и тем способом мышления, который обычно практикуют люди. Естественно, "искусственная интеллигенция" не считает, что какая-то разница должна существовать. Эти люди улыбаются и говорят: "Не доказано".
Тем не менее на протяжении приблизительно 10 последних лет началось накопление неврологических данных, позволяющее допустить наличие научных оснований для указанной позиции обыденного сознания7. Уже давно известно, что мозг человека состоит из двух полушарий, кажущихся по крайней мере с первого взгляда, идентичными. Однако обе половины, которые будем называть ЛП (левое полушарие) и ПП (правое полушарие), выполняют совершенно разные функции. Грубо говоря, у людей, делающих все правой рукой (для простоты можно ограничить наше обсуждение ими), ЛП управляет правой половиной тела, а ПП - левой половиной. (На самом деле эти связи несколько сложнее, в частности, те, которые существуют между обеими половинами мозга и глазами, но здесь я не буду рассматривать эти подробности.) Значительно важнее то, что обеим половинам мозга как бы свойственны два совершенно различных способа мышления.


ЛП обладает, так сказать, упорядоченным, последовательным и, как можно было бы сказать, логическим мышлением. ПП, судя по всему, мыслит в терминах холистических образов [Прим. перев.: Холистический - производное от греческого "холос" ("holos") - целый, весь, т. е. в нашем случае - целостный. Отметим, что в философии под названием "холизм" известна одна из так называемых организмических теорий - философско-методологических и естественнонаучных концепций об органической целостности и возникновении новых качеств или законов при повышении организации]. Обработка языка как будто бы полностью сконцентрирована в ЛП, а ПП тесно связано с выполнением таких задач, как пространственная ориентация или создание и понимание музыки.
Различие функций двух полушарий драматически проявляется у больных, страдающих острыми формами эпилепсии и подвергшихся в связи с этим операции хирургического разделения обоих полушарий. У человека два полушария соединяются частью мозга, называющейся corpus callosum [Прим. перев.: Мозолистое тело (лат.)]. После его рассечения всякая связь между двумя полушариями становится невозможной. Было обнаружено, что, если так называемый больной с расщепленным мозгом не видит своих рук, а в его, скажем, левую руку вкладывают карандаш, то он не может сказать, что именно ему дали, но в состоянии продемонстрировать, что это был карандаш, нарисовав его или выбрав изображение карандаша из изображений множества различных предметов. При проведении такого же эксперимента с правой рукой больной в состоянии сказать, что получил карандаш, но не в состоянии воспроизвести или узнать его изображение. В первом случае ПП воспринимало "изображение" карандаша и было способно перекодировать его в зрительное представление, но не в лингвистические структуры. Во втором случае ЛП воспринимало "изображение" карандаша и было способно дать его лингвистическую, но не зрительную кодировку.
Имеются также убедительные данные (на которых я не буду здесь подробно останавливаться), свидетельствующие о том, что ПП служат основной резиденцией интуиции и мыслит совершенно независимо от ЛП.


Один из способов определения интуитивного мышления заключается в констатации того, что, хотя оно и имеет логический характер, тип данных, используемых им при получении суждений, резко отличается от тех стандартов доказательств, которые обычно ассоциируются с логическим мышлением. Например, обычно говоря об одинаковости каких-то двух вещей, мы имеем в виду, что они идентичны почти во всех отношениях; стандарты доказательств, необходимых для обоснования подобного вывода, исключительно высоки. Когда же мы строим метафору, мы имеем в виду одинаковость двух каких-то вещей в совершенно ином смысле. Метафоры просто не обладают логикой; при буквальном их восприятии они становятся явно бессмысленными. Другими словами, ПП пользуется критериями абсурдности, которые существенно отличаются от подобных критериев ЛП.
История человеческого творчества переполнена рассказами о людях искусства и ученых, после упорной и продолжительной работы над какой-то задачей сознательно решавших "забыть" о ней, т. е. в сущности передать ее в свое ПП. По прошествии определенного времени, часто совершенно внезапно и абсолютно неожиданно, перед ними возникало решение их задачи в почти законченной форме. Очевидно, ПП может справляться с самыми трудными логическими и регулярными задачами с помощью, как мне кажется, смягчения жестких стандартов мышления, свойственных ЛП. Задавшись более свободными стандартами, используемыми ПП, можно было бы, вероятно, спланировать такие эксперименты в области мышления, с которыми ЛП из-за его негибкости просто не смогло бы справиться. ПП, таким образом, способно находить решения, которые затем, естественно, могут быть с помощью ЛП сформулированы в строго логических терминах.
Можно предположить, что у детей канал связи между двумя половинами мозга широко открыт; таким образом, сообщения совершенно свободно циркулируют между двумя половинами мозга. Может быть, именно поэтому дети обладают таким необузданным воображением - например, сейчас коробка из-под сигар для них - автомобиль, а через минуту - лошадь.


У взрослых этот канал становится значительно уже - не знаю, то ли вследствие получаемого образования, то ли из-за процессов физиологического созревания, то ли из-за действия обоих этих факторов. Но очевидно, что он, несколько расширяется во время сна.
Можно предположить также, что психоаналитики помимо проведения входящей в их функции психотерапии обучают людей и пользованию этим каналом. Во время психоанализа человек, по удачному выражению Теодора Рейка, учится слушать "третьим ухом", т. е. внимать "голосу" бессознательного. Возможно, различные созерцательные дисциплины служат этой же цели.
Все это явные догадки, не дающие нам оснований, для каких-либо выводов о том, как люди или вычислительные машины обрабатывают информацию. Но даже как предположения они поднимают очень серьезный вопрос об универсальности того метода обработки информации, который мы обычно связываем с логическим мышлением и программами вычислительных машин.
Свидетельства в пользу гипотезы о том, что правое полушарие мозга - это, грубо говоря, "резиденция интуиции", как будто бы продолжают поступать. Но имеющиеся данные все еще не убедили ни одного философа или психолога настолько, чтобы он решился включить эту гипотезу в свою теорию работы мозга.
Однако в этом направлении многое уже установлено твердо: два полушария мозга человека мыслят независимо друг от друга; они мыслят одновременно; способы их мышления различны. Более того, нам есть что сказать об этих двух способах.
Великий математик Анри Пуанкаре писал в своем знаменитом эссе "Математическое творчество"8 .
"...Сознательное "я" в крайней степени ограничено; что же касается подсознательного "я", то нам неизвестны его границы..."
"самые же вычисления приходится выполнять... во время периода сознательной работы, следующего за озарением, когда проверяются результаты, принесенные озарением, и выводятся из них следствия. Правила этих вычислений отличаются строгостью и сложностью; они требуют дисциплины, внимания, участия воли и, следовательно, сознания.


В подсознательном же "я" господствует в противоположность этому то, что я назвал бы свободой, если бы только можно было дать это имя простому отсутствию дисциплины..." .
"Среди не сознаваемых явлений привилегированными, т. е. способными стать сознаваемыми, оказываются те, которые прямо или косвенно оказывают наибольшее воздействие на нашу способность к эмоциональной восприимчивости".
"...Роль этой бессознательной работы в процессе математического творчества кажется мне неоспоримой; следы ее можно было найти и в других случаях, где она является менее очевидной" [Прим. перев.: Цитаты из эссе Пуанкаре в основном приводятся по тексту русского перевода (с учетом изменений, происшедших в орфографии русского языка с момента ее выхода): Г. Пуанкаре, Наука и метод: пер. с франц. И. К. Брусиловского/ Под ред. приват-доцента В. Ф. Кагана. - Одесса; изд-во "Матезисъ", 1910, с. 48-74 (см. [8])]
Конечно, Пуанкаре, писавший это в начале XX в., ничего не знал об открытиях исследователей мозга, работающих сейчас. И мы перескакиваем через необходимые этапы доказательств, когда отождествляем то, что Пуанкаре называл сознательным и бессознательным "я" с левым и правым полушариями мозга соответственно. Наше же утверждение сейчас состоит в том, что имеются два различных способа человеческого мышления, действующих независимо и одновременно. И это утверждение слова Пуанкаре поддерживают.
Наш современник, чрезвычайно уважаемый ученый, психолог Джером Брунар пишет по тому же поводу в несколько ином ключе (напомним, что правая рука связывается с левым полушарием, а левая - с правым, или "интуитивным", полушарием):
"В течение пятнадцати лет я прилежно изучал процесс познания, оставаясь "психологом, действующим правой рукой": я пытался выяснить, каким образом мы приобретаем, храним и преобразуем знания о мире, в котором мы все живем, - мире, существующем частично "вне", а частично "внутри" нас.


При этом я пользовался теми средствами, которые употребляет ученый-психолог, изучая восприятие, память, обучение, мышление, причем (будучи сыном своего времени) я адресовал свои вопросы и лабораторным крысам, и людям. Временами, однако, я брал на себя роль врача и занимался лечением детей. ...Было время, когда, несколько обескураженный сложностью психологии познания, я пытался найти спасение в нейрофизиологии, но обнаружил, что нейрофизиолог может помочь мне лишь в постановке разумных психологических вопросов".
"Одно становилось мне все яснее в процессе изучения природы знания. Это то, что общепринятый аппарат психолога - и его средства исследования, и понятийные инструменты, используемые им при интерпретации данных, - не затрагивают один подход. Это тот подход, в котором средством обращения служит метафора, обеспечиваемая левой рукой. Это способ, рождающий удачные прозрения и "счастливые" догадки, побуждающие поэта и чародея находить между вещами связи, не доступные обычному взгляду. Эти прозрения и интуитивные догадки рождают собственную грамматику - поиска связей, установления сходств, свободного сплетения идей в ткань новых представлений..."
"[Психолог] тоже прибегает к обширному метафорическому поиску сравнений. Он читает романы, рассматривает, а иногда и сам пишет картины, поражается силе мифов и подсознательно благоговеет перед человеком. Ведя себя таким образом, он лишь отчасти поступает, как должно психологу, загоняющему экспериментальные "случаи" в прокрустово ложе критериев, выводимых из своих гипотез.
Подобно другим он наблюдает жизнь человека со всей той восприимчивостью, которую он может воспитать в себе в надежде на углубление ее постижения. Если ему повезет или если он обладает тонкой психологической интуицией, то время от времени у него будут возникать озарения - комбинаторные результаты его метафорической деятельности. Если он не будет пугаться этих продуктов собственной субъективности, то ему удастся добиться "приручения" метафор, порождающих его прозрения; он овладеет ими в том смысле, что сможет перенести их из левой руки в правую, сформулировав их в поддающихся проверке категориях.


В результате наблюдения за своей деятельностью и деятельностью коллег у меня сложилось впечатление, что "перековывание метафорических прозрений в поддающиеся проверке гипотезы происходит постоянно""9.
У меня, естественно, тоже создалось такое впечатление. Здесь Брунер явно говорит о левой руке, т. е. о правом полушарии мозга, как о художественном, интуитивном и тому подобном, и о правой руке, т. е. левом полушарии мозга, как об "общепринятом аппарате психолога", и указывает на неадекватность его "понятийных инструментов".
Из свидетельств сотен творчески одаренных людей, а также из нашей собственной интроспекции мы знаем, что творческий акт человека всегда включает сознательную интерпретацию сообщений, поступающих из подсознания, т. е. перенос, по выражению Брунера, идей из левой руки в правую.
Бессознательное, естественно, бессознательно. Оно подобно штормовому морю, бушующему в нас. Его волны набегают на границы нашего сознания. И все, что мы узнаем благодаря подсознанию или о подсознании, основывается на тех выводах, к которым мы приходим, оценивая значение могучих валов, зыби и гребней волн, накатывающихся на наше сознание, и мелкой ряби волн, плещущихся у его краев. Иногда, находясь в том полугипнотическом состоянии, которое отделяет бодрствование от сна, мы пристальнее вглядываемся в этот прибой. Но обнаруживаем мы лишь полный хаос. Все наши навыки мышления оказываются совершенно перепутанными. Если же мы разрываем путы сна, то не в состоянии выразить, не можем перевести или преобразовать в лингвистические формы то, что мы испытывали в мыслях.
Разве несомненное существование этого смещения, если его сопоставить с остальными приводившимися мной свидетельствами, не придает вес в общем вполне правдоподобному предположению о том, что виды информации, обрабатываемой в правом полушарии, так же, как и соответствующие информационные процессы, просто другие, не такие, как вид информации и информационные процессы левого полушария? И не может ли оказаться так, что мы, в принципе, в состоянии понять эти неизвестные нам виды информации и информационные процессы лишь в терминах, по существу не пригодных для понимания того рода, к которому мы стремимся? Когда в отдаленном будущем будут установлены детали работы мозга на нейрофизиологическом уровне, мы сможем дать фактически редукционистское объяснение работы правого полушария [Прим.


перев.: Под редукцией понимается методологический прием, заключающийся в приведении некоторых данных, задач в удобный для анализа или решения вид, а также в восстановлении прежнего состояния, приведении сложного к более простому. Этот прием широко используется в математике, биологии, лингвистике и т. д. В западной литературе проблемы редукции до последнего времени рассматривались в рамках двух довольно слабо связанных между собой направлений. Философия науки изучала вопрос о возможностях редукции одной (предположительно более частной) теории к другой (более общей). Другой аспект проблемы редукции связан с изучением возможностей и границ применения в биологии физических и химических методов, с особенностями проявления физико-химических закономерностей в живых структурах. Абсолютизация редукции приводит к так называемому "редукционизму" - концепции, утверждающей возможность полного сведения высших явлений к низшим, основополагающим. Редукционизм прослеживается в "механицизме"-стремлении рассматривать психическое только как результат физиологических, информационных и других процессов. "Принципиальное отличие диалектико-материалистического подхода к методологии биологического исследования... состоит в признании внутреннего единства, органической взаимозависимости и существенной взаимодополнительности физико-химических и вообще аналитических, системно-целостных и эволюционно-исторических методов познания жизни. Путь редукции, при всей его важности и необходимости для биологического познания, оказывается методологически плодотворным и перспективным лишь в том случае, если движение по этому пути осуществляется в тесной связи с движением в направлении теоретического синтеза, интеграции добытого знания в целостную картину организации и эволюции живого" (из "Предисловия" И. Т. Фролова и Б. Г. Юдина к переводу на русский язык книги М. Рьюза "Философия биологии", под общей редакцией чл.-кор. АН СССР И. Т. Фролова. - М.: Прогресс, 1977)].


Однако это не будет тем пониманием, о котором мы говорим сейчас, по крайней мере не больше, чем доскональное изучение электрических процессов, происходящих в работающей вычислительной машине, дает или хотя бы может дать понимание программы, выполняемой вычислительной машиной. С другой стороны, объяснение работы правого полушария как работы более высокого уровня всегда чревато возможностью упустить какие-то из его наиболее существенных особенностей, а именно те, которые отличают его работу от работы левого полушария. Дело в том, что ограничения, связанные с нашими навыками левополушарного мышления, всегда заставляют нас интерпретировать сообщения, поступающие из правого полушария, на языке, свойственном левому.
Возможно, приемы мышления ЛП напоминают метод системы GPS, но при этом я имею в виду лишь то, что их в принципе каким-то образом удастся сформулировать (но отнюдь не то, что система GPS представляет собой хотя бы какой-то вариант подобной формулировки). Возможно, ЛП переводит задачу типа "у Тома рыб в два раза больше, чем у Мэри - гуппи. Если у Мэри есть три гуппи, то сколько рыб у Тома?" на собственный язык, скажем, представляет ее в следующем виде: х=2у; у=3. Решая ее, оно, возможно, пользуется методами обработки информации и преобразования символов, характерными для приемов "мышления" свойственных системам типа GPS. Но в таком случае подобный механизм не может иметь ни малейшего представления о том, что такое рыбы и гуппи или что значит быть мальчиком по имени Том и т.д. Кроме того, символическое представление этой задачи нельзя перевести в ее исходную формулировку. Решение же задач человеком, возможно, даже его самые рутинные и механические разновидности, требуют использования как "левых", так и "правых" приемов мышления. И совершенно очевидно, что непосредственная коммуникация между людьми решающим образом зависит от использования обоих полушарий.
Совсем легко, особенно специалистам в области информатики, оказаться загипнотизированными тем "фактом", что языковые высказывания можно представить линейными цепочками символов.


Из этого "факта" легко сделать вывод, что языковая коммуникация-это сфера деятельности исключительно левого полушария. Однако человеческая речь обладает также мелодией, и в процессе коммуникации участвуют как ее либретто, так и ее напев. Музыка-это сфера деятельности правого полушария, так же как и восприятие телодвижений. Что касается коммуникации посредством письма, то ее функции, несомненно, состоят главным образом в стимулировании и возбуждении звуковых образов как у пишущего, так и у читающего.
Может быть, мы никогда не сможем установить, верно или ложно предположение о том, что часть людей мыслит на языке символических структур, поддающихся лишь восприятию, а не удобоваримой экспликации. Ученые, естественно, испытывают отвращение к гипотезам, которые, как кажется, нельзя проверить. И тем не менее может оказаться, что в каком-то абсолютном смысле эта гипотеза истинна. Возможно, она поможет нам понять, почему на протяжении всей жизни мы остаемся чужестранцами для самих себя и для всех остальных, почему любое слово нашего лексикона окутано по крайней мере минимальной тайной и почему любые попытки решать жизненные проблемы чисто рациональными средствами заканчиваются провалом.
Вывод, который я хочу сейчас связать со своим допущением, заключается в следующем: поскольку нам не дано знать, в какой степени это допущение ложно или истинно, то у нас нет никаких оснований для того высокомерия, которое столь надменно демонстрирует "искусственная интеллигенция". Даже "вычислительные" причины рождают убеждение в том, что мы должны благоговейно взирать на то непостижимое зрелище, которое представляет собой человек как таковой (и я добавил бы даже: муравей как таковой).
Было время, когда физики мечтали объяснить весь реальный мир только с помощью всеобъемлющего формализма. Лейбниц утверждал, что если бы были известны положение и скорость любой элементарной частицы вселенной, то мы были бы в состоянии предсказать все будущее развитие вселенной.


Позже Вернер Гейзенберг доказал, что те инструменты, которые человек вынужден использовать для измерения характеристик физических явлений, искажают сами эти явления и, следовательно, принципиально невозможно одновременно абсолютно точно определить положение и скорость даже единственной элементарной частицы. Он не опроверг тем самым допущение Лейбница, но действительно доказал, что его основное условие неосуществимо. Этого, естественно, было вполне достаточно для того, чтобы вдребезги разбить лейбницеву мечту. Лишь немногим позднее Курт Гёдель продемонстрировал зыбкость самих оснований математики и логики, доказав, что любая представляющая интерес формальная система содержит утверждения, истинность или ложность которых нельзя установить при помощи формальных средств соответствующей системы, т. е. что математика неизбежно всегда должна оставаться неполной. Из этого и других результатов Гёделя следует, что
"мозг человека не в состоянии полностью сформулировать (или "механизировать") свою математическую интуицию. Это означает, что если он добивается успеха, сформулировав какую-то часть своих интуитивных математических знаний, то сам этот факт уже порождает новое интуитивное знание"10.
И так называемый принцип неопределенности Гейзенберга, и теорема Гёделя о неполноте породили в мире физики, математики и философии науки ужасные ударные волны. Однако никто не прекратил борьбу. Физики, математики и философы с большим или меньшим изяществом приняли ту неопровержимую истину, что существуют пределы постижения мира, осуществляемого исключительно в лейбницевых категориях.
Уже чрезвычайно много было сказано о предполагаемых следствиях результатов Гейзенберга и Гёделя для искусственного интеллекта. Я не намерен здесь заниматься обсуждением этой проблемы. В одном отношении психология и искусственный интеллект могут извлечь для себя пользу, последовав этому примеру смирения, вновь обретенного современной математикой и физикой: им следует осознать, что, "хотя ограничения и пределы возможностей логики не влияют на ход событий в реальном мире, они действительно ограничивают и определяют то, что претендует на статус обоснованных описаний и интерпретаций этих событий"11.


Осознай они это обстоятельство, им можно было бы продвинуться на следующий освободительный этап: осознание также и того, что истина неэквивалентна формальной доказуемости.
Урок, который я хотел здесь преподать, не заключается в том, что мозг человека подчиняется гейзенберговским неопределенностям (хотя, возможно, это так и есть), и нам, следовательно, никогда не удастся постичь его полностью в рамках тех типов редукции к дискретным явлениям, которые имел в виду Лейбниц. Урок в данном случае, скорее, состоит в том, что та часть человеческого мозга, которая вступает с нами в коммуникацию с помощью рационального и научного языка, сама представляет собой некий инструмент, искажающий объект своего наблюдения, в частности, своего бессловесного партнера - бессознательное, между которым и нашим сознательным "я" оно служит связующим звеном. Связи и ограничения этого инструмента определяют то, что должно составлять рациональные (и снова, если хотите, научные) описания и интерпретации явлений, свойственных нашему миру. Следовательно, эти описания никогда не могут быть полными, точно так же, как партитура не может обеспечивать исчерпывающего описания или интерпретации даже самой простой песенки. Но (и спасительную силу этого феномена высокомерный и беспардонный сциентизм пытается отнять у нас) мы познаем и понимаем не исключительно посредством сознательных механизмов [Прим. перев.: Сциентизм - концепция, заключающаяся в абсолютизации роли науки в системе культуры; представляет собой не строго оформленную систему взглядов, а определенную социально-культурную позицию, проявляющуюся как во внешнем подражании точным наукам, принимаемым в качестве эталона научного знания вообще, так и в абсолютизации естественных наук в качестве единственно научного знания и отрицания философско-мировоззренческой проблематики]. Мы в состоянии слышать "третьим ухом", ощущать животрепещущую истину, являющуюся истиной, выходящей за пределы любых стандартов доказуемости. Я утверждаю, что именно эта разновидность понимания и соответствующая разновидность интеллекта, из него выводимая, не поддаются имитации на вычислительных машинах.


У нас есть обыкновение ( и иногда мы извлекаем из этого пользу) говорить о человеке, мозге, разуме и прочих универсальных понятиях подобного рода. Однако постепенно, исподволь наш мозг заражается тем, что А. Н. Уайтхед назвал ошибкой неуместной конкретности. Мы начинаем считать, что эти теоретические понятия в конечном счете интерпретируемы как наблюдения и что в "обозримом будущем" мы будем располагать тонкими инструментами, позволяющими измерять "объекты", к которым эти понятия относятся. Но не существует такой вещи, как мозг вообще; есть лишь индивидуальные мозги, каждый из которых принадлежит не человеку вообще, а отдельному человеческому существу.
Я настаиваю на том, что невозможно измерять интеллект искусно сконструированными мерными рейками, располагаемыми вдоль одномерного континуума. Конструктивное обсуждение интеллекта возможно лишь применительно к определенным областям мышления и действия. На основании этого я делаю вывод о том, что не может принести никакой пользы организация серьезной работы на основе представлений о том, "сколько" интеллекта можно придать вычислительной машине. Полемика, базирующаяся на идеях такого рода (например, "превзойдут ли вычислительные машины когда-либо человека в области разума?"), бесплодна.
Я утверждаю, что человек как индивидуум, подобно любому другому живому организму, определяется теми задачами, с которыми он сталкивается. Уникальность человека связана с тем обстоятельством, что он неизбежно сталкивается с задачами, порождаемыми его уникальными биологическими и эмоциональными потребностями. Человеческий индивидуум постоянно пребывает в состоянии становления. Поддержание этого состояния, формирование человеческой природы, в сущности, обеспечение самого выживания человека зависит от того, что он сам и другие люди относятся к нему как к человеческому существу. Никакой иной живой организм и тем более ни одну вычислительную машину невозможно заставить воспринимать сугубо человеческие проблемы в чисто человеческих категориях.


И поскольку сфера действия интеллекта человека определяется его человеческой природой (за исключением небольшой труппы формальных задач), то любой иной интеллект, сколь бы велик он ни был, неизбежно окажется чужд этой сфере.
Я утверждаю, что существует одна особенность мозга человека - бессознательное, не поддающееся объяснению в терминах непроизводных элементов процессов обработки информации, т. е. элементарных информационных процессов, связываемых нами с формальным мышлением, вычислительными процедурами и строгой рациональностью. И тем не менее мы вынуждены пользоваться ими, занимаясь научным изучением, описанием и интерпретацией. Это заставляет нас ясно отдавать себе отчет в скудости наших объяснений и исключительной ограниченности их возможностей. Неверно утверждать, что можно дать строго научное решение "проблемы человека". Существуют вещи, выходящие за пределы возможностей науки.
[Прим. перев.: С последним замечанием Дж. Вейценбаума никак нельзя согласиться. Возможно, речь идет об ограниченности перспектив полного решения "проблемы человека" посредством чисто формально-логических построений. Тем не менее здесь нетрудно обнаружить и отголоски антисциентиской позиции, т. е. убеждения в невозможности только научными методами решить проблемы человеческого4 бытия, базирующейся на подходе, близком к философской антропологии.
Ученые-марксисты, в свою очередь, считают, что в настоящее время "проблема человека" как раз становится одним из центральных моментов научного развития. Как указывал выдающийся советский психолог Б. Г. Ананьев (1907-1972), "...об этом можно судить по трем важным особенностям современной науки, связанным именно с проблемой человека. Первой из них является превращение проблемы человека в общую проблему всей науки в целом, всех ее разделов, включая точные и технические науки. Вторая особенность заключается во все возрастающей Дифференциации научного изучения человека, углубленной специализации отдельных дисциплин и их дробления на ряд все более частных учений.


Наконец, третья особенность современного научного развития характеризуется тенденцией к объединению различных наук, аспектов и методов; исследования человека в различные комплексные системы, к построению синтетических характеристик человеческого развития" (Б. Г. Ананьев. О проблемах современного человекознания.-М.: Наука, 1977, с. 6).
Марксизм связывает понимание сущности человека с общественными условиями его функционирования и развития, сознательной деятельностью, в ходе которой человек оказывается и предпосылкой, и продуктом истории.
Общепризнано, что, как показывает опыт, попытки разрешить проблему человека открывают все большие глубины непознанного в этой области исследования, недостаточность знаний человека об исторической природе человека и предельных значениях потенциала этой природы. Это наблюдение и служит, в сущности, основной предпосылкой для должной оценки роли кибернетики в изучении и имитации когнитивных процессов человека, а следовательно, ее вклада в разрешение "проблемы человека".
Как нам кажется, будущее (и настоящее) кибернетики в решении; "проблемы человека" определяется не антисциентистской позицией автора, но конкретной программой научных исследований, базирующихся на абстракции потенциальной осуществимости и предусматривающих синтетическое использование данных, получаемых различными, в том числе формально-логическими и "кибернетическими", в рамках отдельных направлений "человекознания". Более подробные сведения по этому поводу можно, помимо упоминавшихся в данном примечании, найти в следующих источниках: Б. Г. Ананьев. Человек как предмет познания, - Л.: изд-во ЛГУ, 1968; Б. В. Бирюков. Кибернетика и методология науки. - М.: Наука, 1974; Б. В. Бирюков, Е. С. Геллер. Кибернетика в гуманитарных науках. - М.: Наука, 1973; Кибернетика и современное научное познание. - М.: Наука, 1976; Кибернетика и диалектика. - М.: Наука, 1978; И. Б. Новик. Философские вопросы моделирования психики. - М.: Наука, 1969; Управление.


Информация. Интеллект/ Под ред. А. И. Берга, Б. В. Бирюкова, Е. С. Геллера, Т. Н. Поварова. - М.: Мысль, 1976; А. А. Братко, П. П. Волков, А. Н. Кочергин, Г. И. Царегородцев. Моделирование психической деятельности. - М.: Мысль, 1969; А. В. Брушлинский. Мышление и прогнозирование (логико-психологический анализ). - М.: Мысль, 1979; Человек и его бытие как проблема современной философии. Критический анализ некоторых буржуазных концепций. - М.: Наука, 1978]
Концепция чужеродности интеллекта определенным сферам мышления и действия является ключевой для понимания того, что, может быть, служит наиболее важным ограничением возможностей искусственного интеллекта. Однако эта концепция связана с взаимоотношениями людей, их отношением к машинам, а также узами, существующими между машинами и человеком. Дело в том, что социализация человека, хотя и основана на биологической конструкции, общей для всех людей, жестко детерминирована культурой. Человеческие же культуры очень разнообразны. Бесчисленные исследования подтверждают то, что должно было бы быть очевидным для всех наблюдателей панорамы человеческой жизни, за исключением самых узколобых: "Влияние культуры универсально в том смысле, что в некоторых отношениях она побуждает человека учиться быть таким, как все люди; особенно это проявляется в том, что человек, воспитывающийся в определенном обществе, учится быть в некоторых аспектах таким, каковы все члены этого общества, и отличным от того, каковы люди в иных обществах"12. Авторы этого высказывания специально занимались изучением японского общества и прожили много лет среди японцев. Продолжим знакомство с их наблюдениями:
"Нормой семейной жизни в Японии является акцент на взаимозависимость и взаимную поддержку, в то время как в Америке во главу угла ставится независимость и настойчивое отстаивание своих прав ... В Японии ребенок рассматривается как самостоятельный биологический организм, интересы развития которого с самого начала требуют его вступления в отношения взаимозависимости с другими людьми, со временем разрастающиеся во все большей и большей степени.


В Америке ребенок рассматривается, скорее, как зависимый биологический организм, интересы развития которого требуют обеспечения его все большей независимости от других людей."
"Японский ребенок кажется пассивным; он тихо лежит, издавая время от времени недовольные звуки, а его, мать, ухаживая за ним, в основном убаюкивает, укачивает и носит его на руках. Кажется, что главным образом она старается унять, успокоить ребенка и поддерживает с ним скорее физический, чем вербальный контакт. Американский же ребенок ведет себя активнее, издает радостные возгласы и исследует среду, которая его окружает; его мать, заботясь о нем, больше наблюдает за своим ребенком и разговаривает с ним. Судя по всему, она стимулирует активность ребенка и его голосовые реакции. Создается впечатление, что американская мать стремится иметь шумного и активного ребенка, а японская - спокойного и удовлетворенного. Характер материнского ухода, свойственный каждой из двух этих культур, обеспечивал им достижение того, к чему они, очевидно, стремились... значительная доля обучения, подготавливающая ребенка к жизни в определенной культуре, осуществляется в первые три-четыре месяца после рождения. ...за этот период ребенок обучается быть японцем или американцем в том отношении, что начинает вести себя именно таким образом, как ожидает от него его мать".
"[Взрослые] японцы отличаются более "коллективистскими" настроениями и осознанием взаимозависимости в своих отношениях с другими людьми, в то время как американцы более "индивидуалистичны" и независимы. ...Японцы стараются держаться более незаметно и ведут себя пассивнее, чем американцы, выглядящие более напористыми и энергичными...
Японцы более восприимчивы к невербальной коммуникации в отношениях между людьми и сознательно используют ее в различных формах при помощи жестикуляции и физического контакта в отличие от американцев, пользующихся преимущественно вербальной коммуникацией и не прибегающих с этими целями к физическому контакту".


" Если эти различные типы поведения могут быть освоены в возрасте три-четыре месяца и если они свойственны человеку на протяжении всей его жизни, то весьма вероятно существование важных областей жизни, в которых сопоставимые эмоциональные реакции людей, принадлежащих разным культурам, отличаются. Подобные различия с трудом поддаются сознательному контролю и помимо (в основном) воли человека они придают характерность и колоритность поведению человека. Эти различия... могут также вносить свою лепту в неразбериху и антагонизм, возникающие при попытках людей вступать в коммуникацию, минуя эмоциональные барьеры, воздвигаемые неодинаковостью их культур"13.
Столь глубокие различия в обучении на ранних стадиях жизни оказывают кардинальное влияние на характер общества в целом. Эти особенности, естественно, передаются от поколения к поколению и таким образом увековечиваются. Кроме того, они, конечно, должны помогать определению того, что членам соответствующих обществ известно о мире, в котором они живут, что следует считать "универсальными" культурными нормами и ценностями и к чему, следовательно, в каждой культуре стоит или не стоит относиться как к реальности. Эти особенности, например, устанавливают (это, в частности, относится к различиям между японскими и американскими социальными нормами), что отличает частные конфликты от общественных и какие, следовательно, методы разрешения конфликтов посредством судебного разбирательства уместны для защиты соответствующих интересов человека. Японцы традиционно предпочитают разрешать споры (даже те, официальное разрешение которых предусмотрено законом) теми средствами, которые на Западе рассматривались бы как неформальные. На самом деле в большинстве случаев эти средства определяются строгими ритуальными нормами, никак в явном виде не кодифицированными, но известными каждому японцу, принадлежащему соответствующей социальной страте. Этот тип знания впитывается с молоком матери и пронизывает весь процесс социализации, причем последний чрезвычайно тесно связан с процессом овладения человеком своим родным языком.


Это знание нельзя почерпнуть из книг; оно не поддается любым формам интерпретации - только сама жизнь может дать ее.
Таким образом, судья-американец, сколь бы высокими интеллектом и чувством справедливости не был наделен, не мог бы быть членом японского семейного суда. Его интеллект просто не приспособлен для решения проблем, возникающих в японской культуре. Верховный суд Соединенных Штатов полностью отдавал себе отчет в этом обстоятельстве еще в те времена, когда его юрисдикция распространялась на "заморские" территории. Например, рассматривая дело "Диас против Гонсалеса", слушавшееся в суде первой инстанции в Пуэрто-Рико, Верховный суд отказался отменить решение суда первой инстанции, т. е. местного суда. Судья Оливер У. Хоумс, формулируя решение суда, указал:
"Верховный суд неоднократно демонстрировал уважение к разрешению местными судами дел, имеющих сугубо локальный характер. Это особенно относится к решениям судов, имеющих традиции и действующих в системах, отличных от господствующих здесь. Когда мы рассматриваем подобную систему извне, она кажется нам глухой каменной стеной; каждая часть системы неотличима от остальных, по крайней мере до тех пор, пока подготовка, полученная нами в духе наших собственных "локальных" традиций, не заставит нас выделить те связи, к которым мы привыкли. Но для человека, воспитанного в такой системе, перемена акцентов, скрытые допущения, написанная практика, тысячи воздействий, которые может породить лишь сама жизнь, способны придать отдельным элементам совершенно новые значения, которые никак не удалось бы извлечь из книг ни с помощью логики, ни с помощью грамматики"14.
Таким образом, интеллект любого человека оказывается чужеродным для целого ряда сфер мышления и действия. Во всякой культуре существуют обширные области сугубо человеческих проблем, для которых ни один человек, принадлежащий иной культуре, не в состоянии дать конструктивных решений. Это не значит, что "посторонний" вообще не способен принимать решения - он всегда может, например, бросить монетку; дело, скорее, обстоит таким образом, что фундамент, на котором он должен был бы основывать свои решения, неизбежно окажется не соответствующим контексту искомого решения.


Что может казаться очевиднее такого факта: какого бы интеллектуального уровня вычислительная машина не смогла достигнуть (независимо от того, каким образом это могло бы быть обеспечено), этот интеллект всегда и неизбежно должен быть чужеродным всем истинно человеческим проблемам вместе взятым и каждой из них отдельно. Сама постановка вопроса "Что такого знает судья (или психиатр), чего мы не смогли бы сообщить вычислительной машине?" - чудовищное бесстыдство. То, что такой вопрос смог вообще попасть в печать, даже ради демонстрации его патологической природы, символ безумия наших дней.
Вычислительные машины способны выносить судебные определения, принимать решения, касающиеся судьбы психически больного. Они в состоянии подбрасывать монетки значительно более изощренными способами, чем самый упорный человек. Но дело в том, что вычислительным машинам не следует поручать решение подобных задач. В некоторых случаях они могли бы даже находить "правильные" решения, однако всегда и неизбежно на такой основе, которую ни один человек не захочет принять.
Было множество споров на тему "Вычислительные машины и Мозг". Я пришел к следующему выводу: проблемы, возникающие в рамках таких дебатов, не являются ни техническими, ни даже математическими: это этические проблемы. Их нельзя разрешать, ставя вопросы, начинающиеся с "можно ли...". Пределы применимости вычислительных машин по существу поддаются формулировке лишь в терминах долженствования. Самое простое соображение, вытекающее изо всего этого, заключается в том, что поскольку сегодня мы не знаем способов сделать вычислительные машины мудрыми, то мы не должны возлагать на них задачи, разрешение которых требует мудрости.

Непостижимые программы


В предыдущих главах мы выяснили, что представляют собой вычислительные машины, откуда возникает их мощь и каким образом можно их использовать для построения моделей и материализации теорий. Меня интересовали попытки придать вычислительным машинам разумное поведение, а не применять их для решения рутинных числовых задач. Мы рассмотрели и обсудили ряд известных исследовательских проектов, посвященных решению задач, имитации процессов познания и пониманию вычислительными машинами естественного языка; были представлены взгляды "искусственной интеллигенции", причем часто посредством цитирования высказываний ее признанных лидеров. Я почти не затрагивал неудачи исследователей искусственного интеллекта, поскольку они сопровождают любую исследовательскую деятельность, но отнюдь не обязательно служат признаком безнадежности - как раз наоборот, часто такие неудачи удобряют почву, на которой позже возникают более плодотворные идеи. К тому же сам по себе факт, что что-то еще не сделано или окончилась неудачей даже попытка сделать это, вовсе не служит свидетельством невозможности всего предприятия. Я старался избежать тривиальных и бесплодных споров (например, на тему о том, могут или нет вычислительные машины "в принципе" решить ту или иную специфическую задачу), поэтому, возможно, у читателей создалось впечатление, что я оцениваю потенциальную (хотя до сих пор не полностью используемую) мощь вычислительных машин выше, чем это на самом деле. Настаивая на существовании задач, возникающих перед человеком, но которые никогда не могут возникнуть перед машиной, в связи с чем человек способен знать вещи, которые никакой машине вообще знать не дано, я, возможно, создал впечатление, что все задачи, с которыми сталкивается и человек, и машина, потенциально разрешимы машинами. В мои намерения это не входило.

Успехи "искусственной интеллигенции" ограничиваются в основном триумфами технического характера. Их вклад в психологию познания или в практику решения задач невелик.
Конечно, были достижения, которые можно назвать побочными результатами, например усовершенствования в области языков программирования высокого уровня, вызванные потребностями искусственного интеллекта и влившиеся в основное русло работ по информатике. Однако это едва ли именно те результаты, появление которых в "обозримом будущем" предсказала все эти долгие годы "искусственная интеллигенция". За более чем двадцатилетнюю историю исследований в области искусственного интеллекта, почти нет результатов, которые используются в промышленности вообще и в производстве вычислительных машин в частности.
Исключение составляют две замечательные программы: "Dendral" и "Macsyma", имеющиеся в Станфордском университете и Массачусетском технологическом институте соответственно1. Обе программы выполняют сугубо технические функции, обсуждение которых выходит далеко за рамки задач нашей книги, но несколько слов о них мы скажем.
Программа "Dendral" интерпретирует выходные данные масс-спектрометров - приборов, применяемых для анализа молекул химических соединений. Обычно химики во время стажировки после получения ученой степени занимаются установлением химических структур молекул по так называемому спектру масс, полученному с помощью этого прибора. Их задача в какой-то степени аналогична задаче реконструкции жизни доисторического поселения по его развалинам, обнаруженным археологами. Однако между этими задачами имеется существенная разница: теория масс-спектрометрии существует, т. е. известно, каким образом прибор получает результат при анализе определенного химического продукта. Поэтому предложенное решение можно оценить, определив теоретически, какой спектр должен был бы быть получен с помощью прибора, если бы химическое соединение было именно таким, как указывает предварительное решение. К сожалению, влияние ограничений по точности лишает этот процесс обратной проверки абсолютной надежности. И все же аналитик находится в лучшем положении, чем археолог, поскольку последний не располагает мощными методами для проверки своих гипотез.


Переходя на более общий язык, можно, таким образом, сказать, что "Dendral"-программа, анализирующая спектры масс и воспроизводящая описания структур молекул, которые с очень высокой точностью порождают эти спектры. Компетентность программы соответствует компетентности химика в части анализа молекул органических соединений определенных классов или превосходит ее.
"Macsyma" - по современным стандартам очень большая программа, предназначенная для выполнения математических операций над символами. Она может работать с алгебраическими выражениями, содержащими формальные переменные, функции и числа. Она способна дифференцировать, интегрировать, брать пределы, решать уравнения, разлагать многочлены на множители, разлагать функции в степенные ряды и т. д. Все эти операции программа выполняет в символьном, а не в численном виде. Например, если ей предлагается взять интеграл

, то в качестве ответа она выдает

Естественно, если ей задаются числовые значения всех переменных, то программа выдаст численное значение всего выражения, но для нее это сравнительно тривиальная задача. В данном случае технические подробности соответствующих процедур снова выходят за пределы нашего обсуждения. Важно здесь то, что, как и в случае программы "Dendral", существуют хорошие теории, указывающие способ осуществления необходимых преобразований. Самым важным, особенно для символического интегрирования, является то обстоятельство, что можно (при помощи дифференцирования) проверить, представляет ли полученное решение истинное решение, причем в случае интегрирования эта проверка абсолютно надежна. И точно так же, как в программе "Dendral", задача, решаемая программой "Macsyma", относится к разряду тех, которые обычно выполняются лишь высококвалифицированными специалистами.
Обе программы существенно обязаны искусственному интеллекту. В них двумя различными способами используются эвристические методы решения задач. Во-первых, в тот период, когда разработка этих программ начиналась, теории, ныне лежащие в их основе, не были разработаны в такой степени, чтобы их можно было моделировать на языке эффективных процедур.


И тем не менее человек мог решать соответствующие задачи. Первоначальная задача, таким образом, заключалась в том, чтобы получить от специалистов эвристики, используемые ими, когда они делают то, что они делают. Первые варианты этих программ представляли собой некую смесь алгоритмов, отражающих хорошо понятные аспекты задач, и закодированных процедур, воспроизводящих конгломерат всех тех фрагментов эвристических методов, которые удалось вытянуть из специалистов.
В процессе работы, однако, эвристические компоненты программ становились все понятнее, что и создавало предпосылки их использования для совершенствования соответствующих теорий. Благодаря этому процессу обе программы постепенно модифицировались до тех пор, пока, по существу, не стали полностью базироваться на соответствующих теоретических положениях.
Во-вторых, эвристические методы использовались и продолжают использоваться в обеих программах ради обеспечения эффективности их работы. Обе программы генерируют подзадачи, которые, хотя, в принципе, и разрешимы с помощью прямых алгоритмических средств, оказываются значительно проще, если они предварительно классифицируются как допускающие решение с помощью некоторой специальной функции, а затем их решение и поручается этой функции. Разработка и усовершенствование обоих путей использования эвристических методов так же, как и многих самих этих методов, является результатом исследований, выполнявшихся в области искусственного интеллекта.
Обе программы отличаются от большинства остальных программ, разработанных в рамках искусственного интеллекта, именно тем, что они прочно покоятся на фундаменте глубоких теорий. Основной вклад в теоретический фундамент программы "Dendral" принадлежит Джошуа Ледербергу, генетику, удостоенному Нобелевской премии; теоретическую основу программы "Macsyma" составляют, главным образом, результаты профессора Джоэла Мозеса, исключительно талантливого и квалифицированного математика из Массачусетского технологического института.


Существует множество других важных и плодотворных приложений вычислительных машин. Так, вычислительные машины управляют полностью работой нефтеочистительных заводов, пилотируют космические летательные аппараты и контролируют в целом среду, в которой протекает деятельность астронавтов. Соответствующие программы вычислительных машин базируются на математической теории управления и надежных физических теориях. Подобные программы, обладающие теоретической базой, имеют очень важное преимущество: в случаях, когда их работа нарушается, наблюдающий за ними человек-оператор может установить, что результаты не соответствуют предписываемым теорией, и в состоянии при помощи теории выявить причину ошибки.
Однако большинство существующих ныне программ, особенно наиболее важные из них, не базируются в этом смысле на какой-либо теории. Эти программы имеют эвристический характер, но не обязательно в том смысле, что в них непосредственно используются эвристические методы; их эвристичность заключается в том, что их конструкция основывается на эмпирических приемах, уловках, предположительно "работающих" в большинстве потенциально возможных случаев, и на прочих специфических механизмах, вводимых время от времени в программы.
Моя программа "Элиза" относится именно к такому типу. Такова же система понимания языка, разработанная Виноградом, а также система GPS Ньюэлла и Саймона, несмотря на все уверения в противоположном. Еще важнее обстоятельство, что все очень большие программы вычислительных машин, повседневно используемые в промышленности, правительственных учреждениях и университетах, также принадлежат к этому типу. Эти гигантские вычислительные системы обычно собирают (слово "разрабатывают" можно использовать не всегда) коллективы программистов, работа которых иногда растягивается на много лет. К моменту начала использования этих систем большинство программистов, стоявших у истоков работы, уходит или переключается на другие задачи. Именно к тому моменту, когда подобные системы начинают эксплуатироваться, их устройство уже недоступно пониманию ни какого-либо одного человека, ни небольшой группы людей.


Норберт Винер, отец кибернетики, предсказал это явление в своей замечательно прозорливой статье, опубликованной много лет назад. Он писал:
"Вполне может оказаться, что, в принципе, мы не в состоянии создать машину, элементы поведения которой мы не сможем рано или поздно понять. Это никоим образом не значит, что мы окажемся в состоянии понять эти элементы за время, существенно меньшее требующегося для работы машины, или даже за любое заранее заданное число лет или поколений".
"Осмысленное понимание характера функционирования машины может быть достигнуто много позже, чем будет завершено выполнение той задачи, ради которой машина создается... Это означает, что, хотя теоретически машины поддаются критической оценке человека, она может быть неэффективна еще в течение очень длительного периода после того, когда была нужна"2.
То, что Норберт Винер рассматривал как возможность, много лет спустя превратилось в реальность. Очевидно, для неспециалиста почти невозможно понять или принять причины этого явления. Непонимание им того, что на самом деле представляет собой вычислительные машины, что они делают и каким образом, на самом деле, они это делают, частично связано с широким распространением механической метафоры и глубиной ее проникновения в подсознание всей нашей культуры. Это наследие влияния, оказанного на воображение общества теми сравнительно простыми машинами, которые преобразовали нашу жизнь в XVIII и XIX вв.
Практически для каждого человека, живущего в промышленно развитой стране, "второй натурой" стало убеждение в том, что понять нечто - значит понять в терминах механистических категорий. Такой точки зрения придерживались даже крупнейшие ученые конца XIX в. Лорд Кельвин (1824-1907) писал:
"Я никогда не чувствовал себя удовлетворенным до тех пор, пока не был в состоянии построить механическую модель явления. Если я мог построить механическую модель, я был в состоянии понять явление. Если же я не мог построить некоторую механическую модель, объясняющую явление от "а" до "я", я был не в состоянии понимать его"3.


Выражением соответствующих современных настроений является убеждение Минского в том, что понимание музыки и "исполненных глубокого смысла картин" означает способность писать машинные программы, обеспечивающие создание подобных произведений. Однако если Минский полностью осознает, что вычислительные машины - это не те машины, которые можно было бы отождествлять с механизмами, известными лорду Кельвину, то неспециалист считает, что дело обстоит как раз наоборот. Для него вычислительные машины и машинные программы имеют "механическую природу" в том же простом смысле, что и паровая машина или коробка передач автомобиля.
Эта вера (а среди неспециалистов ее разделяют практически все) поддерживается одним лозунгом, который часто повторяют сами ученые в области информатики: "До тех пор пока некий процесс не определен абсолютно точно, его нельзя реализовать на вычислительной машине". Однако этот лозунг справедлив лишь при очень ограниченной и весьма необычной интерпретации значения понятия "определить процесс". Если в запоминающее устройство вычислительной машины ввести, например, случайную комбинацию битов и предложить вычислительной машине интерпретировать ее как некоторую программу, то при условии, что она вообще будет "работать", эта комбинация представит собой "определение" некоторого процесса. Обычно под определением программы понимается, что некий посредник (допустим, человек) работает над тем, что должно служить программой, прежде чем вводить ее в вычислительную машину. Неспециалист, услышав упомянутый лозунг, считает, что сам факт реализации некоторой программы на некоторой вычислительной машине служит гарантией предварительного определения неким программистом процесса, который эта программа воспроизводит, и понимания им этого процесса во всех подробностях.
Но факты противоречат этому убеждению. Большая программа-это, обращаясь к аналогии, к которой прибегает и Минский, замысловатая сеть судов, т. е. подпрограмм, улики которым предоставляются другими подпрограммами.


Эти суды взвешивают (оценивают) полученные ими данные и затем сообщают свои судебные решения еще каким-то судам. Вердикты, выносимые этими судами, могут содержать и часто действительно содержат решения о том, что подпадает под "юрисдикцию" суда, принятые на основе промежуточных результатов, подвергающихся затем обработке. Программист, таким образом, не в состоянии проследить даже процесс принятия решений в пределах собственной программы, не говоря уже о том, какие промежуточные или окончательные результаты она выдаст. Определение программы напоминает скорее рождение бюрократической системы, чем создание известной лорду Кельвину машины. Минский так характеризует это явление:
"Программист сам устанавливает... "правовые" принципы, допускающие... "апелляции", он может лишь в очень ограниченной степени понимать, когда и где в ходе работы программы эти процедуры будут вызывать друг друга. Что касается некоторого конкретного "суда", то он располагает лишь поверхностным представлением о некоторых обстоятельствах, которые могут привести к обращению к нему. Короче говоря, перестав быть начинающими,... программисты пишут не "последовательности" [команд], а административные инструкции для членов небольших обществ. При всем старании часто программист просто не в состоянии заранее полностью предвидеть все детали их взаимодействия. Поэтому, в конце концов, ему и нужна вычислительная машина"4.
Продолжая, Минский приводит следующие очень важные наблюдения:
"Когда мощь программы возрастает в результате ее "эволюции" из отдельных фрагментов и режимов работы, понимаемых лишь частично, программист уже не может прослеживать "внутренние" детали ее работы, теряет способность предсказывать, что будет происходить в программе, не знает, а надеется, и ждет результатов работы программы так, как если бы она была неким индивидуумом, модусы поведения которого точно не известны".
"Так обстоит дело уже в некоторых больших программах..., вскоре ситуация станет острее ...Большие эвристические программы будут создаваться и модифицироваться несколькими программистами одновременно, каждый из которых станет проверять их с помощью примеров, работая на [дистанционных] пультах управления вычислительной машины и вводя усовершенствования в программу совершенно независимо.


Эффективность программы будет расти, но ни один из программистов не сможет понимать ее полностью. (Естественно, подобный метод не всегда приводит к успеху - такое "взаимодействие" может ухудшить программу, и никому уже не удастся ее исправить!) Теперь понятно, в чем заключается истинный недостаток утверждений типа "она делает только то, что программист предписывает ей делать". Не существует какого-то одного определенного программиста"5.
Вернемся к одной из предыдущих тем. Непонятно, как программа типа, описываемого Минским, скажем, создающая "великую" музыку, помогает нам понимать музыку, если саму программу мы не можем понять.
Еще важнее другое: если программа ускользает из сферы, доступной пониманию своих создателей, то какой смысл они вкладывают в оценки типа "рост эффективности" или, коли на то пошло, "ухудшение"? Как преподаватели (а мы все преподаватели) мы, конечно, всегда надеемся, что эффективность наших учеников в обращении с тем, что является предметом обучения, возрастет. И обычно мы не считаем, что сами должны "понимать" процессы, развитие которых хотели бы стимулировать у своих студентов, т. е. понимать их так же, как, скажем, понимаем действие часов. Более того, мы надеемся на своих студентов, полагаемся на них и верим в них.
Совершенно несомненно, что Минский призывает нас к доверию именно такого рода к сложным программам искусственного интеллекта, эффективность которых растет, но сами они начинают выходить за пределы возможностей нашего понимания. Его точка зрения вполне обоснованна, если речь идет о программах, для которых есть рабочие критерии, позволяющие нам определять (причем за приемлемое время), что поведение этих программ выходит за пределы допустимого диапазона или по какой-то причине им больше нельзя доверять. Как отмечалось выше, к этому типу относятся программы, являющиеся, в сущности, моделями хорошо разработанных теорий, даже несмотря на то, что ни одна группа программистов детально не понимает внутреннюю организацию самих программ.


То же самое относится и к программам, отклонение которых от предписанных значений рабочих критериев можно обнаружить при выборочным контроле за их поведением (при условии, что: 1) имеется кто-то, кому поручено наблюдать за их поведением; 2) он может вовремя вмешаться, чтобы предотвратить катастрофу). Сегодня, однако, существует множество очень больших и очень сложных программ, выполняющих важные задачи, но не отвечающих указанным требованиям.
Оценка Минского, а она совершенно точна, является чрезвычайно важной. Она свидетельствует о том, что ситуация, описанная Норбертом Винером в 1960 г. как возможность, быстро становилась и теперь стала реальностью. Более того, слова Минского приобретают особую важность в связи с тем, что принадлежат одному из ведущих создателей и представителей искусственного интеллекта и цель их - воздействие на смутные представления гуманитариев путем восхваления мощи вычислительных машин, но не подчеркивание ее ограниченности.
Растущая зависимость нашего общества от вычислительных систем, сначала предназначавшихся для "содействия" людям в проведении анализа и принятия решений и уже давно ставших недоступными для понимания своих пользователей, но и незаменимыми для них, - это очень серьезное явление. Оно имеет два важных следствия. Во-первых, решения выносятся с помощью вычислительных машин, а иногда принятие решений полностью им перепоручается - программы же этих вычислительных машин больше никто не может вполне отчетливо знать или понимать. Следовательно, никому не могут быть известны критерии или правила, на основе которых подобные решения вырабатываются. Во-вторых, системы правил и критериев, реализованных в подобных вычислительных системах, приобретают иммунитет к изменениям, поскольку из-за отсутствия детального понимания внутреннего "устройства" вычислительной системы любая существенная ее модификация с очень большой вероятностью делает ее неработоспособной и, возможно, не поддающейся возвращению в прежнее состояние.


Таким образом, подобные вычислительные системы могут только разрастаться, причем и их рост, и увеличивающаяся зависимость от них сопровождаются в результате ростом "законной силы" их "базы знаний".
Профессор Филип Моррисон (Массачусетский технологический институт) рассказал по этому поводу одну поучительную историю.
"На стене моего кабинета висит карта мира, воспроизведенная вычислительной машиной и, следовательно, не столь красивая, как нарисованная картографом. На ней с помощью восьми-десяти тысяч точек даны резкие очертания гигантских плит, образующих земную кору; эти плиты, расходясь, сталкиваясь или наползая друг на друга, вызывают большинство, а может быть, и почти все значительные землетрясения. Карта реализует это представление, поскольку ее точечные очертания плит образованы тысячами очагов землетрясений".
Курьез заключается вот в чем. Сейсмологи, участвовавшие в создании этой карты, указывали, причем как-то даже оправдываясь, что все записи землетрясений, сделанные ими самими, имели один и тот же стандартный формат, обеспечивающий простой ввод этих данных в машину для локализации соответствующих точек на карте, и поэтому они могли пользоваться только собственными данными.
"Несомненно, они сознавали, что история сейсмологии не ограничивается этим десятилетием, но не приложили усилий ни для того, чтобы связать данные, полученные в прошлом, со стандартной системой координат, ни для того, чтобы привести к пригодному для ввода в свою вычислительную машину виду чрезвычайно многочисленные и разнообразные литературные данные за период с 1840 по 1961 годы, - все это осталось за пределами их работы. В результате они пренебрегли всеми научными данными, полученными до 1961 года, и учли лишь землетрясения, зарегистрированные их собственной всемирной сетью сейсмоприемников в период между 1961 и 1967 годами. Это составляло, однако, столько же землетрясений, сколько было зарегистрировано прежде. Они потеряли коэффициент, равный двум, что в статистическом смысле немного; обрели же они то преимущество, что избавились от необходимости читать и толковать все эти непонятные немецкие журналы".


"Эта поучительная история связана с вычислительными машинами. Как и во всех поучительных историях, в ней есть определенная внутренняя напряженность: она в равной мере льет воду на мельницу и врагов, и друзей вычислительной машины. Для друзей очевидно, что эта грандиозная коллекция эпицентров, определяющих очертания тектонических плит, представляет собой, возможно, единственный выдающийся результат подобного сводного исследования. Неспециалист оказывается загипнотизированным зрелищем трещин и расколов. Наконец, мы знаем нечто о Земле в целом. С другой стороны, весьма поразителен столь непринужденный отказ ото всей истории целой науки."
"Мораль этой истории вполне очевидна: никто, даже самый прямолинейный сторонник обработки данных на вычислительных машинах, не стал бы утверждать, что все началось в 1961 году, даже если наши нынешние совместные данные имеют в качестве исходной точки эту дату. Прошлое - это необходимый пролог: оно было свидетелем формирования концепций, становления методов, появления приборов, возникновения идеи систематической регистрации данных и т. д. Все это вкупе характеризует пройденный путь; я уверен, что лишь в результате того, что он уже пройден, "Управление геодезической съемки побережья" ("Coast and Geodetic Survey") и иже с ним в состоянии выпускать такие расчудесные карты".6
Вычислительная машина, таким образом, превратилась в. средство уничтожения истории. Если общество признает "законными" лишь те "данные", которые "записаны в одном и том же стандартном формате" и "легко поддаются вводу в вычислительную машину", то в этом случае история, сама живая память, отменяется. Газета "Нью-Йорк Тайме" уже приступила к созданию "банка данных" для текущих событий. Естественно, в эту систему смогут вводиться лишь те данные, которые можно без труда получить в качестве побочного результата работы шрифтонаборных машин. Число абонентов этой системы растет и они привыкают все больше и больше полагаться на "все те новости, которые заслуживают [однажды заслужили] публикаций" (как "Нью-Йорк Таймс" гордо определяет свою редакционную политику).


Возникает вопрос: сколько должно пройти времени, чтобы система стала устанавливать, что является истинным событием, а все иные знания, хранящиеся в нашей памяти, объявлять несуществующими. Вскоре будет построена суперсистема с банком данных "Нью-Йорк Таймс" в основе (или с другим, очень сходным с ним). С ее помощью "историки" будут судить о том, что "на самом деле" происходило, кто с кем был связан, какова была "истинная" логика событий. Много людей сегодня не видят во всем этом ничего дурного.
Чтобы дополнить поучительную историю, рассказанную Моррисоном, нет нужды обращаться к системам, которые появятся в будущем. Во время войны США с Вьетнамом [Прим. перев.: Вьетнам был захвачен Францией во второй половине XIX в. В 1941-1945 гг. был оккупирован японскими войсками. Августовская революция 1945 г. завершилась провозглашением Демократической Республики Вьетнам (ДРВ). В 1945-1946 гг. французские войска развернули военные действия на юге Вьетнама, а затем распространили их на территорию всей страны. На оккупированной Францией территории в 1949 г. было создано так называемое Государство Вьетнам. Женевские соглашения 1954 г. об Индокитае положили конец войне Франции против народов Вьетнама, Лаоса и Камбоджи. В 1955-1956 гг. вместо профранцузского режима в Южном Вьетнаме был создан проамериканский режим. Выполнение Женевских соглашений о мирном объединении Вьетнама было сорвано. В Южном Вьетнаме началось освободительное движение, которое возглавил основанный в 1960 г. Национальный фронт освобождения Южного Вьетнама. В 1964-1965 гг. США развернули воздушную войну против ДРВ, в 1965 г. ввели в Южный Вьетнам войска, взяли на себя непосредственное ведение войны. В январе 1973 г. подписано Парижское соглашение о прекращении войны и восстановлении мира во Вьетнаме. Режим Южного Вьетнама был свергнут весной 1976 г. В июле 1976 г. было завершено государственное воссоединение Вьетнама, провозглашена Социалистическая республика Вьетнам (СРВ)] вычислительные машины, используемые офицерами, не имевшими ни малейшего понятия о том, что происходит внутри этих машин, фактически определяли, какие деревни должны подвергнуться бомбардировке и в каких зонах концентрация вьетконговцев [Прим.


перев.: Вьетконговцами во время войны США с Вьетнамом (1965-1973 гг.) в западных странах называли вооруженные силы Национального фронта освобождения Южного Вьетнама и его сторонников] достаточна для того, чтобы "имелись основания" объявить их "зонами стрельбы без предупреждения", т. е. в обширных географических районах летчики наделялись "правом" убивать любое живое существо.
Естественно, в эти машины могли вводиться лишь "машиносчитываемые" данные, а именно, главным образом, информация о целях, поступающая от других вычислительных машин. И когда президент США принял решение о бомбардировке Камбоджи и сохранении этого решения в секрете от Конгресса США, вычислительные машины Пентагона были "настроены" так, чтобы на основе истинных сообщений о воздушных налетах, поступавших с места действия, фабриковать ложные сообщения, которые передавались руководителям правительства [Прим. перев.: Дж. Вейценбаум имеет в виду принятое президентом США Ричардом Никсоном в апреле 1970 г. решение о вооруженном вмешательстве в гражданскую войну в Камбодже (ныне Народная Республика Кампучия) после произведенного там правыми силами под руководством генерала Лон Нола государственного переворота (18 марта 1970 г.) и установления так называемого "пномпеньского режима". Под предлогом "угрозы для жизни американских солдат" в страну на несколько месяцев были введены американские и южновьетнамские войска, и отдельные районы Камбоджи были подвергнуты бомбардировке с воздуха].
История не просто уничтожалась, она переписывалась заново. И высшее звено правительственного аппарата, считавшее, что оно обладает привилегией доступа к секретным сообщениям, источником которых на самом деле являлись вычислительные машины Пентагона, естественно, этим сообщениям верило. В конце концов, говорили сами вычислительные машины. Правительственный аппарат не сознавал того, что превратился в "рабов" своих вычислительных машин (по выражению самого адмирала Мурера).


Обучая свои вычислительные машины лжи, которую те должны были передавать другим людям, сами наставники попадали в ее сети [прим. авт.: Согласно сообщению Симора Херша в газете "Нью-Йорк Тайме" от 10 августа 1973 г. адмирал Томас Мурер, председатель Объединенного комитета начальников штабов, давая показания Комитету Сената США по делам вооруженных сил (U. S. Senate Armed Services Committee), заявил, что данные о воздушных налетах на Камбоджу вводились в "большую вычислительную машину Пентагона для обработки данных" в виде данных о налетах на Южный Вьетнам. В том же сообщении приведена фотокопия донесения о воздушном налете, содержащего следующую запись: "Все боевые вылеты на цели в Камбодже будут программироваться как налеты на запасные цели в Южном Вьетнаме". Сообщается, что адмирал Мурер заявил в Комитете Сената: "К несчастью, мы превратились в рабов этих чертовых вычислительных машин"].
В современной войне солдата, например, летчика, пилотирующего бомбардировщик, и его жертвы разделяет колоссальная психологическая дистанция. Он не чувствует себя ответственным за сожженных детей, потому что никогда не видит ни деревни, в которой они жили, ни своих бомб, ни конечно, самих горящих детей. Техническая рационализация, которой в наши дни подверглись военная, дипломатическая, политическая и коммерческая сферы (например, "игры", имитируемые; с помощью вычислительных машин), оказала еще более пагубное влияние на процессы выработки политики. Политики не только возложили собственную ответственность за принятие решений на технику, действие которой они не понимают (сохраняя в то же время иллюзию, что они, творцы политики, ставят политические-проблемы и находят их решения), одновременно улетучивается и сама ответственность. Не только адмирал наивысшего ранга военно-морского флота США в, редкий момент откровения осознает, что он превратился, в "раба этих чертовых вычислительных машин", что ему не остается ничего другого, как основывать свои решения на том, "что скажет вычислительная машина", но вообще ни один человек не несет ответственности за результаты, предлагаемые вычислительной машиной.


Громадные вычислительные системы Пентагона и подобные им вычислительные системы, рассеянные в нашей культуре, в самом непосредственном смысле слова не имеют авторов. Поэтому они не допускают постановки вопросов о правильности или неправильности, справедливости, о какой-то теории, с которой можно соглашаться или не соглашаться. Они не представляют никакой основы для проверки того, "что говорит машина". Мой отец, желая опереться на высший авторитет, обычно говорил: "Это напечатано!". Однако затем я читал напечатанный текст, пытался представить себе человека, написавшего его, определить его взгляды и, наконец, соглашался или не соглашался с ним. Вычислительные системы не дают человеку возможности воспользоваться своим воображением, чтобы, в конце концов, он, мог вынести аутентичное суждение.
Не удивительно, что все, кто повседневно имеют дело с машинами, рабами которых они начинают ощущать-себя, приходят к мысли, что люди-машины. Например, один видный ученый сформулировал это так:
"На самого Человека можно смотреть как на продукт... эволюционного процесса развития роботов, поврежденных более простыми роботами, и так далее к истокам, вплоть до первобытной слизи; ...его нравственность - [это] нечто, поддающееся интерпретации в терминах работы соответствующих схем... Человек, погруженный в свою среду, - это некоторая машина Тьюринга, для которой определены лишь две обратные связи - желание играть и желание выиграть"7.
Можно ожидать, что значительная часть людей, живущих в обществе, в котором безымянные, а следовательно, ни за что не отвечающие силы определяют, что именно является главными проблемами дня и каков допустимый диапазон для поиска их решений, будет ощущать свое бессилие и окажется жертвой бессмысленной ярости. И мы действительно убеждаемся в том, что эти ожидания входят в нашу жизнь как реальность - в университетских городках и на заводах, дома и в учреждениях. Эта реальность проявляется в уничтожении рабочими продуктов своего труда, в волнениях и безразличии студентов, в преступлениях, совершаемых на наших улицах, в бегстве в мир навеянных наркотиками видений и т.


д. Тем не менее очень распространена и другая реакция; с одной точки зрения она воспринимается как позиция "неучастия", а с другой она представляет собой то, что Эрих Фромм давным-давно определил как "бегство от свободы".
[Прим. перев.: Эрих Фромм (1900-1980)-немецко-американский философ, психолог и социолог, один из главных представителей неофрейдистской школы ("культурного психоанализа"). В отличие от Фрейда для Фромма характерна меньшая биологизация сущности человека и переход к "социопсихологизму", что приближает исходные положения Фромма к экзистенциализму. Фромм занимался выяснением механизма взаимоотношений психологических и социальных факторов общественного развития. Согласно Фромму собственно человеческое начинается лишь там, где кончается природное; оно коренится в специфике человеческого существования. По Фромму, основная психическая потребность индивидуума - установить систему отношений к миру и обществу. Двойственность положения человека в мире (как природного и надприродного существа) порождает основную историческую "дихотомию": наряду со стремлением к свободе и независимости человека как мыслящего существа в нем также укоренено и стремление к безопасности ("бегство от свободы"), которое лишь принимает в ходе истории различные формы. Ставя своей задачей создание целостной концепции человека, Фромм ищет ее решение в объединении социального и индивидуально-психологического подходов, точнее - в попытке "синтезировать" марксизм и фрейдизм. Связующим звеном между психикой индивидуума и социальной структурой общества у Фромма является социальный характер.
Фромм стремился сделать свою теорию основой для перестройки общества в духе утопических проектов создания гармонического "здорового общества", используя просветительские методы "социальной терапии", особенно эффективные, по его мнению, в период дошедшего до предела человеческого отчуждения]
"Хороший немец" мог в гитлеровские времена спать совершенно спокойно, потому что он "не знал" о Дахау [Прим.


перев.: Дахау - первый гитлеровский концентрационный лагерь, организованный гестапо в 1934 г. недалеко от центра Мюнхена. В этом лагере, просуществовавшем вплоть до вступления в Мюнхен войск союзников, содержались 250 тыс. граждан Германии и оккупированных ею стран. 70 тыс. из них были замучены или убиты]. А не знал, как объяснял он позже, потому, что четко организованная нацистская система держала его в неведении. (Любопытно, что я, еще подросток, живший в той же Германии, знал о Дахау. Я считал, что у меня были основания испытывать ужас перед Дахау). Конечно, истинная причина того, что "хороший немец" ничего не знал, заключается в том, что он никогда не считал своим долгом выяснять, почему исчез его сосед-еврей, квартира которого неожиданно освободилась. Профессор университета, мечтающий добиться места заведующего кафедрой и неожиданно это место получающий, не спрашивал, каким образом вожделенная кафедра вдруг освободилась. В конце концов, все немцы стали жертвами своей судьбы.
Сегодня даже самые высокопоставленные руководители изображают себя невинными жертвами техники, ответственность за действие которой они на себя не принимают, а на понимание ее даже не претендуют. (Следовало бы, однако, поинтересоваться, почему адмиралу Муреру никогда не приходило в голову узнать, какой эффект произвели миллионы тонн бомб, сброшенных в соответствии с указанием вычислительной машины на Вьетнам.) Государственный секретарь США доктор Генри Киссинджер, объясняя, что ему было известна очень немногое о "кошмарах Белого Дома", выяснившихся в процессе расследования "уотергейского дела", с горечью говорил о "фатальности событий и трагедии, в которую оказались вовлеченными столько людей" [Прим. перeв.: "Уотергейтское дело" в 1973-1974 гг. находилось в центре политической и общественной жизни США и приняло характер общенационального потрясения. Суть его в следующем. В ночь на 17 июня 1972 г. (год очередных президентских выборов в США) в штаб-квартире демократической партии США, размещавшейся в крупном вашингтонском отеле "Уотергейт", была обнаружена и задержана группа лиц, тайно проникших туда для установки подслушивающей аппаратуры.


В процессе расследования было установлено, что президент США Ричард Никсон, республиканец, переизбранный в ноябре 1972 г. на второй срок президентства, был непосредственно причастен к организации попытки установить подслушивающую аппаратуру, а в ходе расследования отказывался сотрудничать со следственными органами, давал ложные сведения и пытался использовать полномочия президента для того, чтобы прекратить расследование или ввести следователей в заблуждение. Одновременно выяснилось, что ряд высокопоставленных сотрудников правительственного аппарата и аппарата Белого Дома, в том числе и вице-президент С. Агню, были замешаны в коррупции. Все это привело к тому, что под угрозой импичмента (отзыва с поста президента по суду) Р. Никсон подал в августе 1974 г. в отставку. (Как было установлено, Г. Киссинджер - помощник президента пo вопросам национальной безопасности и государственный секретарь США в правительствах Р. Никсона и Д. Форда (1973-1977 гг.) в "уотергейтском деле" замешан не был)]
"В этой трагедии, представленной подобным образом, есть действие, но нет действующих лиц. Лишь "события" были "ужасны" - не отдельные люди или официальные лица. В таком омертвленном представлении нарушение закона и обман людей не планировался ж не практиковался: это просто "происходило""8.
Миф о технической, политической или социальной неизбежности - очень эффективное средство для успокоения совести. Его действие заключается в том, что оно снимает ответственность с плеч всякого, по-настоящему в него верящего.
Но на самом-то деле действующие лица существуют! Вот что, например, говорится в документе, обосновывающем будущие исследования и распространенном директором ведущей вычислительной лаборатории ведущего университета среди профессорско-преподавательского состава и персонала лаборатории9.
"Большая часть наших исследований финансируется правительством США и, в частности, министерством обороны, причем в будущем, вероятно, эта финансовая поддержка будет продолжаться.


Министерство обороны, так же как и другие правительственные агентства, занимается разработкой и эксплуатацией сложных систем, обладающих очень большим разрушительным потенциалом и во все большей степени управляемых и контролируемых с помощью цифровых вычислительных машин. Эти системы в значительной степени отвечают за поддержание в мире мира и стабильности и в то же время способны привести в действие силы, разрушительный эффект которых для человека почти непостижим."
Обратите внимание - ответственностью наделяются системы, а не люди. Как бы то ни было, реверанс в сторону их разрушительного потенциала сделан - и достаточно; теперь автор переходит к тому, что его действительно заботит:
"Решающее значение вычислительных машин более отчетливо проявляется в приложениях, связанных с военной сферой, чем при их использовании в гражданских сферах жизни общества. Но большинство из нас уже в достаточной степени осознало прогрессивно увеличивающуюся зависимость торговли и промышленности от вычислительных машин, чтобы представить себе, как само функционирование общества может попасть в зависимость от упорядоченного и целенаправленного выполнения каждую секунду миллиардов электронных команд. ...Самые различные организации будут располагать грандиозными системами, оснащенными быстродействующей памятью с произвольной выборкой в миллионы слов, способными выполнять десятки миллионов операций в секунду. Большая часть этих вычислительных машин будет связана между собой, образуя комплексы сетей, благодаря которым они смогут иметь доступ (контролируемый с помощью механизмов, созданных на основе того, над чем некоторые из нас работают сегодня) ко всей той информации, которая имеется обо всем и обо всех. И нет никаких преград для реализации этой тенденции развития вычислительной техники..."
"Особенно значительную роль мы могли бы сыграть в области программирования и контроля за работой вычислительных машин. Вполне возможно, что никакая иная организация не пригодна для исполнения этой роли в той степени, как наша, причем, быть может, сегодня в науке и технике нет роли более важной."


" Важность этой роли определяется, как уже отмечалось, тем обстоятельством, что вычислительная машина включила себя и, несомненно, будет продолжать включать себя в осуществление большинства функций, имеющих фундаментальное значение для существования, защиты и развития нашего общества. Уже сегодня нельзя повернуть назад, а через несколько лет станет совершенно очевидно, что обработка информации на наших вычислительных машинах столь же жизненно необходима для нас, как и зерно, созревающее на полях, и поток топлива из скважин".
Здесь нет и малейшего намека на вопрос, хотим ли мы такого будущего. Оно просто наступает. Мы беспомощны перед лицом подобного развития, которому без указания каких-либо причин просто нельзя помешать. Назад пути нет. Этот вопрос не подлежит обсуждению.
"Имеется много аспектов общей задачи овладения и контроля. Их диапазон широк - от сугубо философских проблем, касающихся значений, целей и обеспечения соответствия плана и реального поведения сложной системы, до почти чисто технической задачи отыскания сбоев в подпрограммах."
(На машинном жаргоне "сбой" [Прим. перев.: В оригинале использовано английское слово "bug"] - ошибка программирования.) Обратите внимание, какой узкий (технический) взгляд на философию здесь демонстрируется. Продолжим далее:
"Нельзя считать удовлетворительными методы программирования, допускающие проникновение ошибок в программы. Вероятно, лучший способ исключить ошибки - разработать безошибочные методы программирования. Тем не менее отладка [устранение из программ ошибок] должна оставаться в центре внимания исследований, посвященных программированию. Исследования, связанные с отладкой, помогут проникнуть в целый ряд проблем, касающихся формулирования и выражения намерений человека. Дело не ограничивается составлением программы, воспроизводящей постановку и решение задачи. По мере развития программирования сфера решения задач будет постоянно расширяться, увеличивая тем самым пространство приложений.


Целью должен служить метод программирования, обеспечивающий отсутствие ошибок и внезапных отказов при работе на этих высших уровнях точно так же, как он обеспечивает это на низших".
Особенно примечательно во всем этом то, что основное, а в действительности, единственное препятствие "решению задач", даже на "этих высших уровнях", рассматривается как проблема, целиком сводящаяся к техническим ошибкам. Значит, в обществе нет подлинных конфликтов. Раз мы понимаем "намерения человека" как техническую, в сущности, проблему, то все остальное - дело техники.
"Вычислительные машины, почти наверное, при выполнении своих задач свободны от ошибок в большей степени, чем люди. Если мы создадим программу для написания программ, то в результате будет сделан большой шаг по пути к программному обеспечению, не требующему отладки. Однако важно не замазывать проблемы, возникающие на стыке постановки задачи человеком и понимания ее вычислительной машиной. Маловероятно, что вычислительная машина составит приличную программу, если ее понимание задачи не будет абсолютно правильным..."
"Возможно, важную основу для усовершенствования программирования и отладки составляет моделирование. ...Вначале программист использует подобные модели, имеющиеся в его распоряжении, как вспомогательное средство. К концу эти модели, объединенные в одну всеобъемлющую модель, выполняют большую часть программирования и отладки, но программист все еще играет заметную роль, наблюдая за процессом программирования, разрешая сложные случаи, осуществляя эвристическое управление или что-то в этом роде. В конце концов, при благоприятном исходе модель становится системой автоматического программирования...".
"Лишь год или два назад слово "знание" в контексте, подобном данному, необходимо было брать в кавычки..., но сейчас [в довольно узком кругу специалистов в области информатики] существует общее мнение о том, что нами пройден порог, после которого вычислительные машины можно рассматривать как обладающие знанием и использующие его эффективно и осмысленно способами, аналогичными, а возможно, и лучшими, чем способы использования знания людьми...".


"В результате бесед с [нашим] профессорско-преподавательским составом у меня сложилось впечатление, что точки зрения о новом направлении в основном совпадают. Судя по всему, многие согласны с одним и тем же порядком приоритетов. Превращение этих впечатлений в слова потребовало много более трезвой оценки, размышлений и множества обширных дискуссий."
"Общее мнение об этом направлении... предполагает не только обеспечение простоты использования вычислительных машин, но, как подчеркивалось здесь, и возможность на них полагаться...".
"[Наши] уникальные возможности будут использованы лучше, если их полностью посвятят тому, чтобы обеспечить соответствие нашего будущего, в котором вычислительные машины будут играть доминирующую роль, нашим пожеланиям. Возможно, одни [мы] в состоянии представить себе достижение этой важной цели."
Автор этого документа (он, кстати, нигде не упоминается в нашей книге) просто предлагает реализовать программу, столь часто провозглашающуюся другими представителями мира технического оптимизма. То, что он пишет, полностью соответствует, например, прогнозу X. А. Саймона, данному им в 1960 г.:
"В очень близком будущем (много раньше, чем через 25 лет) мы добьемся технической возможности возложить на машины все функции, выполняемые человеком в организации. За это же время мы получим в свое распоряжение глубоко разработанные и экспериментально проверенные теории процессов познания у человека и их взаимодействия с эмоциями, установками и системами ценностей человека" [прим. авт.: Н. A. Simon. The Shape of Automation, 1960 (Контуры автоматизации). Работа перепечатана в Z. W. Pylyshyn, ed., Perspectives on the Computer Revolution (Взгляды на революцию, произведенную вычислительными машинами), Englewood Cliffs, N. J.; Prentice Hall, 1970. В этой же работе Саймон делает следующее предсказание: "Воспроизведение способностей мозга к решению задач и обработке информации не за горами; было бы удивительно, если бы это не осуществилось в ближайшее десятилетие".


Итак, прошло уже не десять лет, а больше, но мозг остается такой же загадкой, какой он был всегда. Можно предположить, что профессор Саймон удивлен. Когда вам в кино приходится видеть какую-то особенно отвратительную сцену, вы, чтобы не поддаваться ее воздействию, сознательно напоминаете себе, что люди на экране - актеры. В нашем случае этот прием не работает. Профессор Саймон является одним из наиболее влиятельных деятелей науки современной Америки. То, что он говорит, воспринимается как имеющее большое значение].
Выраженный здесь "оптимизм" относится не только к вычислительным машинам. Профессор Б. Ф. Скиннер, лидер бихевиористского направления в психологии, о котором часто говорят как о крупнейшем психологе нашего времени, писал:
"Катастрофические последствия использования здравого смысла для управления поведением человека проявляются во всех аспектах жизни общества - от международных отношений до ухода за детьми, и мы будем продолжать демонстрировать свою несостоятельность во всех этих сферах до тех пор, пока научный анализ не обнажит преимущества более эффективной методологии."
"С бихевиористской точки зрения человек сегодня в состоянии управлять собственной судьбой, поскольку ему известно, что должно быть сделано и как это следует делать"10
[Прим. перев.: Бихевиоризм (от англ. слова "Behavior" - "поведение") - господствующее направление в американской психологии XX в., отрицающее сознание как предмет психологии и считающее таковым поведение, под которым понимаются телесные реакции на стимулы. Основоположником бихевиоризма является американский психолог Джон Уотсон (1878-1958). Сущность бихевиоризма Д. Уотсон определяет следующим образом [см. статью "Бихевиоризм". - В кн.: Хрестоматия по истории психологии. Период открытого кризиса (начало 10-х годов - середина 30-х годов XX в.)/ Под ред. П. Я. Гальперина, А. П. Ждан. - Изд. МГУ, 1980, с. 34-44. Статья написана им по заказу редакции БСЭ (М., 1930, т. 6)]:


" С точки зрения бихевиоризма подлинным предметом психологии (человека) является поведение человека от рождения и до смерти. Явления поведения можно наблюдать точно так же, как и объекты других естественных наук. В психологии поведения можно использовать те же общие методы, которыми пользуются в естественных науках. И поскольку при объективном изучении человека бихевиорист не наблюдает ничего такого, что он мог бы назвать сознанием, чувствованием, ощущением, воображением, волей, постольку он больше не считает, что эти термины указывают на подлинные феномены психологии. Он приходит к заключению, что все эти термины можно исключить из описания деятельности человека. Наблюдения над поведением могут быть представлены в форме стимулов (С) и реакцией (Р). Простая схема "С - Р" вполне пригодна в данном случае. Задача психологии поведения является разрешенной в том случае, если известны стимул и реакция ..." "Основная задача бихевиоризма заключается, следовательно, в накоплении наблюдений над поведением человека с таким расчетом, чтобы в каждом данном случае - при данном стимуле (или, лучше сказать, ситуации) - бихевиорист мог сказать наперед, какова будет реакция, или, если дана реакция, какой ситуацией данная реакция вызвана ..."
Уже в начале 20-х годов бихевиоризм начал распадаться на ряд направлений, в которых основные элементы его доктрины сочетались с элементами других теорий, в частности, гештальт-психологии и фрейдизма. В 30-х годах роль лидера американской психологии переходит к Бурхусу Фредерику Скиннеру (р. 1904). Категориальная схема, разработанная Скиннером, соединила категорию действия, какой она сложилась в "классическом" бихевиоризме, с принципом подкрепления, заимствованным у Павлова. Это позволило сделать шаг вперед по сравнению с Уотсоном, изучить широкий спектр отношений между двигательной активностью организма и ее мотивационной регуляцией. Скиннер считал формулу "С - Р" недостаточной для решения проблем управления поведением, поскольку она не учитывает результатов реакции на последующее поведение.


Реакция рассматривается только как производное от стимула, только как следствие, но не как детерминанта, которая модифицирует организм. Формула, адекватно представляющая взаимодействие организма со средой, должна, согласно Скиннеру, определять три следующих элемента: 1) событие, по поводу которого происходит реакция; 2) саму реакцию; 3) подкрепляющие последствия.
Скиннера отличала очень высокая культура психологического эксперимента. Разработанные им принципы "оперантного бихевиоризма" легли в основу разработанной им и его последователями методики "оперантного обусловливания", получившей в США широкое практическое применение, в частности, в педагогике. Более подробные сведения по этому поводу можно найти, например, в монографиях: М. Г. Ярошевский. Психология в XX столетии. Теоретические проблемы развития психологической науки: Изд. 2-е, дополненное. - М.: Политиздат, 1971; История психологии: Изд. 2-е переработанное. - М.: Мысль, 1976]
Последнюю фразу нельзя понять иначе, чем "Я, Б. Ф. Скиннер, знаю, что должно быть сделано и как это следует делать". Так же, как последняя фраза цитировавшегося мной документа, который обосновывает план дальнейших исследований, не может значить ничего иного, как "мы" - это те, работа которых заключается в посвящении наших ресурсов обеспечению соответствия будущего, где вычислительные машины будут играть столь доминирующую роль, "нашим" пожеланиям. "Мы" - это члены сравнительно узкого круга ученых-информатиков, и в этом кругу "мы" можем говорить откровенно, не прибегая к эвфемистическим кавычкам [Прим. перев.: Эвфемистический - прилагательное к "эвфемизму" - тропу, состоящему в непрямом, прикрытом, вежливом, смягчающем обозначении какого-либо предмета или явления]. Показательно, что обе фразы в обоих документах заключительные и, очевидно, содержат самое важное сообщение.
Мессии от техники, которые из-за того, что считают невозможным доверять мозгу человека, ощущают необходимость создать вычислительные машины, "на которые можно полагаться", которые постигают намерения человека и разрешают его проблемы, имеют, однако, конкурентов и в других сферах.


Одним из наиболее известных из них является профессор Д. В. Форрестер (Массачусетский технологический институт), интеллектуальный отец направления системной динамики. Давая показания в комитете конгресса США11, он заявил:
[Прим. перев.: Методология системной динамики возникла в Массачусетском технологическом институте (США) как следствие работ профессора Джея Форрестера, одного из крупнейших современных специалистов в области теории управления, связанных с изучением промышленных предприятий как сложных динамических систем. В методологии системной динамики соответственно вводятся понятия уровня и его изменения - темпа. Построение описания динамики системы предполагает проведение анализа зависимости темпов от уровней.
Системная динамика в современном варианте представляет собой тщательно разработанные методические рекомендации по анализу исследуемой проблемы, ее качественному описанию в виде специальной схемы - диаграммы, позволяющей наглядно увидеть все переплетения связей, проследить характер обратных связей, т. е., в сущности, блок-схемы имитационной программы. Изучение модели на вычислительной машине облегчается благодаря специально разработанному для системной динамики языку моделирования DYNAMO.
Дж. Форрестер разработал специфическую технику составления и машинной эксплуатации моделей сложных динамических процессов. Достоинства методологии, в первую очередь, Определяются простотой составления формальных описаний и интерпретации результатов, наглядностью, доступностью для использования специалистами, не обладающими высокой квалификацией в области математики и программирования.
Системная динамика получила широкое распространение и применялась и применяется в самых различных областях (техника, экономика, социология, экология, "глобальное" моделирование). Основные идеи и методы системной динамики изложены в монографии: Дж. Форрестер. Основы кибернетики предприятия (Индустриальная динамика): Пер. с англ./ Под общей ред. и с предисловием Д. М. Гвишиани. - М.: Прогресс, 1971.


Примеры реализации методологии системной динамики описаны в двух других монографиях Дж. Форрестера: [12] и Мировая динамика: Пер. с англ. А. Н. Ворощука и С. А. Пегова/ Под ред. Д. М. Гвишиани и Н. Н. Моисеева с предисловием Д. М. Гвишиани и послесловием Н. Н. Моисеева.-М.: Наука, 1978. 167 с.]
"Моя основная мысль заключается в том, что мозг человека не приспособлен для интерпретации поведения социальных систем.... До недавнего времени не существовало иного способа оценивать поведение социальных систем, кроме как посредством размышления, обсуждения, доказательств и слепых догадок."
Другими словами, способы, которыми Платон, Спиноза, Юм, Милль, Ганди и многие другие, пользовались, размышляя о социальных системах, явно хуже; чем подход, практикуемый системным анализом
[Прим. перев.: Отождествление системной динамики с системным анализом и системным подходом неправомерно. Под системным анализом а) и системным подходом б) в советской науке в настоящее время принято понимать следующее:
а) совокупность методологических средств, используемых для подготовки и обоснования решений по сложным проблемам политического, военного, социального, экономического, научного и технического характера; опирается на системный подход и ряд математических дисциплин и современных методов управления; основная процедура - построение обобщенной модели, отображающей взаимосвязи реальной ситуации; техническая основа системного анализа - вычислительные машины и информационные системы;
б) направление методологии научного познания и социальной практики, в основе которого лежит рассмотрение объектов как систем; ориентирует исследователя на раскрытие целостности объекта, на выявление многообразных типов связей в нем и сведение их в единую теоретическую картину; системный подход неразрывно связан с материалистической диалектикой, является конкретизацией ее основных принципов.
Термин "системный анализ" иногда употребляется как синоним термина "системный подход"]
Беда заключается в том, что эти способы мышления базируются на мысленных моделях.


Но
" Мысленная модель нечетка. Она неполна. Она неточно сформулирована. Более того, у отдельного человека мысленная модель меняется по мере течения времени и даже в ходе одной беседы.... Цели различны и остаются несформулированными. Неудивительно, что достижение компромисса занимает столько времени."
Ясно: дели должны быть фиксированными, а следовательно, и мысленные модели. Иначе, как в противном случае мы определим операторы (если обратиться к языку системы GPS), подлежащие применению к тем объектам, которые мы хотим преобразовать в "искомые объекты"? Нечеткость же мысленных моделей проистекает, как отмечает Форрестер, главным образом, из нечеткости собственно человеческого языка. Это также следует исправить.
"Машинные модели обладают рядом важных отличий от мысленных моделей. Машинные модели формулируются в явном виде. "Математическая" нотация, используемая для описания модели, однозначна. Этот язык обладает большей ясностью и точностью, чем разговорные языки типа английского или французского. Язык машинной модели - это более простой язык. Его преимущества определяются ясностью значений и простотой синтаксиса. Практически любой человек, независимо от уровня образования, в состоянии понять язык машинной модели. Более того, любые понятия и отношения, которые можно ясно сформулировать на обычном языке, поддаются переводу на язык машинной модели."
Остается только удивляться, что этот обычный язык, обладая всеми этими дисфункциональными свойствами, до сих пор существует. И если столь очевидно, что любые понятия и отношения можно перевести в термины машинного языка, то почему же лингвисты, например Халле, Якобсон, Хомский, все еще так упорно бьются над своими проблемами? И почему еще существуют поэты?
Что касается нашего вопроса, то просто неверно, что "практически любой человек" в состоянии понять язык, скажем, форрестеровских машинных моделей. Последние получили широкое признание потому, что были разработаны известным ученым, (работающим в престижном университете, а также потому, что получаемые с их помощью результаты имеют характер "как говорит вычислительная машина".


Большинство министров, профсоюзных лидеров и комментаторов, занимающихся социальными вопросами, которые были вовлечены в дебаты о "пределах роста" могли бы разобраться в программах вычислительных машин, образовавших сердцевину полемики, не в большей степени, чем в уравнениях квантовой физики. Подобно адмиралу Муреру они находят полезным "полагаться" на машину.
[Прим. перев.: Речь идет о книге американского ученого Денниса Медоуза "Пределы роста. Доклад Римскому клубу". Ее появление в 1972 г, вызвало глубокий интерес у ученых, политических и общественных деятелей многих стран мира и породило острую дискуссию по проблемам целей и перспектив мирового развития и, в частности, по проблемам экологии.
Римский клуб создан в апреле 1968 г. группой европейских ученых с целью осознания мировой проблематики как бесприбыльная гражданская ассоциация, имеющая неформальный, неполитический и транскультурный характер и включающая ограниченное число членов.
Основными целями Римского клуба являются: 1) способствовать и содействовать тому, чтобы люди как можно яснее и глубже осознавали затруднения человечества; 2) стимулировать формирование новых отношений, программ деятельности и институтов, которые бы способствовали исправлению нынешней ситуации. Важное место в работе Римского клуба занимают "проекты", каждый из которых посвящен какой-либо проблеме глобального значения. Результаты выполнения проекта представляются в форме "доклада Римскому клубу".
Доклад "Пределы роста" явился результатом осуществления первого проекта, основной задачей которого был призыв к регулированию материального роста как необходимой составной части общечеловеческого развития. В основу проекта легли созданные Дж. Форрестером с помощью разработанной им методологии системной динамики модели "Мир-1" и "Мир-2" (грубо имитировавшие развитие мировой ситуации с помощью пяти основных взаимозависимых переменных: населения, капиталовложений, использования невозобновимых ресурсов, загрязнения среды и производства продовольствия) и модель "Мир-3", созданная учеником Форрестера Д.


Л. Медоузом в процессе усовершенствования модели "Мир-2".
Основной вывод доклада Медоуза заключался в том, что материальный рост не может продолжаться до бесконечности: конечность размеров планеты с необходимостью предполагает и пределы человеческой экспансии. Он утверждал, что при сохранении нынешних тенденций к росту в условиях конечной по своим масштабам планеты уже следующие поколения человечества достигнут пределов демографической и экономической экспансии, что приведет систему в целом к неконтролируемому кризису и краху. Выводы гласили, что еще можно избежать катастрофы, приняв меры по ограничению и регулированию роста и переориентации его целей, но чем дальше, тем болезненнее будут эти изменения и тем меньше останется шансов на конечный успех.
Сведения об этом проекте на русском языке можно найти в книге: Дж. В. Форрестер. Мировая динамика: Пер. с англ. А. Н. Ворощука и С. А. Пегова/ Под ред. Д. М. Гвишиани и Н. Н. Моисеева с предисловием Д. М. Гвишиани и послесловием Н. Н. Моисеева. - М.: Наука, 1978, 167 с. В сб.: Современные проблемы кибернетики. Пер. с англ. с предисловием Н. Н. Моисеева. - М.: Знание, 1977. Сер. Математика, кибернетика, N 7. На русском языке сведения о деятельности Римского клуба можно найти в книге его президента - А. Печчеи. Человеческие качества: Пер. с англ. О. В. Захаровой/ Общая редакция и послесловие акад. Д. М. Гвишиани. - М.: Прогресс, 1980. Оценка работ Римского клуба с марксистских позиций дана в послесловии акад. Д. М. Гвишиани к этой книге]
И, наконец, профессор Форрестер снова заверяет публику, что "зримы способы" (естественно, для него), позволяющие приступить к полному устранению неопределенности.
"Величайшая неопределенность, свойственная мысленным моделям, заключается в невозможности предвидеть последствия взаимодействия отдельных частей системы. Эта неопределенность полностью ликвидирована в машинных моделях. Получив определенный; набор допущений, вычислительная машина прослеживает результаты, не впадая в сомнения или ошибки."


Он продолжает утверждать, что, хотя в нашей социальной системе "нет утопий" и нет устойчивых режимов-поведения, свободных от воздействия принуждений и: стрессов, некоторые из допустимых видов поведения более "желательны", чем остальные. А каким же образом создаются возможности для реализации этих более желательных видов поведения?
"Они, очевидно, возможны только в том случае, если мы обладаем хорошим пониманием динамики системы и намерены придерживаться самодисциплины и противостоять внешним воздействиям, неизбежно сопровождающим предпочтительные режимы поведения."
Несомненно, существуют интерпретации слов "система" и "динамика", придающие этому замечанию благоприятный характер. Но в том контексте, в котором эти слова употреблены здесь, они приобретают специфическое значение, определенное для них Форрестером. В таком случае очевидно, что обращение Форрестера равнозначно утверждениям Скиннера и других: единственный путь добиться лучшего понимания, который только и ведет к "предпочтительным видам поведения", - это форрестеровские (или скиннеровские, или GPS-ские, или тому подобные) методы "научного анализа".
Различные системы и программы, которые мы обсуждаем, обладают очень существенными общими характеристиками: они в некотором смысле простые; все они злоупотребляют языком и искажают его; и, наконец, провозглашая отказ от нормативного содержания, отстаивают авторитаризм, основанный на профессиональной компетентности. Эта защита, естественно, замаскирована риторикой, для изложения которой привлекается внешне нейтральный, обильно уснащенный жаргоном профессиональный язык (на нормальном языке все это обычно называется "дерьмом собачьим" [Прим. перев.: В оригинале употреблен более сильный термин "bullshit"]). Эти общие характеристики до определенной степени поддаются разделению, но они не являются взаимно независимыми.
Наиболее поверхностные аспекты простоты этих систем, проявляющиеся в упрощенных представлениях объектов их анализа, бросаются в глаза сразу же.


Так, Саймон рассматривает человека как "очень простую вещь". "Кажущаяся" сложность его поведения определяется сложностью среды, в которой он действует. В любом случае человека можно имитировать с помощью некоторой системы, учитывающей лишь "небольшое число простых параметров", системы, включающей лишь небольшое число (явно много меньше, чем, скажем, 10 тыс.) "элементарных информационных процессов".
Директор лаборатории, высказывания которого я приводил, считает, что проблему человеческих устремлений можно успешно решать в процессе исследования методов отладки программ вычислительных машин. Это убеждение разделяют многие его коллеги. Скиннер считает человека пассивным продуктом (жертвой) своего генетического фонда и сочетаний подкреплений, получаемых им на протяжении жизни. Основное различие между подходом Скиннера и системой GPS заключается в том, что Скиннер предпочитает рассматривать лишь "поведение типа "вход-выход"" (используя жаргон информатики), а создатели системы GPS и подобных систем считают, что они в состоянии кое-что сказать также о происходящем внутри организма. Философское различие между этими двумя подходами невелико. Форрестер рассматривает буквально весь мир в категориях контуров обратных связей.
"Цепи обратной связи являются теми основными ячейками, из которых построены системы. ...Цепь обратной связи описывается переменными двух видов, называемых здесь темпом и уровнем. Эти два вида переменных необходимы и достаточны... Переменные уровня... есть результат аккумуляции, или интеграции... Темпы потока служат причиной изменения уровней. Сведения об уровнях являются входными величинами в уравнениях темпов, которые управляют темпами потока."
"Уравнения темпов представляют собой формулировки линии поведения системы. Они определяют, каким образом имеющаяся информация об уровнях преобразуется в действие потока. ...Уравнения потока формулируют как несоответствие между целью и видимыми условиями, так и то действие, которое будет следствием этого несоответствия."12[Прим.


перев.: Цитата из книги Дж. Форрестера приводится по тексту ее русского перевода (см. [12])]
Обратите внимание на совпадение языка этой цитаты с языком, использованным Ньюэллом и Саймоном при обсуждении задач и процессов решения задач (гл. 6). Последние говорят о "текущих объектах" и "искомых объектах", различиях между ними, операторах, уменьшающих эти различия, целях и т. п.
Различие между их и форрестеровской системами определяется, главным образом, использованием разных наборов непроизводных "элементарных информационных процессов" и, несомненно, тем обстоятельством, что в системе GPS для сокращения объема поиска адекватных операторов и прочего используются эвристические методы, а в системе Форрестера все в явном виде алгоритмизируется в терминах переменных потока и уровня, включенных в контуры обратных связей. Представления же о мире, воспроизводимые этими двумя системами, в основе одинаковы и просты.
Эти системы просты также в более глубоком и важном смысле. Собственно разуму они отводят единственную роль - власть над вещами, человеком и в конечном счете над природой.
"Понятия сводятся к сводке характеристик, общих для нескольких образцов. Представляя сходство, понятия избавляют от необходимости перечислять качества и позволяют, таким образом, лучше организовать знания. Они рассматриваются как чистые аббревиатуры объектов, к которым относятся. Любое использование технического суммирования фактических данных, выходящее за пределы служебного, устраняется как последние проявления язычества. Понятия превращаются в "обтекаемые", рационализированные, облегчающие труд механизмы... само мышление [было] низведено до уровня производственных процессов..., т.е. превращено в неотъемлемый элемент производства."13
Тот, кто не знаком с технической основой обсуждаемых нами систем, не может даже вообразить, насколько трезвая и точная их характеристика дается в этом отрывке. Это было написано философом и социологом Максом Хоркхаймером в 1947 г., за много лет до того, как силы, даже тогда, по собственному выражению Хоркхаймера, извращавшие разум, стали буквально воплощаться в машинах.


Этот отрывок снова показывает нам (особенно если учесть, когда и кем он был написан), что ЭВМ в том виде, в каком она сейчас используется технической элитой, вовсе не является причиной. Она, скорее, инструмент, доставленный на службу рационализации, поддержке и увековечиванию самых консервативных, а, в сущности, реакционных идеологических компонентов нынешнего Zeitgeist [Прим. перев.: Дух времени (нем.)]
Как мы ясно установили, тщательно рассматривая различные системы, значение полностью трансформировалось в функцию. Язык, а следовательно, и собственно разум превратились в не что иное, как в инструмент для воздействия на предметы и события нашего мира. Ничто из выполняемого этими системами не несет никакого внутреннего смысла. Существуют лишь цели, определяемые необратимым ходом событий, и методы анализа типа "цели и средства", предназначенные для выявления различий между состоянием дел, "наблюдаемыми условиями" и тем, какими мы хотели бы их видеть в соответствии с предопределениями судьбы, ведущей нас.
В процессе самоадаптации к этим системам мы и даже наши адмиралы "кастрировали" не только себя (иначе говоря, обрекли себя на импотенцию), но и наш язык. Поскольку сейчас он превратился просто в еще один инструмент, то все понятия, идеи, образы, которые художники и писатели не могут зашифровать на доступном вычислительной машине языке, потеряли свои функции и силы. Форрестер говорит об этом определенным образом - можно увидеть, как другие кивают в знак согласия с ним: "Любые понятия и отношения, которые можно ясно сформулировать на обычном языке, поддаются переводу на язык машинной модели". Бремя доказательства того, что нечто было "ясно сформулировано", лежит на мастере слова. Неудивительно, что при подобном отношении к языку разница между живым и неживым, между человеком и машиной превращается во что-то малореальное, самое большее - в проблему нюанса!
Искаженный язык очень тесно сросся с риторикой технической элиты.


Мы уже обращали внимание на трансформацию Минским значения слова "понимать" в чисто инструментальный термин. Именно такая интерпретация этого термина пронизывает, естественно, все обсуждаемые нами системы. Употребление Ньюэллом и Саймоном слова "задача" - другой пример, который имеет столь же существенное значение.
В период волнений в американских университетах часто можно было слышать, как ораторы из самых лучших побуждении утверждали, что беспорядки, по крайней мере в их университете, главным образом, вызваны неудовлетворительной коммуникацией между различными группами, составляющими университетское сообщество, например профессорско-преподавательским составом, администрацией, студентами, научным персоналом. "Задача", таким образом, рассматривалась как коммуникационная, т. е. по существу техническая проблема. Поэтому ее следует решать техническими средствами: установкой разнообразных систем прямой телетайпной связи с кабинетом ректора или проректора.
Вероятно, коммуникационные трудности действительно существовали; в большинстве университетов они обычно имеются. Но такой взгляд на "задачу" (полностью согласующийся с позицией Ньюэлла и Саймона о "решении задач человеком" и с инструментальным мышлением) энергично маскирует, в сущности хоронит, сам факт существования реальных конфликтов.
Может сказаться, например, что подлинные этические, моральные и политические интересы студентов вступают в конфликт с интересами университетской администрации, причем обе группы прекрасно понимают интересы партнера. Тогда возникает настоящая задача, а не коммуникационные трудности, и совершенно очевидно, что дело нельзя поправить техническими средствами-установкой прямой телетайпной связи.
Инструментальное мышление превращает любую дилемму, какой бы реальной она ни была, в сущий парaдокс, ее можно разрешить с помощью логики и вычислений. Все интересы, находящиеся в конфликте, замещаются чисто техническими проблемами [Прим. перев.: Речь идет о бурном студенческом движении в американских университетах в 60-е годы.


Оно составляло основу так называемых новых левых, провозгласивших необходимость решительной борьбы с фундаментальными пороками современного "постиндустриального" общества. Волнения были связаны в основном с двумя проблемами: 1) борьбой за реформы системы высшего образования, в том числе демократизацию университетской жизни, разрыв связей университетов с военно-промышленным комплексом (начало и середина 60-х годов); 2) борьбой против войны США во Вьетнаме (вторая половина 60-х годов)].
Это так же поучительно, как и история, рассказанная Филипом Моррисоном. В более широком смысле значение этого обстоятельства заключается в том, что искажение смысла слова "задача" породило в свою очередь мистику "решения задач", оказавшую на весь мир катастрофическое влияние. Когда любая проблема, возникающая в международных отношениях, "самыми лучшими и самыми яркими" специалистами по решению задач рассматривается как чисто техническая, войны типа вьетнамской становятся по существу неизбежными. Признание действительно взаимно противоречащих, но законных интересов сосуществующих обществ (а оно является необходимым предварительным условием для разрешения или урегулирования конфликта) полагается невозможным с самого начала. Все делается как раз наоборот-простейшие критерии используются для обнаружения различий, для поиска средств уменьшения этих различий и для применения операторов к "имеющимся объектам", чтобы преобразовать их в "искомые объекты". Это действительно вполне разумно, если под "разумом" предполагать инструментальное мышление, т. е. использовать американские вооруженные силы, бомбардировщики "В-52", напалм и все остальные средства против "находящегося под коммунистическим господством" Вьетнама (явно "нежелательного объекта") в качестве "оператора", чтобы преобразовать его в "искомый объект" - страну, служащую американским интересам. Механизация мышления и языка приводит к последствиям, далеко выходящим за пределы предвидений упоминавшихся нами специалистов по решению задач.


Хоркхаймер обрисовал соответствующие перспективы еще задолго до того, как вычислительные машины превратились в фетиш и познакомили нас с конкретной формой извращения разума:
"Справедливость, равенство, счастье, терпимость - все понятия, которые... в предыдущие века предполагались присущими разуму или благодаря ему существующими, лишились своих интеллектуальных корней. Они еще продолжают оставаться целями и намерениями, но нет такой разумной силы, которая была бы наделена властью отдавать им должное и соединять их с объективной реальностью.
Придя к нам из священных исторических документов, они все еще могут пользоваться определенным престижем, а некоторые входят в конституции величайших стран. Тем не менее они никак не подтверждаются разумом в его современном понимании. Кто может сказать, что любой из этих идеалов ближе к истине, чем его противоположность?"
"Согласно философии современного среднего интеллектуала существует лишь одна высшая власть - наука, которая понимается как классификация фактов и исчисление вероятностей. Утверждение о том, что справедливость и свобода сами по себе лучше несправедливости и угнетения, не поддается научной проверке и потому бесполезно. Само по себе это утверждение становится бессмысленным точно так же, как утверждение, что красное красивее голубого или что яйца лучше молока"14.
Как мы уже отмечали, реальная сложная система, не имеющая конкретных авторов, о которой нам известно только то, что она дана наукой и за ее результатами стоит авторитет науки, не позволяет ставить вопросы об истинности или справедливости.
Я не могу сказать, почему цитировавшиеся мной представители искусственного интеллекта хотят, чтобы развитие, которое они предсказывают, стало реальностью. Некоторые из них говорили, что работают в этом направления потому, что "если мы не сделаем этого, то это сделает кто-нибудь другой"; с моральной точки зрения эта причина совершенно несостоятельна. Они боятся, что злонамеренные люди создадут сверхинтеллектуальные машины и воспользуются ими для порабощения человечества; при этом единственным средством защиты от этих вражеских машин будут сверхинтеллектуальные машины, находящиеся под нашим контролем, т.


е. под контролем людей благонамеренных. В других случаях выясняется, что эти люди отказываются от своей независимости, исходя из "принципа" технической неизбежности. В конечном счете, однако, все, что я могу сказать с полной уверенностью: эти люди - не глупцы. Все остальное покрыто тайной.
Немногим легче понять, почему широкая публика воспринимает их идеи, по меньшей мере, хладнокровно, а иногда и с энтузиазмом. Риторика технической интеллигенции может казаться привлекательной, потому что воспринимается как приглашение обратиться к разуму. Действительно, это - так. Но, как я утверждал, при этом имеется в виду инструментальное мышление, а не подлинный разум человека. Эта риторика рекламирует простые и "научно" освещенные ответы на все мыслимые вопросы. Она эксплуатирует миф о профессиональной компетентности.
Искажение языка здесь также играет значительную роль. Язык, используемый "искусственной интеллигенцией", специалистами в области модификации поведения и системотехники, вводят в заблуждение. Люди, вещи, события "программируются", говорится о "входах" и "выходах", контурах обратной связи, переменных, параметрах, процессах и тому подобном, и в конце концов исчезает какая бы то ни была связь с конкретными ситуациями. В результате остаются лишь диаграммы, наборы данных, распечатки. И лишь "мы"-специалисты, в состоянии понимать их. "Мы" настойчиво демонстрируем (хотя бы только для того, чтобы иметь хорошее общественное реноме) нашу озабоченность социальными последствиями "нашей" деятельности и "наших" планов. Обоснования планов исследований типа того, что я цитировал, всегда открываются разделом, содержащим беглое упоминание о разрушительном потенциале наших инструментов. И "мы" неустанно пишем эссе о социальных последствиях наших технических новинок. Но, как я отмечал раньше, эти высказывания практический посвящены самообслуживанию.
"Типичный очерк на тему "Влияние вычислительных машин на общество" построен так.


Сначала перечисляются аргументы в пользу машин. Говорится обо всем хорошем, что машины уже дали для общества и иногда пытаются утверждать, что общество рухнуло бы, если бы вовремя не наступила "машинная революция". Затем следуют соображения "против", говорится о тех проблемах, которые вызывает введение вычислительных машин. Обычно упоминается об угрозе отдельной личности, создаваемой огромными информационными системами, об опасности роста безработицы в результате промышленной автоматизации. И наконец, следуют аплодисменты настоящему и блестящему будущему вычислительных машин, причем показывается, что опасности, упомянутые во второй части, можно смягчить с помощью хитроумных технических выдумок. Заключительный параграф содержит призыв к щедрой поддержке со стороны общества все более и более развивающихся исследований в области изучения и конструирования вычислительных машин. При этом обычно следуют более или менее прозрачные намеки на то, что только информатика, а следовательно, только ученые-информатики могут уберечь мир от, надо признаться, опасных "радиоактивных осадков", выпадающих в результате использования вычислительных машин."15[Прим. перев.: Цитата из работы Дж. Вейценбаума приводится по тексту перевода на русский язык (см. [15]) с некоторыми изменениями]
Истинное содержание такого типичного эссе заключается в том, что специалист обо всем позаботится, даже о разрешении проблем, которые он, сам создает. Он нуждается в большем количестве денег. Всегда. Но он успокаивает общественное мнение, которое вообще ни о чем знать не хочет.
Каков же ответ "технаря" на обвинения, подобные выдвинутым здесь? Их просто отбрасывают как чисто философские. Например, моя статья о влиянии вычислительных машин на общество вызвала сотни писем, но лишь одно было написано человеком, работающим в области искусственного интеллекта. Оно пришло от бывшего студента профессора Саймона, в нем говорилось:
"Что касается общества в целом, то основная роль вычислительных машин важнее, чем их [sic] побочные эффекты.


Только люди с очень сильным философским уклоном считают более важными потенциальные побочные эффекты... Редкий человек тратит больше нескольких часов на обдумывание философского смысла"16.
Это, несомненно, полностью соответствует наблюдению Хоркхаймера о том, что язык утратил собственное право использовать не инструментальные, т. е. философские, термины. Важный в более непосредственном смысле ответ дал доктор Кеннет Б. Кларк на симпозиуме, проходившем в Массачусетском технологическом институте. Он выразил отчаяние по поводу того, что Массачусетский технологический институт не посвящает большую часть своих возможностей решению социальных проблем. Он сказал (цитирую по памяти): "Это грандиозный институт, занимающийся проблемами науки и техники и обладающий в этой области высокой компетентностью. Почему же, видя вокруг столько горя и страданий, вы не используете свои приборы и методы для разрешения жгучих социальных проблем нашего времени?"
Я заметил ему, что разрешение насущных проблем нашего времени не обязательно искать исключительно в науке и технике; что его собственный поиск технических решений для величайших проблем, в частности, предложение регулярно давать транквилизаторы политическим лидерам17, возможно, ложно по существу.
Он ответил: "Я уже очень давно пришел к заключению, что ответы на важнейшие вопросы, с которыми человек сталкивался во все времена, может дать только рациональное мышление. Единственной альтернативой является какая-то разновидность отказа от разума, что как мы убедились, приводит только к насилию и разрушению".
Вполне можно подписаться под этой точкой зрения, но лишь в том случае, если под рационализмом понимать нечто отличное от обычного использования науки и техники, если его не отождествлять автоматически и по смыслу с вычислимостью и логичностью. Альтернатива той разновидности рационализма, которая решение мировых проблем видит в психотехнике, не сводится к отказу от разума. Эта альтернатива - разум, возвращенный величию, подлинности, чувству собственного достоинства и индивидуальной независимости человека.


Инструментальное мышление превратило слова в фетиш, окруженный черной магией. И только у магов есть права посвященных. Только они могут сказать, что значат слова. И они играют словами и водят нас за нос. Когда Скиннер противопоставляет науку здравому смыслу и утверждает значительное превосходство первой, он имеет в виду свою "науку о поведении" и придает слову "здравый" в выражении "здравый смысл" уничижительное значение [Прим. перев.: В переводе этой фразы мысль автора несколько нивелируется из-за языковых различий. Английское "common sense" в русском языке передается как "здравый смысл", но слово "common" имеет значение не "здравый", а "общий", "общепринятый", "распространенный", "обыденный"]. Он не подразумевает просвещенный здравый смысл, выступающий, с общих культурных позиций, или здравый смысл, вообще безо всякой "причины" упрямо противящийся тому, что свобода и достоинство - это абсурдные и отжившие понятия.
Технократ будет снова и снова утверждать, что точки зрения, подобные высказанным, - антитехничны, антинаучны и, в конечном счете, антиинтеллектуальны. Он попытается трактовать все доводы, направленные против его исполненных мании величия видений, как аргументы, ведущие к отказу от разума, рациональности, науки, техники и призывающие к использованию одной интуиции, ощущений, наркотического умопомрачения и т. д. На самом деле, я выступаю за рациональное мышление. Но я настаиваю на том, что рациональность нельзя отделять от интуиции и чувств.
Я выступаю за рациональное использование науки и техники, а не за отказ от них и не за их мистификацию. Я настаиваю на переходе к этическому мышлению при планировании научного развития. Я веду бой с экспансионизмом [Прим. перев.: В оригинале автор использует термин "imperialism"] инструментального мышления, а не с мышлением.
Говорят, всегда есть люди, считающие, что время, в которое они живут, преисполнено отчетливыми предвестниками грядущих великих катастроф и даже что оно - наихудшее из всех времен.


Мы, которые жили и ясно сознавали происходящее в те времена, когда казалось, что фашизм распространяется чуть ли не повсюду, видели, как смерть приготовилась поглотить всю цивилизацию. Цивилизация справилась с этой угрозой - опасностью, в которой нынешняя молодежь не отдает себе отчета. Но нельзя сказать, что цивилизация, пережив фашизм или мировую войну, которая была лишь за двадцать лет до него, осталась совершенно невредимой [Прим. перев.: Речь идет о первой мировой войне 1914-1918 гг.]. Нам, как никому до нас, довелось узнать, что человек может творить с себе подобными. Германия осуществила "окончательное решение еврейского вопроса" как упражнение из учебника по инструментальному мышлению [Прим. перев.: Под "окончательным решением еврейского вопроса" в нацистской Германии понималась государственная программа, выражавшая один из ключевых пунктов нацистской идеологии и предусматривавшая полное уничтожение евреев во всем мире. В результате осуществления этой программы с 1933 г. по 1945 г. было уничтожено около 6 млн. евреев, живших в Германии и в захваченных ею странах и районах].
Человечество ненадолго приходит в ужас, когда больше не может закрывать глаза на то, что происходило, когда начинают распространяться фотографии, сделанные самими убийцами, и когда на свет божий снова появляются несчастные уцелевшие.
Но это ни к чему не приводит. Та же логика, то же холодное и безжалостное использование "вычислительного мышления" в последующие два десятилетия жестоко погубили, по меньшей мере, столько же людей, сколько пало жертвами специалистов тысячелетнего рейха. Мы ничему не научились. Сегодня цивилизация находится в такой же опасности, как и тогда.
Каждый раз слышится пророческий крик Кассандры, но каждый раз никто не признает его пророческим [Прим. перев.: Кассандра - в греческой мифологии дочь царя Трои Приама, получившая от Аполлона пророческий дар. Аполлон, отвергнутый Кассандрой, сделал так, что ее прорицаниям перестали верить.


Кассандра стала нарицательным именем для пророков, предсказывающих грядущие несчастья (которые действительно происходят), но остающихся невыслушанными]. Цивилизации гибли - много цивилизаций. Но никогда не гибло само человечество. Мы живем в другое время. Мы устали слышать, что сегодня человек в состоянии уничтожать все, но мы не может отрицать этого. Только собственные решения человека могут спасти его.
Принято было говорить, что религия - опиум для народа. Я думаю по этому поводу следующее: говорившие это имели в виду, что люди одурманивались иллюзиями райской жизни, которая им предстоит, если они будут терпеливо переносить ад на земле, созданный для них власть имущими. Но, быть может, религия вовсе не наркотик. Будь это так, боги, возможно, не умерли бы и новый рационализм не одержал бы победу над верой.
Дурман - это инструментальное мышление, торжествующая техника и необузданная наука. Они создают нашу действительность-кошмар их самовыражения. Оптимистически настроенный технократ, быть может, все-таки прав: возможно, мы достигли той точки, когда уже нельзя повернуть назад. Но почему же тогда команда, которая завлекла нас так далеко, веселится? Почему пассажиры не оторвутся от своих развлечений? И, наконец, если теперь мы, а не бог играем в кости со Вселенной [Прим. перев.: Перефразируется знаменитая фраза Альберта Эйнштейна, из его письма М. Борну от 4 декабря 1926 года: "Квантовая механика заслуживает всяческого уважения, но внутренний голос подсказывает мне, что это не настоящий Иаков. Теория дает нам много, но к таинствам Старого [т. е. Бога (прим. перев.)] она не подводит нас ближе. Во всяком случае я убежден, что он не играет в кости". Цитируется по тексту русского перевода, опубликованного в "Переписке А. Эйнштейна и М. Борна" (перевод И. Л. Гандельсмана и В. Я. Френкеля). - Эйнштейновский сборник, 1972. - М.: Наука, 1974, с. 7], то как нам уберечься от того, чтобы не влезть в дерьмо?

Против экспансионизма инструментального мышления


То, что человек благодаря развитию науки и техники приобрел необычайное могущество, стало такой вульгарной и банальной истиной, что, хотя она и распространена так, как никогда раньше, ее парадоксально все реже и реже повторяют в серьезных разговорах. Парадокс возникает из-за того, что банальность, перестающая быть избитым выражением, перестает восприниматься как банальность. В некоторых кругах банальность после того, как в течение некоторого времени о ней не упоминалось, воспринимается как ее прямая противоположность - как глубокая истина. В этом тоже есть иносказание: могущество, приобретенное человеком благодаря науке и технике, было обращено в бессилие.

Люди чувствуют это. Стаде Теркел в своем монументальном труде, посвященном изучению каждодневной работы в Америке, пишет:

"Многие испытывают с трудом скрываемое разочарование... "Я - машина", - говорит рабочий, обслуживающий машину для точечной сварки. "Я - зверь в клетке", - высказывается кассир банка и ему вторит служащий гостиницы. "Я - мул", - говорит рабочий-металлург. "То, чем я занимаюсь, может делать и обезьяна", - произносит секретарша. "Я превратился в сельскохозяйственное орудие", - говорит сезонный рабочий. "Я - вещь", считает манекенщица. "Синие воротнички" и "белые воротнички" выражают свое мнение одной фразой: "Я - робот""1[Прим. перев.: По принятой классификации "синие воротнички" - рабочие, "белые воротнички" служащие. В русском переводе книги Теркела (см. [1]) этот отрывок опущен]

Возможно, люди в своей массе считают, что хотя они бессильны, вообще могущество существует и им обладают их лидеры. Но мы уже убедились в том, что государственный секретарь США считает, что события просто "увлекают" нас за собой, а председатель объединенного комитета начальников штабов США признает себя рабом вычислительных машин. Наши лидеры тоже не обладают могуществом. Даже врач, в прошлом - сам символ культурного могущества, становится бессильным по мере того, как во все большей степени превращается в передаточный канал между своими больными и главными фармацевтическими компаниями.
Больные, в свою очередь, все в большей степени превращаются в совершенно пассивных объектов, которых лечат и над которыми производят различные операции. Их собственные внутренние целебные ресурсы, способности их организма к восстановлению гармонического состояния все больше игнорируются как несущественные для медицины, едва способной отличить больного человека от промышленного изделия.
Господствующее сейчас течение биологической обратной связи может оказаться предпоследним актом драмы разрыва человека с природой; человек перестает ощущать себя, свое тело непосредственно - непосредственные ощущения заменяются показаниями стрелок, мельканием лампочек и гудением приборов, которыми человек оснащается подобно тому, как автомобиль спидометром. Последний акт этой драмы - окончательное всеобщее истребление, которое заодно покончит и с жизнью вообще.
Таким образом, техническую неизбежность можно рассматривать как составную часть значительно более общего синдрома. Наука пообещала человеку могущество. Но, как это часто случается, когда люди соблазняются обещанным всемогуществом, рабство и бессилие - цена, которую требуют от них с самого начала до конца, и именно ее им действительно приходится платить. Могущество ничего не стоит, если оно не дает власти выбирать. Инструментальное мышление позволяет принимать решения, но существует большая разница между решением и выбором.
Люди, с которыми беседовал Стаде Теркел, принимают решения ежегодно в течение всего дня. Они, по их собственному свидетельству, уподобляются роботу Винограда. Его спрашивают: "Почему ты это сделал?" И он отвечает: "Потому что такая-то или такая-то ветвь моей программы приводит к получению этого результата". Вы спрашиваете: "Почему ты выбрал эту ветвь?" И он отвечает таким же образом. Последний его ответ: "Потому что вы мне так сказали".
Возможно, любое действие, совершаемое человеком, предполагает осуществление последовательности вычислений на элементах, которые системотехник назвал бы вершинами дерева решений.


Их опасения, как они пишут, "относятся к возможным тяжелым последствиям неконтролируемого применения этих методов" [Прим. перев.: ДНК - сокращенное название дезоксирибонуклеиновой кислоты, представляющей собой важную составную часть клеточного ядра. ДНК является материальной формой хранения наследственной информации. У бактерий ДНК локализуется в нуклеоидах (ядерных субстанциях 'бактериальной клетки) и в эписомах. Рекомбинация представляет собой процесс образования смешанного потомства в результате генетического обмена между двумя клетками, различающимися между собой одним или несколькими генетическими маркерами - признаками, используемыми при изучении генетических процессов. Биологический смысл генетической рекомбинации состоит в возникновении новых индивидуумов, наделенных свойствами родителей].
Их обращение - это, несомненно, шаг в правильном направлении, и их инициативу следует приветствовать. Тем не менее можно было бы задать вопрос, почему, они вообще считают себя обязанными приводить причины, побудившие их выступить с подобными рекомендациями. Разве основной долг человека, в том числе и ученого, - освобождение самой жизни от безумия отношения абсолютно ко всему как к объектам - не есть уже достаточная причина, причем такая, которую не нужно даже обсуждать? Почему это нужно объяснять? Оказывается, что самые благородные поступки людей, действующих из наилучших побуждений, отравлены разъедающей атмосферой "ценностей" нашего времени.
Простое объяснение этого явления, и, возможно, в нем есть доля истины, заключается в том, что "благие намерения" полностью вытеснили благородство. Существует и более тонкое объяснение. Наш век гордится тем, что он наконец добился свободы от цензуры, против которой боролись свободомыслящие люди всех времен. Сексуальные проблемы могут теперь обсуждатъся так свободно, как никогда раньше, женщины начинают занимать принадлежащее им по праву положение в обществе и идеи, о которых еще десять или около десяти лет назад можно было говорить только шепотом, распространяются теперь безо всяких ограничений.


Честь этих великих достижений приписывается новому духу рационализма, рационализму, который, как утверждается, позволил, наконец, сорвать с глаз человека пелену, образованную мистическим мышлением, религией и такими мощными иллюзиями, как свобода и чувство собственного достоинства.
Наука принесла нам великую победу над невежеством. Но при более внимательном рассмотрении эту победу можно считать также триумфом еще более глубокого невежества: то, что мы приобрели, оказалось новым конформизмом, позволяющим нам говорить все, что можно сказать на функциональных языках инструментального мышления, но запрещающим упоминать о том, что было названо Ионеско живой истиной. Так же, как экраны наших телевизоров демонстрируют необузданное насилие в "натуральном цвете" и не показывают сцен глубокой и подлинной любви (первое из-за отвратительного самого по себе извращения ценностей, называемых "реальными", второе - из-за объявления его непристойным), так мы можем обсуждать и само производство жизни и производимые над ней как над "объектом" манипуляции, но не в состоянии понимать бога, милосердие и мораль.
Возможно, биологи, призывающие своих коллег поступать правильно, руководствуются неверными обоснованиями, но основа их поступка - глубокое благоговение перед жизнью и подлинная человечность, хотя они все-таки не осмеливаются в этом признаться. В любом случае подобные аргументы не были бы "эффективными", а иначе говоря - инструментальными.
Если это так, то тот, кто подвергает цензуре их собственные высказывания, делает это, пользуясь старомодным выражением, подвергая риску свою душу.
Существует еще один способ оправдания отказа ученого продолжать определенную линию исследований - этот способ таков, что все мы можем извлечь из него уроки, полезные для нашей жизни. Способ основан на том принципе, что размер ответственности человека должен быть соразмерен с результатами его деятельности. В свое время этот принцип привел к рождению системы этики, суть которой поведение людей по отношению друг к другу.


Библейские десять заповедей говорят в основном о том, каковы обязанности человека по отношению к его семье и соседям. В библейские времена очень немногие могли бы сделать нечто, что затронуло бы людей за пределами их собственной сферы обитания. Наука и техника, созданные человеком, коренным образом изменили эту ситуацию. Деятельность современного человека может повлиять не только на всю планету - его естественную среду обитания, но и предопределить будущее человека как вида в целом. Следовательно, это означает, что ответственность человека, а особенно ученого и инженера, выходит за пределы сиюминутной ситуации и простирается непосредственно до будущих поколений. Эта ответственность особенно серьезна потому, что будущие поколения лишены возможности сегодня защищать свои права. Все мы сегодня являемся их опекунами3.
Публичный отказ биологов, как бы они его не обосновывали, это пример, которому всем ученым стоило бы последовать. Значит ли это, что ученые должны захлопнуть свои умы перед всякого рода "аморальными" гипотезами? Совсем нет. Научная гипотеза, по крайней мере с научной точки зрения, либо истинна, либо ложна. Это относится и к гипотезам Саймона о том, что человек "весьма прост" и полностью поддается машинной имитации, и к гипотезе Маккарти о существовании некоторого логического исчисления, с помощью которого можно формализовать все сущее. Было бы глупейшей логической ошибкой навешивать подобным гипотезам (или любым другим) ярлык моральности или аморальности, или, коли на то пошло, ответственности или безответственности.
Сама научная гипотеза может не иметь моральной или этической окраски. Но индивидуальное решение принять ее даже в качестве рабочей гипотезы, а тем более объявление своей приверженности ей широкой публике самым определенным образом включает ценностные оценки и, следовательно, неизбежно приобретает такую окраску. Как недавно писал экономист из Гарварда [Прим. перев.: Имеется в виду Гарвардский университет - один из старейших и наиболее почитаемых университетов США.


Расположен в Кембридже, штат Массачусетс] Марк Дж. Робертс:
"Допустим, мы должны выбрать одну из двух гипотез. Независимо от того, какую мы выбрали, всегда существует возможность считать, что другая - правильная. Очевидно, что относительное правдоподобие совершения ошибки при выборе той или иной гипотезы зависит (но также от этих факторов зависит и цена ошибок выбора альтернативных вариантов) от стоимости признания гипотезы "А" истинной, когда, на самом деле, истинна гипотеза "Б", или наоборот. Мы вполне могли бы предпочесть риск совершить более вероятную ошибку малой ценой, чем менее вероятную ошибку высокой ценой. И все же во всех случаях стоимости ошибки нельзя определить никак иначе, чем на основе наших ценностей."
"Рассмотрим крайний случай: точку зрения, согласно которой в умственной деятельности различных рас имеются различия. Допустим, общество должно было бы принять эту точку зрения, а она оказалась ложной. Я считают, что это было бы большим несчастьем. Допустим, с другой стороны, что общество приняло точку зрения, предполагающую отсутствие различий, но она оказалась бы ошибочной. От этой ситуации я ожидаю меньше вреда. Задавшись такими оценками стоимостей, я буду стремиться получать данные, делающие гипотезу о межрасовом различии очень маловероятной, в действительности, прежде, чем я ее отвергну.
Мой научный выбор базируется на моей системе ценностей, и это происходит не потому, что я некритичен или предпочел бы считать такие различия несуществующими, но потому, что сообразный выбор в условиях неопределенности можно делать, лишь ориентируясь на стоимость совершения альтернативных ошибок. И наоборот, "ученый, претендующий на независимость от системы ценностей", будет, вероятно, исходить из допущения о существовании подобных различий, как только какие-то данные будут свидетельствовать о хотя бы чуть более высокой ее вероятности, чем вероятность противоположного допущения."
"Эти проблемы не возникают в повседневной научной работе, поскольку традиционные статистические методы обычно относят их к проблемам выбора статистического критерия или конкретного метода оценивания какой-либо величины.


В результате этот выбор производится на общепринятой или традиционной основе, обычно без всякого обсуждения, обоснования или даже признания, что был произведен выбор системы ценностей"4.
Робертc предпочитает приводить ценностные характеристики, учитываемые ученым в процессе решения вопроса, приемлема или неприемлема потенциальная стоимость ошибки, демонстрируя, что научная гипотеза не "независима от системы ценностей". Ценностные оценки, как я попытаюсь показать, учитываются при осуществлении учеными выбора также и другими (с моей точки зрения, более важными) способами. В данный момент, однако, я хочу лишь подчеркнуть, что вполне уместно крикнуть "браво" биологам, о которых упоминалось выше, и крикнуть "позор" ученым, написавшим недавно, что "симбионт" "машина-животное", располагающий зрительной системой и мозгом животного, обеспечивающими расширение его механических функций", будет технически "осуществим" в течение ближайших пятнадцати лет"5.
Использование слов типа "этика" и "долг" в беседе на научную тему едва ли не всегда вызывает некоторую натянутость, несколько похожую на ту напряженность, которая возникает всякий раз, когда, разговаривая с немецкими университетскими профессорами преклонного возраста, вам случится упомянуть о карьере одного их их коллег, преуспевавшего в годы гитлеризма. В последнем случае охлаждение атмосферы беседы выдает страх перед тем, что может быть сказано что-то "неудачное" и в особенности упомянута неспособность коллеги в прошлом поступиться своим честолюбием из моральных соображений. Таким образом, это служит признанием того факта, что сомнительным оказалось не только поведение именно этого коллеги, но и всех профессоров и преподавателей высших учебных заведений Германии того времени.
В первом же случае натянутость возникает из-за аналогичных соображений, поскольку этика в своей основе не уделяет так много внимания чему-нибудь еще, как отказу.


Эта напряженность выдает страх перед тем, что будет сказано нечто о том, что наука, и, следовательно, ученые должны и не должны делать. И это есть признание того факта, что то, что могло бы быть сказано об этом, не относится исключительно к науке вообще или к некоторой абстрактной совокупности, именуемой учеными, но применимо к каждому из присутствующих.
Некоторые ученые (ни в коем случае не все) считают сферу науки универсальной и уверены в невозможности существования ничего такого, что в силу некоего "высшего" принципа не следовало бы изучать. Из этой предпосылки обычно делается вывод, что всякие разговоры об этических "долгах", относящиеся к науке, по своей природе имеют разрушительный характер и направлены против науки и даже против разума.
Какова бы ни была ценность этого довода в абстрактно-логическом отношении, он теряет смысл в конкретных ситуациях, поскольку предметом научного исследования могло бы стать бесконечное множество вопросов, но в распоряжении науки имеется лишь ограниченное количество ресурсов. Следовательно, человек должен выбирать, какими проблемами заниматься, а какие отложить. Нам неизвестно, например, имеется ли какая-нибудь корреляция между числом пор в коже человека и числом нейронов его мозга. Этот вопрос не вызывает интереса, поэтому нет споров о том, следует или нет науке его изучать. Китайцы использовали иглотерапию в течение многих веков, не привлекая интереса науки западных стран. Теперь западные ученые вдруг заинтересовались иглотерапией. Эти примеры показывают, что научный "прогресс" развивается не по какому-то пути, предопределенному самой природой, а является зеркалом интересов и забот человека.
Несомненно, тонко отточенный интеллект человека - один из наиболее дефицитных ресурсов современного общества. И очевидно, что некоторые проблемы, поддающиеся научному исследованию, важнее других. Человеческое общество неизбежно сталкивается с проблемой разумного распределения такого дефицитного ресурса, как научные таланты.


Существует необходимость ( от нее нельзя произвольно отделаться) решить, какие задачи важнее или интереснее, чем другие. Любое общество должно постоянно искать способы удовлетворить это требование. Вопрос в данном случае заключается в том, каким образом эти способы следует отыскивать в открытом обществе; должны ли они устанавливаться, скажем, вооруженными силами или путем открытого обсуждения гражданами и учеными? Если их нужно обсуждать, то почему из дискуссии должны исключаться этические вопросы? И, наконец, как можно прийти к чему-либо разумному, если предварительно все не согласятся с тем, что, вопреки утверждению Джона фон Неймана, технические возможности не являются неодолимым искушением для человека? "Можно" не означает "должно".
К несчастью, новый конформизм, позволяющий нам говорить обо всем, за исключением нескольких простых истин, записанных в наших сердцах и в священных книгах любой из множества религий, исповедуемых человеком, считает все доводы, основанные на этих истинах (независимо от того, сколь тщательно они продуманы или красноречиво сформулированы), смехотворными для ученых и инженеров. Это само по себе, возможно, наиболее трагический пример того, как неправильное использование идеи обращает ее в ее противоположность.
Ученые, продолжающие болтать о "знании ради знания", чтобы использовать этот лозунг в своих собственных интересах, лишают науку и технику всяческих контактов с реальным миром. Центральная проблема знания, после того как оно "получено", - это придание ему законной силы; но мы видим, что почти во всех сферах, особенно в обсуждавшихся нами разделах информатики, подтверждение достоверности научного знания свелось к демонстрации технических чудес. Объяснить это можно двояко: либо природа, с которой связана наука, состоит исключительно из сырья, которое необходимо переплавлять и обрабатывать как некий объект; либо знание, приобретаемое наукой для человека, не имеет совершенно никакого отношения к самому человеку.


Наука не может согласиться с истинностью последнего, поскольку в противном случае она утратила бы свое разрешение "заниматься практикой". Это лишение, естественно, будет иметь практические последствия (в том числе утрата финансирования и т. д.), которым ученые стали бы сопротивляться изо всех сил. Если же верно первое, то сам человек превратится в некий объект. Есть много свидетельств, что на самом деле именно это и произошло. Но в таком случае и знание утратило свою чистоту, которой ученые так гордились; то знание превратилось в предприятие не более и не менее важное и не более по существу значительное, чем, скажем, знание о том, как расположить автосборочный конвейер. Кто станет интересоваться тем, что все это "ради знания"?
Этот процесс трагичен потому, что лишает науку самой возможности руководствоваться подлинными человеческими стандартами, не ограничивая в то же время никоим образом возможности науки передавать в руки человека все более и более могущественные силы. Здесь мы также обнаруживаем корни столь широко обсуждаемой дегуманизации человека. Человек дегуманизируется всегда, когда рассматривается как нечто меньшее, чем целостная личность. Различные формы инженерной психологии и социальной инженерии, рассматриваемые в книге, относятся к человеку постольку, поскольку они разрушают всю человеческую специфику, особенно ту, которая придает реальное значение языку человека.
То обстоятельство, что аргументы, взывающие к высшим принципам, например к обязательствам человека перед его детьми или к самой природе, не признаются имеющими законную силу, порождает серьезную дилемму для любого человека, стремящегося склонить своих коллег к сотрудничеству в наложении определенных ограничений на их исследования. Если он тем не менее использует подобные доводы, надеясь побудить своих коллег к своего рода обращению, то он рискует вообще не произвести никакого эффекта и даже подвергнуться отлучению, попав в положение смехотворного дурака. Если он настаивает на самоограничении, исходя из необратимости последствий, к которым могут привести неограниченные исследования, то он включается в узаконивание злоупотреблений инструментального мышления (скажем, под личиной анализа затрат и результатов) и способствует тому, против чего он собирался вести борьбу.


Я не вижу оснований советовать своим студентам посвящать свои таланты этой цели.
Я предлагал своим студентам и коллегам задать по поводу этого проекта еще один вопрос. Допуская, что машина, распознающая речь, неизбежно должна быть исключительно дорогой и поэтому только правительство и несколько очень крупных корпораций смогут позволить себе пользоваться ею, для чего они будут ее использовать? Для чего бы она могла быть, в принципе, использована? У меня нет никаких сомнений в том, что у человека не существует таких насущных проблем, разрешение которых облегчило бы наличие такой машины. Но подобные слышащие машины сделали бы слежение за речевой связью намного легче, чем оно представляется сейчас. Может быть, единственной причиной чрезвычайной ограниченности слежки за телефонными разговорами, практикуемой правительствами многих стран, является то обстоятельство, что подобная слежка требует участия очень большого числа людей. Каждый разговор по подслушиваемому телефону должен быть когда-то потом прослушан каким-то человеком. Машина же, распознающая речь, может отсеивать все "неинтересные" разговоры и представлять своим хозяевам расшифровки только оставленных. Я абсолютно не верю в то, что такие возможности окажутся в нашем распоряжении в будущем, столь отчетливо видимым Ньюэллом и Саймоном. Но я все-таки спрашиваю, почему талантливые специалисты в области вычислительной техники должны оказывать поддержку подобному проекту? Как гражданин, я опрашиваю, почему мое правительство должно тратить приблизительно 2,5 млн. долларов ежегодно (как оно это делает сейчас) на этот проект?
Несомненно, подобные вопросы вставали перед мыслящими людьми на более ранних этапах развития науки и техники. Но до недавнего времени общество всегда могло справиться с нежелательными и опасными эффектами новых изобретений при помощи своего рода самооздоровления, устраняющего или минимизирующего влияние этих эффектов. Скученность в городах можно было уменьшить географическим расширением города.


Человек мог спастись от ужасных последствий промышленной революции в Англии, эмигрировав в Америку. А Америка могла спастись от многих последствий роста мощи оружия, укрываясь за своими двумя крепостными рвами-океанами. Но эти дни прошли. Ученый и инженер больше не могут избегать ответственности за результаты своей деятельности, уповая на безграничные возможности общества преобразовывать себя в соответствии с новыми реальностями и залечивать раны, нанесенные ему ими. Определенные пределы уже пройдены. Преобразования, которые, возможно, потребует новая техника, могут оказаться неосуществимыми, а невозможность их осуществить может означать тотальное уничтожение жизни. Никто не имеет права ставить человечество перед необходимостью подобного выбора. Я говорю здесь о том, что следует и чего не следует делать, что неприемлемо с моральной точки зрения, что опасно. Я, естественно, прекрасно сознаю то обстоятельство, что эти мои моральные оценки не имеют сами по себе моральной силы ни для кого, кроме меня самого. И, как я уже указывал, я совершенно не намерен учить других, какими задачами они должны заниматься, а какими не должны. Я лишь призываю всех оценивать последствия того, что они действительно делают, причем сейчас я имею в виду не только очевидные, прямые последствия, оказываемые их деятельностью на окружающий мир. Я говорю, скорее, о последствиях, сказывающихся на них самих, на том, как конструируют свои разумные объяснения, как подавляют истину, побуждающую их следовать иным курсом, и как шаг за шагом отказываются от собственной независимости. Тот факт, что так много людей столь часто спрашивают, что им делать, служит признаком того, что понятия "быть" и "делать" поменялись местами. Тем, кому известно, кто они и что собой представляют, нет нужды спрашивать, что им следует делать. Те же, кто вынужден опрашивать, не смогут покончить с вопросами до тех пор, пока не начнут вглядываться в себя. Задача же каждого показывать с помощью собственного примера, какие вопросы можно задавать себе, и демонстрировать, что человек может жить, пользуясь теми немногими ответами, которые у него имеются.


Но точно так же, как я не обладаю лицензией определять действия других, так и "конструкторы" того мира, в котором я вынужден жить, не имеют безусловного права навязывать мне свои представления. На ученых и инженерах в силу их возможностей лежит особенно большая ответственность - ответственность, от которой нельзя отделаться, прикрываясь лозунгами типа технической неизбежности. В мире, где человек все в большей мере имеет дело лишь с результатами собственной деятельности, причем только в виде произведенных им продуктов, производители и конструкторы этих продуктов - зданий, самолетов, пищи, бомб и так далее - должны располагать глубочайшей уверенностью в том, что их продукция - результат выбора, сделанного человеком.
Люди могут захотеть получить вместо того, что у них есть, действительно безопасные автомобили, хорошие телевизоры, прекрасные дома для всех или комфортабельную, безопасную и широко разветвленную систему общественного транспорта. Отсутствие всего этого в стране, располагающей достаточными возможностями, не является следствием технической неизбежности или того обстоятельства, что больше некому делать выбор - люди решили производить и захотели иметь именно то, что мы производим и имеем на самом деле.
Когда видишь особенно противную телевизионную рекламу, трудно себе представить, что взрослые люди когда-то и где-то усаживались вокруг стола и решали сделать именно эту рекламу и передавать ее сотни раз. Но именно так все и происходит. Все это результат деятельности не безымянных сил, а групп людей, пришедших к соглашению, что подобное загрязнение сознания людей отвечает их интересам.
Но, как это часто бывало с самого начала писаной истории, решения, имевшие самые зловещие последствия, часто принимались во имя ложно понятого блага. Например, летом 1966 г. в США ощущалось острое беспокойство по поводу интенсивных бомбардировок американцами Северного Вьетнама. (Разрушения американскими бомбардировщиками Южного Вьетнама были в меньшей степени предметом публичных дебатов, поскольку публика еще считала, что Америка "помогает" этой несчастной стране.) Около 40 американских ученых высокого научного ранга решили содействовать прекращению бомбардировок, организовав Летнюю исследовательскую группу при помощи Института оборонных исследований, пользующейся высоким престижем консультативной фирмы, которая работала для министерства обороны.


Они хотели продемонстрировать, что бомбардировки были фактически неэффективны7. Они показали это, применяя самые лучшие научные инструменты - исследование операций, системный анализ и пр. Но они чувствовали, что министр обороны не станет их слушать до тех пор, пока они не предложат какую-либо альтернативу бомбардировкам. Они предложили установить "электронный забор" в так называемой демилитаризованной зоне, разделявшей Северный и Южный Вьетнам. Предполагалось, что это препятствие должно прекратить проникновение с севера. Среди прочего в его состав входили маленькие мины, закапываемые в землю и сконструированные так, чтобы они взрывались под ногой носильщика, но не реагировали на грузовик, проезжающий по ним. Другие устройства были предназначены для прекращения движения грузовиков. Разнообразные электронные датчики, системы управления и тому подобное в конце концов стали частью так называемой линии Макнамары. Так было положено начало тому, что развилось впоследствии в концепцию электронной войны.
В намерения большинства этих людей не входило изобретение или рекомендации новой технологии, которая сделала бы войну еще более ужасной и, кстати, менее дорогой для высоко промышленно развитых стран за счет "слабо развитых". Они хотели прекратить бомбардировки. В этом отношении они были всецело на стороне групп, призывавших к миру, и вообще всех граждан, преисполненных самых благих намерений. И они действительно добились поставленной цели: бомбардировки Северного Вьетнама на время прекратились и "забор Макнамары" установлен. Но ведь эти чрезвычайно заметные и влиятельные люди могли бы вместо этого просто заявить, что они считают бомбардировки, а в сущности, всю вьетнамскую авантюру Америки ошибочными и они больше не будут "оказывать содействие".
Мне известно, что по крайней мере некоторые члены этой группы считали войну ошибочной; может быть, они все так считали. Но, как позже объяснили мне некоторые из них, они чувствовали, что, если бы выступили с подобным заявлением, их бы не стали слушать ни тогда, ни когда-либо еще.


И все же какой бы был эффект, если бы 40 ведущих американских ученых летом 1966 г. присоединились к группам, требовавшим мира, категорически отвергнув войну по моральным соображениям! Помимо того положительного влияния, которое такой шаг мог бы оказать на развитие событий в мире, какое негативное влияние оказал компромисс на них самих, на их коллег и студентов, для которых они служили примером!
Из этого эпизода можно извлечь несколько уроков. Первый заключается в том, что не техническая неизбежность и не какие-то безымянные силы изобрели электронную войну. Люди такие же, как те, которые делают телевизионную рекламу, собрались вокруг стола и выбрали этот путь. И все же исход обсуждений Летней исследовательской группой в 1966 г. был в определенном смысле предрешен. Диапазон получаемых вами ответов определяется диапазоном задаваемых вами вопросов. Как только было решено, что Летняя исследовательская группа будет заниматься только техническими вопросами, решение проблемы прекращения бомбардировок Северного Вьетнама свелось, в сущности, к вычислительной задаче. Когда было введено дополнительное условие о том, что группа должна любой ценой сохранить доверие заказчиков и не должна затрагивать статус участников "как членов своих организаций", все степени свободы, которыми члены группы могли бы обладать сначала, были практически утрачены.
Многие члены группы, как мне известно, выступали в защиту академической свободы как своей собственной, так и своих коллег, карьера которых находилась под угрозой по политическим причинам. Эти люди не считали, что рискуют своей академической или научной свободой, принимая участие в консультациях типа Летней исследовательской группы. Но отказ от тех степеней свободы, которыми они располагали бы, не будь всецело преданы своим заказчикам, независимо от того, принесли они эту жертву сознательно или нет, представлял собой значительно более жесткую форму цензуры, чем наложенная официальными представителями государства. Эта разновидность интеллектуального членовредительства, именно из-за того, что оно совершается в значительной мере неосознанно, является основным источником чувства бессилия, испытываемого таким множеством людей, занимающих, по крайней мере внешне, руководящие позиции.


Второй урок таков. Эти люди были способны дать тот совет, который дали, поскольку действовали на колоссальной психологической дистанции от тех, кто будет искалечен или убит с помощью систем оружия, в которые претворятся идеи, предложенные ими своим заказчикам. Следовательно, урок заключается в том, что ученые и инженеры должны, опираясь на свою волю и воображение, активно стремиться уменьшать психологические дистанции подобного рода и противостоять силам, пытающимся отделить их от последствий их деятельности. Они должны (этой простой вещи вполне достаточно) думать о том, что в действительности делают. Они должны научиться прислушиваться к своему внутреннему голосу и научиться говорить "нет!".
И, наконец, имеет значение само действие. Когда оно определяется исключительно инструментальным мышлением, поступки, совершаемые на его основе, лишаются их истинного значения и существуют в этическом вакууме. Я слышал недавно, как официальный представитель крупного университета публично защищал принятое им важное политическое решение, против которого по моральным соображениям выступали многие студенты, профессора и преподаватели университета. Он сказал: "Мы могли бы занять моральную позицию, но что хорошего это принесло бы?" Но благо морального поступка заключено в самом поступке. Именно поэтому поступок сам по себе может облагородить или развратить человека, совершающего его. Одержав в наше время победу, инструментальное мышление послужило причиной фактического исчезновения понимания этого обстоятельства и, таким образом, предопределило объявление вне закона самой идеи благородства.
Я, естественно, сознаю, что вряд ли кто-нибудь, читая эти строки, сочтет их адресованными себе, - так глубоко убеждение в нашей общей подчиненности действию безымянных сил, находящихся вне нашего контроля, проникло в современное общественное сознание. Сопровождается же это убеждение инфляцией идеи гражданского мужества.
Широко распространено, но глубоко ошибочно убеждение в том, что гражданское мужество подвергается испытаниям лишь во время событий, потрясающих весь мир.


Как раз наоборот, наиболее трудные испытания ожидают его в тех локальных ситуациях, когда необходимо преодолеть страхи, связанные с мелочными заботами о карьере, об отношениях с теми, кто кажется обладающим властью над ними, обо всем том, что может нарушить ваше спокойное мирское существование. Если эту книгу необходимо рассматривать, как защиту чего-то, пусть она будет призывом к этой простой форме гражданского мужества. И поскольку эта книга в основном посвящена вычислительным машинам, пусть этот призыв в первую очередь будет услышан преподавателями информатики.
Пусть они услышат, как я настаиваю на том, что вычислительная машина - новая мощная метафора, которая может помочь понять многие аспекты нашего мира, но она порабощает сознание, не располагающее иными метафорами и имеющее мало других возможностей, к которым оно могло бы апеллировать. Мир очень разнообразен, и нет такой единой, достаточно емкой схемы, чтобы охватить все: ее нет ни для науки, созданной человеком, ни для поэзии, ни для вычислительного мышления, ни для чистой интуиции. Как недостаточно любви к музыке для игры на скрипке - необходимо, кроме этого, освоить искусство владения инструментом и саму музыку, так недостаточно и одной любви к человечеству, чтобы помочь ему выжить. Таким образом, долг учителя учить своему делу почетен. Но он обязан делать больше: его обучение не должно ограничиваться пределами единственной метафоры, и ему следует учить больше примером собственного поведения, чем тем, что он пишет на доске. Он должен учить сознанию ограниченности своих инструментов так же, как и их могуществу.
Программированию обучиться довольно легко. Почти любой человек, обладающий достаточно упорядоченным умом, может стать довольно неплохим программистом после совсем незначительного обучения и практики. И поскольку программирование вознаграждается почти немедленно, так как вычислительная машина очень быстро и почти точно начинает выполнять указания программиста, оно очень соблазнительно, особенно для начинающих.


Более того, особенно сильно программирование привлекает людей недостаточно зрелых в том смысле, что они могут спокойно относиться к длительным промежуткам времени между затратой усилий и получением конкретного результата. Поэтому юные студенты легко впадают в заблуждение, считая, что они действительно овладели мастерством, обеспечивающим им необычайное могущество и имеющим колоссальное значение, хотя, на самом деле, они изучили лишь его зачатки и ничего существенного, вообще говоря. Быстрое восхождение студента от состояния абсолютной неосведомленности о вычислительных машинах к тому, что представляется ему вершинами программирования, а в действительности является лишь очень невысокой возвышенностью, может породить у него победную эйфорию и вызвать убеждение в том, что он обрел свое подлинное призвание. Преподаватель, конечно, тоже склонен, испытывать удовлетворение от явного энтузиазма студента и поощрять его, возможно, неосознанно и вопреки своим совершенно правильным убеждениям. Для студента такое положение, возможно, окажется западней. Он может так всецело предаться тому, что он по наивности считает информатикой, а на самом деле обыкновенной шлифовке своих программистских навыков, что это может полностью воспрепятствовать обучению его чему-нибудь существенному.
К сожалению, многие университеты предлагают студентам младших курсов программы по "информатике", что позволяет учащимся выбирать подобный путь и даже поощрять их в этом. Когда такие студенты завершают курс обучения, они оказываются в положении людей, научившихся прекрасно говорить на иностранном языке, но которые, попытавшись написать что-нибудь на этом языке, обнаруживают, что им самим сказать буквально нечего.
Отсюда вытекает вывод: хотя обучение ремеслу важно, оно не может заменить всего остального.
Задача университета не может сводиться к простому предложению студентам каталога "зданий", из которого они могут выбирать. Если бы функция университета была такова, то следовало бы предполагать, что приходящие в него студенты уже стали тем, кем должны стать.


Тогда студента можно было бы рассматривать как своего рода корзину универсама, которую предстоит наполнить товарами, перечисленными в университетском интеллектуальном каталоге, или как объект, очень похожий на вычислительную машину, память которой беспрестанно жаждет новых "данных". Однако задача университета иная. Несомненно, он должен относиться ко всем своим "гражданам" - студентам и профессорско-преподавательскому составу в равной степени, в первую очередь как к людям, ищущим (как иначе назвать это?) истину и, следовательно, ищущим себя. С каждым членом университетского сообщества постоянно должно что-то происходить: каждый должен покидать аудитории университета иным, чем тот, кто вошел туда утром этого дня. Чистое обучение ремеслу не может исчерпать высокие функции университета.
Именно потому, что весьма значительная часть курса информатики посвящена навыкам вычислений, преподавателю, вероятно, легко усвоить привычку заниматься чистым натаскиванием. Нo, если бы он делал именно это, он тем самым умалил бы и собственное значение и значение своей профессии. Он также отделил бы себя от остальной интеллектуальной и моральной жизни университета. Университет должен являть каждому из своих "граждан" и всему миру в целом образ того, чем могли бы стать любой мужчина или любая женщина. Он выполняет эту задачу, обеспечивая вечное обновление идей мужчин и женщин, которые своими достижениями внесли вклад в строительство дома, где мы все живем. И он делает это, в радости и в горе, при помощи примера, подаваемого каждым членом университетского сообщества каждому члену университетского сообщества.
Преподаватель информатики не в большей и не в меньшей степени, чем любой профессор или преподаватель, по существу, непрерывно призывает своих студентов стать теми, кем является он сам. Если он считает себя просто репетитором, обыкновенным проводником "методов" достижения целей, определенных другими, то он оказывает своим студентам две плохие услуги.


Во-первых, он призывает их быть личностями, не имеющими полной независимости. Он призывает их стать просто исполнителями приказов, отдаваемых другими, и, в конце концов, оказаться ничуть не лучше машин, которые могут когда-нибудь заменить их в этом качестве. Во-вторых, он лишает их даже малейшего представления об идеях, которые только и оправдывают место, занимаемое информатикой в университетской программе. Поступая так, преподаватель информатики не дает студентам возможности познакомиться с примерами, которые ученый-информатик мог бы представить им в качество творческой личности, а следовательно, лишает их лучшей возможности стать воистину хорошими учеными-информатиками самим8.
И, наконец, преподаватель информатики сам подвержен чрезвычайно сильному искушению надменно считать свое значение в каком-то смысле "более основательным", чем знание своих коллег-гуманитариев. Но эта прочность знания, доступного ему, не дает вовсе никаких преимуществ. Это знание просто менее неоднозначно и в результате подобно машинным языкам обладает меньшими возможностями воспроизводить действительность. Человеческой природе, в частности,
"Особенно близок неоднозначный, неподатливый, иногда недоступный [моральный] мир, не сводимый ни к какому соответствию с символами, с помощью которых можно было бы попытаться измерить его. Это мир, стоящий в стороне от всех попыток историков свести [его] к законам истории, мир, не поддающийся любым усилиям людей искусства понять его фундаментальные законы прекрасного. Практическая деятельность [человека] должна иметь дело с чем-то менее жестким, чем являет собой научное знание. ...это не отступление, а продвижение вперед"9.
Преподаватель информатики должен иметь мужество противостоять искушению высокомерия и в процессе обучения отстаивать снова, главным образом, с помощью своего собственного примера, достоверность и законность этой не столь жесткой разновидности знания. Почему же нужно говорить в этой связи о мужестве? По двум причинам.


Первая и наименее важная заключается в том, что, чем больше он будет преуспевать в подобной манере преподавания, тем больше риска подвергнуться цензуре коллег, которые, обладая меньшим, чем он, мужеством, приняли упрощенные представления о мире, являющиеся неотъемлемым элементом предоставления науке имперских прав. Вторая причина состоит в том, что если он будет учить этому с помощью личного примера, то ему следует иметь мужество, по словам Джерома Брунера, признавать результаты собственного субъективизма.
Выше я сравнил бессознательное с бурным морем, а границу, отделяющую сознательное и логическое мышление от бессознательного, с береговой линией в шторм. Эта аналогия полезна и здесь, так как мужество, необходимое для исследования опасного побережья, подобно мужеству, которым необходимо обладать для изучения собственного подсознания, чтобы впустить в свое сердце и в свой мозг вынесенное океаном подсознания на берег и чтобы без страха продолжать исследование. Ведь подсознание может принести не только проявление творческих сил, не только жемчужины, требующие лишь шлифовки перед включением в структуры, о которых можно затем говорить с гордостью, но и самые мрачные истины о вашей внутренней сущности. Все это тоже должно быть изучено, понято и каким-то образом включено в вашу жизнь.
Если преподаватель или кто бы то ни было должен служить людям примером целостной личности, то прежде всего ему следует стремиться быть целостной личностью. Не имея мужества противостоять внутреннему миру, как и внешнему, достичь подобной целостности невозможно. Одно инструментальное мышление не в состоянии дать этого. И именно в этом заключается решающее различие между человеком и машиной: человек, чтобы обрести целостность, должен непрестанно исследовать свои внутренние и внешние реальности. Его жизнь исполнена риска, но риска, на который он имеет мужество идти, потому что, будучи исследователем, он учится верить в свои возможности терпеть и преодолевать. Какие значения можно вкладывать в понятия риска, мужества, веры, стойкости и преодоления, говоря о машинах?