(род. 8 января 1923 г.)

 

     Один  из  самых  выдающихся ученых-компьютерщиков  мира, проф. Джозеф Вайзенбаум известен своим большим вкладом в отрасли  Искусственного разума. Он был автором известной программы «Элиза» (предшественницы «Доктора» и других подобных программ), которые потрясающе продемонстрировали возможность встраивания «интеллектуальных» эффектов в компьютер путем программирования. Он также написал главную книгу, озаглавленную «Сила компьютера и Человеческий разум: от расчетов – к суждению», в которой он критически исследовал далеко идущие социальные применения исследования и философского предположения, касательно искусственного интеллекта.

Профессор  Вайзенбаум  получил степень доктора физики в Вейн-Стейт университете в Детройте. После нескольких лет в промышленности он  начал  работу в Масачуссетском Технологическом институте (МТИ), где руководил факультетом с 1955 г. В  настоящее  время – профессор отделения компьютерных наук МТИ. В его исследовательские интересы входят Искусственный Интеллект и социальное использование компьютерики и кибернетики.

 

     Настоящий адрес: Отделение компьютерных наук, МТИ, Кембридж, Масачуссетс, 03139, США.

     Интервьер: Рави Гомотам

     Записано 14 января 1985 г.

 

* * *

 

 

      ДВ: Я думаю, здесь задействованы вопросы нескольких уровней. На одном уровне вопрос заключается в том, что сегодня наука и ученые производят огромные силы, которые имеют важные видимые и невидимые воздействия на все общество. Исследование или новая научная находка может, по словам, Дайсона, встревожить всю Вселенную. Хорошо известна аксиома о том, что этическая и моральная ответственность  человека простирается как минимум столь же далеко, как его влияние. Еще сто лет назад  ученый мог работать в лаборатории с одним или двумя помощниками, оставаться  довольно академичным очень долгое время, быть замеченным только научными журналами и не иметь дальнейшего воздействия на окружающую общественность. Давайте рассмотрим сегодняшние успехи, к примеру, генетики и молекулярной  биологии.  Здесь мы  видим, что буквально горстка ученых – что-то около сотни на всей планете – делают такие вещи, как создание такого живого существа, которого не создала сама Природа и которое, вероятно, может неуправляемо расти. То, что в экстремальном случае – эта очень маленькая группа ученых может действительно вызвать смерть человеческой расы даже без использования всякого ядерного оружия, само по себе весьма серьезно. Подумайте о тех экспериментах, которые мы ставили в прошлом в несколько меньших масштабах, имея меньше знания, чем сегодня. Однажды было предложено разместить сотни тысяч, даже миллионы маленьких иголок размером с иглу фонографа в виде пояса вокруг земли для проведения каких-то атмосферных экспериментов. Это почти сделали, когда некоторым ученым удалось в последний момент обратить внимание правительств на побочные эффекты, которые будет иметь эксперимент и к такому факту, что неизвестны все побочные эффекты. Сегодня в подобных экспериментах риск и степень могущества ученого еще больше. Можно сказать, они почти универсальны, под чем я подразумеваю, что они идут не только на земле, но и, так сказать, в небе над нами. Важнейшее замечание при таких «починках» природы таково: все наши эксперименты необратимы, и их последствия более или менее устойчивы. Ученых как группу никто не избирает. И в политическом смысле они не отчитываются перед законом. Поэтому обладание такой силой в группе, представляющей  только саму себя, очень опасно и поднимает некоторые моральные проблемы.

 

     Сейчас, на совершенно ином уровне, мы буквально разъедаем древо познания. Во многих религиях к этой теме относятся с благоговением и даже, возможно, со страхом. Один очень известный мой коллега, Герберт Симон из университета Карнеги – Меллона – ведущий ученый в области искусственного разума и теории организации, часто говорил, что знание лучше неведения. Вероятно, тогда он произнес лозунг нашего времени. Но если мы внимательно проанализируем это заявление, мы придем к  вопросу: «Всякое ли знание лучше незнания? Есть ли знание, стоящее больше, чем другое знание? Какую цену мы хотим заплатить за конкретное знание?» Например, многие ученые интересуются функционированием живого мозга. Вопрос того, как он работает, – одна из великих тайн вселенной. Это, по крайней мере, столь же загадочно, как астрофизика. Но все то, что мы знаем сегодня – лишь маленький прогресс в этой области. Теперь, предположим, мне удалось разработать метод, который гарантированно даст огромный прогресс в понимании того, как работает человеческий мозг. Скажут: «Да, конечно, нам он нужен», но спросят: «Какую цену Вы платите за это?» Предположим, я предложил  исследовать живой мозг здоровых детей хирургическими методами, которые почти наверняка убьют детей или изувечат их. Тогда даже если познание гарантировано, будет ли оно стоить  даже одного ребенка?

 

      РГ: Вы поднимаете вопрос средств и целей?

 

      ДВ: Верно, совершенно верно. Я поднимаю вопрос средств и целей. Я надеюсь, мы пришли к тому, что хотя бы цивилизованные люди осознают, что цели не оправдывают средств. Какую цену можно просить за знание? Совершенно неправильно то, что  любое  знание  лучше неведения. За каждое знание нужно платить. Кроме экспериментирования на живых существах (включая людей), что необходимо однозначно запретить всеобщим законом, существуют и другие цены, которые мы платим. Одна из них – неуверенность – факт того, что мы не можем знать всей цены даже через много лет после эксперимента. На земле меньше всего не золота (или желтой воды) – меньше всего человеческой мудрости. В определенном смысле к этому следует  относиться как к любому запасу. Если я имею десять тысяч долларов в год для моей лаборатории и трачу пять тысяч долларов на центрифугу, то мы должны осознавать, что решение купить центрифугу исключает приобретение целого набора другого оборудования, которое мы могли бы купить. Подобно этому, когда я решаюсь изучать, скажем, простые числа, я принимаю решение, что следующие двадцать лет я не буду изучать весь круг других больших областей потенциального знания. Решение изучать отдельный аспект природы мира всегда является ценностным решением. Особенно в наше время, оно имеет даже политические последствия. Одни проблемы гораздо более неотложны, чем другие. Возможно, некоторые из них опасно изучать сегодня, а через сто лет, может быть, нет. Возьмем изучение генетически обусловленных различий в интеллекте разных рас. Возникает вопрос: «Самое ли это важное, что нам следует знать?» Что мы станем делать с этим знанием, получив его? Возникает целая проблема с наукой, свободной от ценностных ориентации. Я только что сказал, что решение изучать одно, отдавая этому предпочтение перед другим, само по себе является вопросом ценностей. И должен добавить сюда кое-что, относящееся к нашему времени. Современные ученые в университетах и коммерческих лабораториях болтают о знании ради знания, о науке ради науки, о чистом стремлении к познанию Вселенной и т.д. Я сказал «болтают», ибо считаю, что для большинства из них такой мотивировки просто не существует. Все они ориентируются на определенную цель, а проекты, над которыми они работают, финансируются людьми с очень специфическими интересами. Думаю, стоит честно признать тот факт, что около половины всех ученых в мире сегодня прямо или косвенно работают на военные программы. Картина из старой сказки, изображающая ученого-одиночку, работающего в лаборатории с одним верным помощником, присматривающим за оборудованием, в облаках идущего неизвестно откуда пара и приходящего к открытию, которое излечивает рак или делает возможным что-то столь же замечательное, как превращение соленой воды в пресную, больше не соответствует действительности. Сегодня наука так не работает, за очень редкими исключениями.

 

     РГ: Это важная проблема, и я попросил бы Вас остановиться на ней немного больше. Если я правильно Вас понял, Вы говорите, что, быть может, сто или сто пятьдесят лет назад в науке имело место стремление к получению знания ради знания. Но не ради чего-нибудь еще. Больше этого нет. Вы хотите сказать, что за прошедший период характер науки как-то изменился? Хотите ли Вы сказать, что в настоящее время целью науки стало нечто иное?

 

     ДВ: Да. Я думаю, наука радикально изменилась. Я предполагаю, это имеет отношение к самой экономике функционирования науки. Достаточно вспомнить, что Британское Королевское общество, появившееся во времена Ньютона, получало свои средства в большой степени на основе обещания давать результаты, полезные для общества. Оно не обещало наращивать знания, мудрость мира или еще что-нибудь такое. Оно обещало полезные результаты. За первые сто пятьдесят лет единственным полезным результатом, явившимся следствием такого спонсорства, было изобретение громоотвода. По существу это созвучно с тем, что мы и теперь называем современной наукой. Сегодня наука – очень дорогостояща, так как большинство инструментов, необходимых ей, очень дороги. Это циклотроны, ускорители всех видов, компьютерные системы, электронные микроскопы, радиотелескопы и т.д. Благодаря всему этому создается большая наука, а политика управляет ею. Большая наука сегодня имеет характеристики, в очень многом сходные с любым большим бизнесом, – гигантский административный аппарат, чрезвычайно высокие накладные расходы и т.п. И все это породило недостаток самокритичности в науке. Интересной фантазией, думается, было бы проследить, что случилось бы, если бы какой-нибудь университет решил вдруг предпринять некую совершенно особую попытку по обучению студентов науке, которую может делать только один человек. Прискорбно признавать, что, если посмотреть, какой аспект человеческой природы играет наибольшую роль в современной науке, то это окажется алчность – стремление получить фонды, заручиться поддержкой и т.д. Я могу здесь также сослаться на искусственные требования публиковаться, предъявляемые студентам и молодым ученым. Неважно, что они публикуют, лишь бы это попало в так называемые цитируемые журналы. Когда приходит время рассматривать вопрос о продвижении, о том, может ли молодой ученый остаться в конкретном университете, тогда проверяются библиография, число статей и журналы, где они опубликованы. Это просто дает людям ложную основу для публикаций. Основанием должно быть убеждение автора в том, что ему или ей есть, что сказать. В отсутствии этого критерия публикация работ превращается в безмерную бюрократию, включая бюрократию слежения за всем этим старьем. И это также увеличивает расходы большой науки, искажая, кроме того, весь оценочный механизм науки и ученых.

 

     РГ: Мы слышали, что Вы говорили о необходимости учитывать средства познания; Вы также обсудили спектр финансирования. Можно ли сказать, что лучшее знание – то, которое наносит наименьший ущерб окружающей среде и требует наименьших средств со стороны?

 

     ДВ: Я боюсь любой формулы. Мир очень сложен, и, видимо, само знание тоже сложно. Не думаю, что нам следует искать какую-нибудь простую формулу.

 

     РГ: И все же Вы говорили о том, что ученым необходимо признать, что погоня за знанием самим по себе недостойна, если она не сопровождается общественно-полезными соображениями. Как практически включить это признание в науку?

 

     ДВ: В определенном смысле ответ мне ясен. Мудрость или знание того, что можно и чего нельзя делать, что этично и что неэтично, что морально допустимо, а что нет – эта оценка должна присутствовать в сознании ученого. Этого нельзя дать ему извне. Разрешите привести пример. Предположим, что я, отходя от стола, чтобы выпить воды, роняю бумажник, а Вы поднимаете его. Вы находите в нем огромную сумму денег. Когда я возвращаюсь, Вы говорите: «Вы выронили бумажник, а я нашел его, возьмите». Теперь, предположим, кто-то спрашивает Вас: «Почему ты не оставил бумажник себе?» Ваш ответ не будет содержать перечисления возможных последствий похищения бумажника. Скорее всего, Вас поразит этот вопрос. Скорее всего Вы скажете: «Меня не так воспитывали. Это не для меня!» Вы не сможете дать дальнейших объяснений. Такое поведение – просто часть Вас. И так и должно быть. Это значит, что ученый, обретя зрелость в целом и научное знание в частности, должен дышать атмосферой морали, чтобы моральный подход к науке стал инстинктивной и неотчуждаемой его частью. И еще разрешите добавить, что я не считаю, что этому следует учить исключительно ученых. Не только ученых – всех. Другими словами, ситуация не улучшится до тех пор, пока у нас не произойдет радикального изменения морали во всем мире. Это заявление весьма пессимистично, ибо обещает только очень отдаленную возможность. Но тем не менее оно верно.

 

     РГ: Итак, Вы считаете, что проблемы нашего времени ведут не только к науке и ученым, но относятся скорее к распространившемуся повсюду падению качеств, стандартов жизни, или человеческого уровня?

 

     ДВ: Это верно, хотя меня удивляет слово «падение». Я хотел бы знать, стало хуже или нет. Несомненно то, что наше положение неважно. За последние сто лет влияние, или эффективность, ученого, политика и военного неизмеримо возросли. Силы, способные погубить человечество, возросли так сильно, что то что нам кажется ухудшением положения людей или всей жизни на земле, вполне может быть просто отражением сохраняющейся незрелости человеческого бытия в контексте все нарастающей материальной мощи.

 

      РГ: Наука, видимо, движется от одного локального достижения к другому, а общей картины мы не представляем. Мы не можем предсказать всего круга результатов конкретного вида исследований. В такой ситуации есть ли вообще какая-нибудь надежда почувствовать, что, продолжая научные поиски и прогресс, мы не придем ко все большим трудностям?

      ДВ: Весьма малая. Я очень, очень пессимистичен. Но вместе с тем я также думаю, что надежда есть. Это звучит парадоксально – позвольте мне объясниться. Оптимизм-пессимизм – это принципиально статистическое измерение. Оно касается возможности успеха или вероятности неудачи. Когда я говорил, что я очень пессимистичен, я хотел сказать, что вероятность того, что положение станет намного лучше, невелика. В то же время надежда имеет дело с возможностями, а не со статистикой. А возможность спастись для нас существует. Я в этом не сомневаюсь. В действительности, я думаю, все, что нам нужно знать для того, чтобы жить в мире и безопасности – не только в военном, но и в духовном смысле, – уже существует в писаниях основных религий. Приведу лишь один пример: очень компактный набор алгоритмов добродетельной жизни содержится в Нагорной проповеди. Я не верю, что мы нуждаемся в дальнейшем исследовании моральных альтернатив. Это уже сделано. Больше делать этого не нужно. Использовать то, что мы знаем, очень, очень трудно, но сам факт того, что это знание существует, вселяет в меня надежду. Возможность организовать человеческую жизнь разумно и гуманно существует. Это значит, что надежда есть. Но сам я настроен очень пессимистично.

 

      РГ: Возможность в общем смысле всегда существует. Но дело в том, что человеческая раса в целом, практически во всем мире все более доверяется научному пути познания и прогресса. Вы видите какую-нибудь надежду, при условии что кардинально не изменится ограниченная и узкая природа научного познания? Иначе говоря, следует ли нам вообще призывать к смене парадигмы того, кто утверждает, что наука и только наука – путь к истине и лучшей жизни?

 

      ДВ: То, на что Вы обращаете внимание, сегодня широко принято, сознательно или бессознательно, явно или неявно – только наука может привести к истинному познанию мира. И это – фундаментальная ошибка. Я могу проиллюстрировать это небольшой историей. Предположим, мы пересекаем местность и натыкаемся на большой глиняный холм. На вершине этого холма сидит слон. Одному из нас приходит в голову узнать, сколько времени потребуется слону, чтобы соскользнуть вниз к подножью, если он начнет соскальзывать. Как бы мы, современные ученые начали искать ответ на этот вопрос? Мы заменили бы слона центром тяжести и определили бы по таблице коэффициент трения. Потом написали бы одно-два дифференциальных уравнения, решив которые, получили бы ответ, что слону потребуется 67 секунд, чтобы достичь подножья. Вполне возможно, что в действительности слону потребуется 66 или 68 секунд. Это метод науки. Мы абстрагируем проблему. Здесь само слово «абстрагировать» означает отрываться от действительности. Таков фундаментальный метод науки – строить модели. В данном случае это математическая модель. Чего мы не учли в этой модели?

 

      Давайте посмотрим. Мы не учли запах слона. Мы не учли, что слон производит определенный шум, что у него волосы на теле, что у него имеется хвост и т.д. Мы не учитываем, как ощущается глина пальцами ног маленького мальчика. Мы не учли всего того, что можно сделать из глины, включая кирпичи и шары. Я думаю, теперь ясно, что можно продолжать буквально вечно перечисление того, чего мы не учли. Потому что то, чего мы не учли, – это вся Вселенная, каждый атом в ней, за исключением тех нескольких, которые мы смоделировали. Я думаю, именно это имел в виду Эйнштейн, делая свое известное заявление, что самое замечательное во Вселенной – это то, что мы вообще приходим к ее пониманию. Действительно замечательно, что с помощью этого глупого метода, именуемого наукой, мы можем найти хоть что-то полезное, помимо слонов, соскальзывающих с горок, что с помощью методов такого рода и человеческого гения нам удается строить мосты и т.д. Поэтому идея о том, что наука – это единственный источник обоснованного знания о мире, смехотворна. Это абсурдно перед лицом мира. Я возвращаюсь к мысли о том, как глина ощущается пальцами маленького мальчика. Нет, существуют и другие источники познания мира. Конечно, к этим источникам относятся различные искусства. В действительности, все важнейшие вещи, которые мы знаем о мире, являются результатами трансцендентального, а не, позвольте так выразиться, инструментального мышления. Я имею в виду, что по-настоящему важные вещи приходят к нам не через науку. Поэтому для всех, а не только для ученых или интеллектуалов, чрезвычайно важно иметь различные взгляды на мир.

 

     РГ: Я задам последний вопрос, так как считаю, что его нужно задать. Сейчас наука ужасно занята изучением материи. Если наука должна стать значимой для человеческих целей и интересов, ей определенно следует создать разумную картину природы и понять цели жизни вообще и человеческой жизни в частности. Какова надежда на науку в этом отношении?

 

     ДВ: Если кратко, то никакой. Я не думаю, что на эти вопросы вообще можно ответить научно. Это не вопросы, подобные тому, как долго будет скользить слон по глине. Как я говорил раньше, есть много источников обоснованного знания о мире. Для получения знания такого рода, а именно знания о цели и смысле жизни, просто не годятся научные средства. Во всяком случае, годятся не должным образом. Наука может пролить на это очень мало света. Между прочим, говоря о науке в этом интервью, я имел в виду современную науку, науку со времен Ньютона. Если мы утверждаем, что ответ на вопросы о жизни и ее смысле – задача современной науки, это подразумевает, что до недавних пор таких вопросов вообще не задавали, потому что 300 лет назад не было современной науки. Это подразумевает также, что можно отбросить все древнекитайские, древнегреческие, древнеиндийские и другие источники знания как не относящиеся к делу, потому что в те времена не было современной науки. Но это не так. Сам факт, что пересечение всех современных религий – не пустое множество, означает, что у них есть нечто общее. И эта мудрость – древняя. Она, конечно, намного предшествует появлению современной науки. Это само по себе говорит о том, что эти вопросы адресовались средствам решения, отличным от научных. Это не значит, что у науки не может быть каких-то ответов или прозрений в этих сферах. Это просто значит, что такое знание можно было получить без современной науки. Однако мое мнение – таково, что наука просто не имеет отношения к вопросам такого рода. Просто не имеет отношения. Предположим, Вы спросили бы меня: «Какой вклад может внести зоология в познание цели человеческого рода?» Я бы сказал, что никакой. Почему тогда физика или любая другая наука должны иметь большее значение?

 

      РГ: Как Вы думаете, что имеет значение для ответа на эти вопросы? Какой род познания?

 

      ДВ: Я думаю, что актуальное значение имеет знание и мудрость, содержащиеся в писаниях великих мировых религий. Значение имеет и опыт, заключенный в литературных трудах таких великих людей, как Толстой, Шекспир и др. Совершенно ясно, что мы не научились жить согласно этому знанию. Подумайте только, что во имя Иисуса сотни, даже миллионы людей были убиты и подвергнуты пыткам инквизиции, что ради утверждения одного религиозною мировоззрения уничтожались тысячи других религий. Мы видим, что творится в Ливане и в других местах. Отсюда ясно, что одного существования этих писаний и трудов недостаточно. Но я почти абсолютно уверен, что знание о том, как вести добропорядочную жизнь, содержится в этих трудах. То, что они не оправдали наших ожиданий, произошло не потому, что в них не заключено мудрости, но потому, что мы не настолько еще доведены до отчаяния, чтобы хотеть обрести разумный образ жизни. Я лишь надеюсь, что наше современное затруднительное положение придаст нам отчаяние и душевный подъем, чтобы обратиться к этому первому и последнему источнику знания – древнему знанию - и уделить ему серьезное внимание.