Искусственный интеллект в цикле «Мир полудня»: пессимистичный прогноз самых оптимистичных авторов
![Эскизы к фильму "Искусственный интеллект", задуманный С. Кубриком и снятый С. Спилбергом](/data/2022/08/08/1669188086/%D0%93%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F%20%D0%B8%D0%BB%D0%BB%D1%8E%D1%81%D1%82%D1%80%D0%B0%D1%86%D0%B8%D1%8F.jpg "Эскизы к фильму "Искусственный интеллект", задуманный С. Кубриком и снятый С. Спилбергом")
Действительно, в большинстве романов достижения машинных технологий являются лишь фоном повествования и только в двух главах из первой книги цикла, «Полдень, XXII век», искусственный интеллект (на самых ранних этапах своего развития) представлен как центральный предмет изображения. В главе «Загадка задней ноги» описывается любопытная машина — Коллектор Рассеянной Информации, которую герои в шутку называют Великий КРИ. В основе работы этой машины лежит гипотеза, которая в книге описана следующим образом:
«Ничто в природе и тем более в обществе не проходит бесследно, всё оставляет следы. … следы накладываются друг на друга, смешиваются, частично стираются следами последующих событий и явлений. Теоретически любой след можно отыскать и восстановить – и след столкновения кванта света с молекулой в шкуре бронтозавра, и след зубов бронтозавра на древовидных папоротниках».
Великий КРИ был создан для того, чтобы находить эти следы и преобразовывать в привычные формы информации – например, в изображение. Иными словами, это своего рода суперкомпьютер, который помимо перечисленных задач, способен также обрабатывать полученную информацию, строить на её основе модели, делать выводы и вырабатывать новое знание. В этом процессе сложно усмотреть какое-то духовное или творческое начало, которое мы обычно ожидаем найти, когда речь идёт об искусственном интеллекте, о разумных роботах.
Великий КРИ не порождает идей, у него нет собственной воли, он выполняет лишь те задачи, которые ставят перед ним люди. Однако природа эти задач необычная: суперкомпьютер стали использовать не только для того, чтобы заглянуть в прошлое, но и чтобы предсказать будущее. В частности, директор КРИ, Августос Ломба, пытался с помощью этой машины предсказывать поведение живого организма. Конечной целью этих экспериментов было установление наличия или отсутствия свободы воли. То есть в данном рассказе люди при помощи машинных технологий пытаются разобраться в сложнейшем механизме функционирования собственного разума. Перспектива таких исследований позволила бы людям в дальнейшем создавать самим роботов, обладающих сознанием.
Анри Бергсон в своей работе «Сознание и жизнь» очень подробно рассматривает проблему сознания и того загадочного фактора, который мы называем свободной воли. Философ высказывает гипотезу о том, что «сознание, изначально имманентно всему живому», то есть не только человеческому виду. При этом важную роль играет спонтанная, непредсказуемая активность, которая одновременно сопутствует сознанию и пробуждает его. Таким образом, любая рутинность, регулярность, поддающееся моделированию поведение — это явление, в котором отсутствует фактор свободной воли и, как следствие, сознание. Головной мозг в этой гипотезе представлен как «орган выбора», а вовсе не центр сознательной деятельности, как можно предположить.
«Живое существо выбирает или стремится выбирать. Его роль заключается в творчестве. В мире, где всё остальное детерминировано, его окружает зона индетерминации», — пишет Бергсон [2, c.35]. Иными словами, выбор — это и есть ключевой элемент сознательной деятельности, предопределить который невозможно. Если это оказывается возможным, значит, этот выбор был сделан без участия сознания, по какой-то уже сформированной модели. Таким образом, в соответствии с гипотезой Бергсона, исследования при помощи Великого КРИ обречены на провал.
Анри Бергсон видит в способности предвосхищать будущее один главных признаков сознания [1, с. 30]
Необходимо отметить, что тема искусственного интеллекта заметно выделяется на общем фоне творчества братьев Стругацких. Все романы этих авторов проникнуты безусловным оптимизмом, верой в светлое будущее человечества. Стругацкие не уклоняются от описания проблем, с которыми сталкиваются люди будущего, но у читателей не остается сомнений, что эти проблемы не смогут остановить человечество на пути прогресса. При этом тема искусственного интеллекта отмечена у Стругацких, с одной стороны, юмором, а с другой — буквально могильной мрачностью и совершенно несвойственным им пессимизмом.
Юмор братьев Стругацкий — одна из главных причин любить их книги. Рассказ «Загадка задней ноги» — одна из самых юмористических историй во всем цикле «Мира полудня». В самом названии видна игра слов как на уровне фонетики (аллитерация звуков [з], [д] и [н]), так и на уровне семантики (слово «загадка» предполагает контекст тайны, какого-то скрытого смысла, что никак не сочетается с контекстом сочетания слов «задняя нога»). С другой стороны, название рассказа может содержать в себе предупреждение, которое только скрывается под юмором, намёк на то, что эта история серьёзней, чем кажется на первый взгляд.
Главный юмористический элемент этого рассказа заключается в том, что для того, чтобы предопределить решение живого организма (какую кормушку с кормом выберет баран) и дать обоснование этого решения, Великий КРИ строит нелепые модели, устройство которых никак не согласуется с изначальной задачей. При этом с простейшими организмами (червями) Великий КРИ работал успешно, но стоило перейти на уровень выше, как машина начала буквально сходить с ума. Вместо модели барана она строила шесты с зеркалами на колесиках и семиногих жуков, — и на это у неё ушло целых два года. Очевидно, что предсказать и проанализировать решение человеческого разума, искусственный интеллект даже близко не способен, поскольку сам подход к этой проблеме является ошибочным. Таким образом, авторы показывают, что гипотеза о том, что свобода воли — лишь иллюзия, провалилась.
В той же книге, «Полдень, XXI век», есть ещё один рассказ, о котором следует сказать в связи с темой искусственного интеллекта. Эта история, в отличие от предыдущей, в которой события поданы с юмористической стороны, проникнута мрачной атмосферой. Сам антураж рассказа — глубокая ночь, проливной дождь, свечи в эпоху электричества (этот элемент особенно подчеркнут авторами и даже вынесен в название: «Свечи перед пультом») — сближает его с готическим романом. Именно в такой обстановке люди вступают в безнадёжную борьбу со смертью, в прямом смысле трудясь с ней наперегонки: мозг умирающего академика Окады пытаются «переписать» на материальный носитель, сделав его таким образом бессмертным.
Как и в случае с «Великим» КРИ, этот эксперимент называют «Великим кодированием». Такая параллель нам кажется неслучайной: в первом случае данный эпитет носит иронический характер (нелепую машину, создающую других нелепых машин называют «великой»), во втором же — герои всерьёз верят в успех эксперимента. Однако в обоих случаях в основе научных поисках лежит ошибочная гипотеза. Великий КРИ пытается построить модель того, что в принципе не поддаётся логическому анализу — свободы воли. В данной ситуации учёные пытаются превратить человеческое сознание в код, считая, что мозг — вместилище сознания: «…человек – это не руки и ноги. Человек – это память, привычки, ассоциации, мозг. МОЗГ». Однако, как отмечает Анри Бергсон, «мозг связан с сознанием в той же мере, в какой желудок связан с пищеварением», то есть ошибочно считать, будто в нём и только в нём сосредоточено сознание [2, c.31].
В итоге учёным удалось закодировать 98% мозга академика Окады. Сложно сказать, можно ли это считать успехом, ведь личность, скопированная на 98%, всё-таки даже по определению не может быть идентична оригиналу. Дальнейший план ученых был таков: перенести полученный код на искусственный мозг и возродить умершего человека. Конец этой истории неизвестен, как и то, что стало, в конце концов, с Великим КРИ и его «уродцами».
Для творчества Стругацких в целом характерен приём «оборванного повествования», когда читатель не знает финала истории. В «полуденном» цикле практически все романы остались незавершёнными с точки зрения сюжета, однако в случае с темой искусственного интеллекта эта незавершенность носит подчёркнуто пессимистичный характер. Читается уверенность авторов в том, что подобные эксперименты обречены на провал, и более того, сам факт таких экспериментов несёт в себе скрытую угрозу для человечества.
Пожалуй, самой загадочной и печальной сюжетной линией, которая появляется в цикле «Мира Полудня», является история Камилла, человека-киборга. Этот персонаж является второстепенным в романе «Далёкая Радуга». Его история восстанавливается буквально по крупицам из фактов, которые сообщаются о нём в этом романе и вскользь упоминаются в книге «Волны гасят ветер» и «Малыш».
Камилл был одним из тринадцати учёных, которые в результате рискованного научного эксперимента срастили себя с кибернетическими механизмами. Вся эта история окружена «демоническим» ореолом: тринадцать учёных были названы Чёртовой дюжиной. Читателю приходится, словно детективу, выискивать на страницах книг «полуденного» цикла подробности этих событий, потому что те из героев, которым известно что-либо об этом, говорят очень неохотно.
Действия событий «Далёкой Радуги» относят к 2156 году. На этот момент в живых из «чёртовой дюжины» остался только Камилл, остальные учёные покончили с собой. О причинах трагедии в книгах говорится мало, но по тому, каким представлен Камилл в романе, можно судить, насколько «иными» стали эти люди, и как мало в них осталось человеческого:
«…нет на Радуге человека, который не знал бы Камилла, – но его никто-никто не любит. В таком одиночестве я бы сошёл с ума, а Камилла это кажется, совершенно не интересует. … Неизвестно, где он живёт. Он внезапно появляется и внезапно исчезает. … всё, что говорят о Камилле, звучит странным анекдотом. … время от времени он является в Совет и говорит там непонятные вещи. Иногда его удаётся понять, и в таких случаях никто не может возразить ему. Ламондуа как-то сказал, что с рядом с Камиллом он чувствует себя глупым внуком умного деда».
По ходу повествования выясняется, что Камилл бессмертен, то есть, когда он умирает, то снова возвращается к жизни, причём каждый раз чувствуя боль. Кроме того, он обладает даром предвидения, то есть с определённой точки зрения, его разум — это сверхразум. В конце романа «Далёкая Радуга» у Камилла происходит короткий разговор с Леонидом Горбовским, из которого становится понятная суть его трагедии:
- Камилл, скажите мне правду. Я никак не могу понять. Вы человек?
- Не знаю, – сказал он. – Я последний из Чёртовой Дюжины. Опыт не удался, Леонид. Вместо состояния «хочешь, но не можешь» состояние «можешь, но не хочешь». Это невыносимо тоскливо – мочь и не хотеть.
- Да, я понимаю. Мочь и не хотеть – это от машины. А тоскливо – это от человека.
Косвенно, на основании этих слов, можно предположить, что эксперимент с кодированием разума академика Окады мог иметь такой же исход, если учёные реализовали свой план. В основе работы человеческого разума, в соответствии с идеями Бергсона, лежат процессы, которые не могут быть алгоритмизированы. Именно поэтому сознание человечка не может принять форму кода и неизменно будет отторгать любую техническую составляющую. В конце концов, Камилл покончил с собой, как и остальные учёные из Чертовой дюжины, о чём упоминается в романе «Волны гасят ветер».
В романе «Далёкая радуга» упоминается об ещё одном эксперименте – настолько ужасном, что его подробности вообще не раскрываются. Узнаём мы о нём также от Леонида Горбовского. Датировку «массачусетского кошмара» (именно так был назван этот инцидент) установить трудно. Предположительно это произошло в самом конце XXI века или начале XXII-го. Горбовский говорит об этом так:
“Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и всё такое… И проработала эта машина ровно четыре минуты. Её выключили, зацементировали все входы и выходы, отвели от неё энергию, заминировали и обнесли колючей проволокой”.
По словам Горбовского машина начала «вести себя», и её едва успели выключить. Что именно она начала делать, даже сам Горбовский не знал. Один из создателей машины обрисовал ситуацию тремя словами: «Это было страшно».
Таким образом, в отношении темы искусственного интеллекта Стругацкие занимают крайне пессимистическую позицию. В их книгах звучит недвусмысленное предостережение: искусственный интеллект и сам по себе будет представлять собой несчастное создание, поскольку обречён на состояние «мочь и не хотеть», и может также нести угрозу человечеству.
Елизавета Борискова
Источники
- Аркадий и Борис Стругацкие на сайте Русская Фантастика;
- Бергсон А. Избранное: Сознание и жизнь / Анри Бергсон ; [пер. с фр. И. И. Блауберг] Рос. акад. наук, Ин-т философии, Ин-т науч. информ. по обществ. наукам. - Москва : РОССПЭН, 2010. — 398 c.
Другие темы курса