В марте этого года выходит русское издание книги «Homo Deus. Краткая история будущего» Юваля Ноя Харари. Рассказываем о ключевых идеях этой книги, которая уже вызвала немало откликов и дискуссий.

Олег Матфатов

Читайте также: Коммунизм надвигается из Силиконовой долины?

Будущее зависит не от того, будут ли у нас новые технологии, а от того, как мы ими распорядимся

Что нужно сделать, чтобы твоя книга стала бестселлером в 30 странах и получила личное одобрение Марка Цукерберга, Билла Гейтса и Барака Обамы? Ответ: нужно быть израильским историком по имени Юваль Ной Харари.

Его книга «Sapiens. Краткая история человечества», русское издание которой вышло в 2016 году, была эпическим по размаху повествованием о том, как люди из небольшой кучки охотников-собирателей превратились в планетарную цивилизацию с развитой наукой, беспроводным интернетом и автономными роботами-автомобилями. В своей новой книге Харари ещё раз обозревает пройденный путь и заглядывает в будущее – которое, вполне вероятно, будет не очень радостным.

В книге «Homo Deus. Краткая история будущего» Харари с лёгкостью пересекает все возможные дисциплинарные барьеры. По образованию автор – историк-медиевист, но это не мешает ему писать о нейробиологии, когнитивистике, социологии, истории технологий и ставить широкие, но отнюдь не праздные философские вопросы. Что такое индивидуальность? Можно ли отделить интеллект от сознания? Может ли алгоритм обладать чувствами? И для чего они нужны нам, людям, если мы тоже представляем собой алгоритмы?

Некоторые упрекают Харари за склонность к широким обобщениям. Но если мы хотим понять человеческую историю, нам не обойтись без обобщений. Книги Харари хороши не отдельными выводами и утверждениями – они хороши именно благодаря наличию масштабной картины. Вписываясь в неё, на первый взгляд знакомые факты начинают выглядеть совершенно неожиданным образом.

Вот, например, главная идея книги «Sapiens»: преимуществом человека над всеми другими видами является склонность придумывать коллективные фикции – такие как денежное обращение, религии и права человека. «Homo Deus» подхватывает эту мысль и развивает её так, что кое-кого она может удивить или даже шокировать. Ещё мыслители эпохи Просвещения говорили, что Бог – порождение человеческого воображения. Современные биологи и психологи добавляют: само воображение – результат биохимических механизмов, сформированных за долгие столетия эволюции.

Эта первая из главных идей «Homo Deus»:

1. Всё живое, в том числе и человек – это алгоритм или сложная совокупность алгоритмов

Поразительная гипотеза: всё живое состоит из единого набора алгоритмов

Не факт, что эта идея верна, но именно так думают представители почти всех естественных наук. Никто не запрещает им верить в бессмертную неделимую душу, но научную статью на эту тему опубликовать им вряд ли удастся.

Конечно, почти любой биолог и психолог согласится, что сознание человека отличается от сознания обезьяны или мыши высоким уровнем сложности. Но определяющий механизм во всех трёх случаях для них будут выглядеть одинаково. Наше восприятие реальности – результат взаимодействия сотен биохимических импульсов в нашем организме. Личность – не более чем хорошо синхронизированный набор нейросетевых алгоритмов.

Нам кажется, что ощущения предоставляют нам верную картину окружающего мира. Но это только видимость. Наши ощущения сформировались ради выживания, а не ради точного восприятия реальности. Поэтому мы легко принимаем верёвку за змею, видим лица в плывущих по небу облаках и думаем, что злятся окружающие, когда злимся мы сами. Ещё до того, как срабатывает наше критическое сознание, сотни невидимых алгоритмов в нашей голове делают свою работу и принимают решение: нажать или не нажимать кнопку, ответить на встречный взгляд или отвернуться, отправиться на прогулку или остаться лежать на диване.

Пока эти алгоритмы работают хорошо, с нами всё в порядке. Встретившись с опасностью, мы реагируем почти мгновенно и тут же начинаем драться или убегать. Если бы нашим предкам пришлось долго размышлять над правильным решением, то нас бы здесь просто не было – нас бы съели более проворные млекопитающие. Сознание возникло, по всей видимости, как побочный результат наших мгновенных реакций. Мы интерпретируем то, что произошло, и эта интерпретация позволяет нам изменять своё поведение.

Это приводит нас ко второму тезису: сложные алгоритмы сами по себе вовсе не нуждаются в сознании.

2. Развитый интеллект не нуждается в сознании

В поединке между человеком и компьютером проиграть может только человек (на фото — матч Гарри Каспарова против Deep Blue)

В эпоху искусственного интеллекта этот тезис вряд ли нужно долго доказывать. Поисковая система Google или Deep Blue от IBM – очень умные механизмы, но они ничего не чувствуют. Гугл не обидится, если вы попытаетесь его оскорбить, набрав что-нибудь неприличное в строке поиска; Deep Blue не расстроился бы, програв Каспарову партию в шахматы. Социальные роботы могут искусно имитировать боль и радость, но не обладают субъективным опытом боли и радости. Компьютеры могут выполнять тысячи сложнейших операций – водить беспилотные автомобили, управлять летательными аппаратами, эвакуировать людей из завалов – и всё это без малейшей помощи чувств и осознания.

Наши самые глубокие переживания, которые мы так ценим – это, вполне возможно, всего лишь перевод генетических и биохимических взаимодействий на более удобный язык. По крайней мере, на данный момент у нас нет более удачной теории. Именно этот взгляд на человеческую психику уже сегодня определяет наше будущее. Он делает это через технологическую индустрию и передовые научные разработки.

Мы всё больше и больше будем сливаться с механизмами, с помощью которых мы надеемся улучшить человеческую природу и даже обеспечить себе бессмертие. Здесь мы приближаемся к центральному тезису книги Харари, который вызывает больше всего вопросов.

3. Если человек – это алгоритм, то его можно улучшить при помощи других алгоритмов

Гуманизм – провозглашение ценности человеческого опыта как «меры всех вещей» – постепенно изживает себя. Ещё в книге «Sapiens» Харари утверждал, что именно гуманизм стал одним из главных наследий научной революции. Наука спустила человека с небес на землю, лишила его веры во всемогущих богов и потустороннее царство духа. Главные идеологические течения XX века, которые так яростно противостояли друг другу, растут из общего гуманистического древа. Фашист, коммунист и либерал согласятся между собой, что важнее всего – счастье и развитие человечества. Просто слова «счастье» и «человечество» они понимают неодинаково. Но теперь даже победивший либерализм не выдерживает нагрузки новых открытий.

В результате должны возникнуть новые идеи и новые религии. Харари называет по крайней мере две из них– техногуманизм и датаизм.

Техногуманизм предполагает, что человек должен остаться в центре системы ценностей, но при этом уже не будет тем биологическим существом, к которому мы привыкли. С помощью нейротрансплантантов, нанороботов и протезов мы будем усиливать своё восприятие, улучшать когнитивные навыки, модифицировать физические органы и иммунную систему. Этот путь может привести нас к открытию бессмертия – и не в отдалённом будущем, а уже в ближайшие сто лет. На смену Homo Sapiens придёт Homo Deus – бог в технизированной человеческой оболочке.

Человеку придётся находить общий язык с созданиями своего интеллекта (кадр из х/ф «Бегущий по лезвию 2049»)

Датаизм – немного другая история. Это слово происходит от английского data, то есть «данные». Для последовательного датаиста человек важен лишь как узел коммуникационных сетей. «Должно производить информацию» – такова была бы первая заповедь этой религии. Всё, что препятствует свободному обмену информацией, должно быть упразднено. В идеале вся Вселенная должна превратиться в облако данных. Возможно, именно так выглядел бы рай для гигантского суперкомпьютера. Но для человека такой идеал представляет немалую опасность – и Харари не раз об этом предупреждает.

Мы пока не знаем, к чему нас приведёт развитие искусственного интеллекта и других новых технологий. Но если процесс начался, остановить его почти невозможно. Даже если разработку AI и нейротрансплантантов запретят в какой-то одной стране, она продолжится в других регионах.

Нужно свыкнуться с мыслью, что наше будущее будет определяться не столько политическими решениями, сколько новыми технологическими разработками. Время масштабных идеологий прошло: им на смену грядут масштабные технологии. Возможно, уже сегодня где-то в недрах Кремниевой долины или какой-то из китайских биологических лабораторий рождается новый механизм или препарат, который уже завтра изменит наши жизни.

Даже древнейший человеческий императив – «познай самого себя» – теперь приобретает новое значение.

Раньше, чтобы познать себя, мы должны были остановиться и пристально прислушаться к своим мыслям и желаниям. Это по-прежнему работает. Но вскоре алгоритмы будут знать нас лучше, чем знаем себя мы сами. Они будут знать, что нам нравится, что заставляет сердце биться чаще и активирует центры удовольствия, а что отталкивает или раздражает. Они проанализируют миллиарды бит данных о наших чувствах и мельчайших реакциях, до которых никогда не доберётся старая добрая интроспекция. Хотите заняться самопознанием? Тогда почему вы ещё не проанализировали свою ДНК и не купили биометрический браслет?

Если бы у людей было на это время, сегодня многие могли бы пожаловаться, что не понимают мира, в котором живут: всё происходит слишком быстро, за темпом технологических и социальных изменений не может угнаться почти никто. Если эта проблема вам знакома, попробуйте почитать «Homo Deus». Даже если не будете согласны с автором, чтение наверняка принесёт массу открытий и заставит посмотреть на знакомые вещи так, как вы никогда не видели их раньше.

Источник: Newtonew