О будущем v2.0

Глава 1

Мы живём в научное время.

Во время величайшего прогресса, и величайшего блага, по крайней мере, так считает большинство.

Наверное, впервые в истории человечества человек способен с такой скоростью изменять окружающий его мир. Если раньше после изменения образа жизни на земледелие, никаких инноваций могло не быть веками. То в современное время, за несколько столетий мы прошли путь от паровой машины до компьютеров, от первых электрических сетей до глобального интернета, от первых примитивных вычислений до искусственного интеллекта.

Мы привыкли называть это прогрессом.

И, вероятно, это действительно прогресс. Мы живём дольше, меньше умираем от голода и болезней, имеем доступ к огромному количеству знаний, можем мгновенно связаться с человеком на другом конце планеты и отправить космический аппарат за пределы Солнечной системы.

Но у этого прогресса есть одна особенность, о которой мы редко задумываемся.

Он становится быстрее нас.

Около трёхсот тысяч лет назад появился Homo sapiens. С тех пор человек практически не изменился с эволюционной точки зрения. Человек, родившийся десятки тысяч лет назад, в биологическом отношении был почти таким же человеком, как мы.

Но мир вокруг него был совершенно другим.

Около 10 тысяч лет до н.э. человек освоил земледелие, и произвел революцию для своего вида, собственными руками изменив образ своей жизни. В 3.3 тыс. лет до н.э. возникла клинопись, почти в то же время (сравнивая с общей историей) возникла математика, астрономия, медицина. спустя еще 3,3 тысячи лет была основана римская империя.

За то же время значительная часть наиболее заметных изменений на Земле была связана с адаптацией окружающей среды к земледельческому человеку.

Главным механизмом изменений человека постепенно становилась не эволюция, а культура. Человек научился передавать не только гены, но и знания (мемы). Он создал язык, религию, земледелие, государства, деньги, письменность, математику, право, философию. Каждое поколение могло наследовать не только тело своих родителей, но и созданный ими мир.

Это стало величайшим преимуществом нашего вида.

Столько изменений за такое короткое время ни одна эволюция не могла даже представить. Культурная революция является прямой эволюцией самой эволюции, в условиях где человек не адаптируется к миру, он начинает адаптироваться к самому себе. В гораздо более быстром темпе.

А затем появилась наука.

И всё изменилось ещё раз.

Наука отличается от культуры не тем, что она обязательно «лучше» культуры. Её главное отличие в другом: она позволила человеку намеренно ускорять преобразование мира.

Мы перестали просто приспосабливаться к природе. Мы начали понимать её законы и использовать их. Паровая машина, электричество, двигатель внутреннего сгорания, антибиотики, атомная энергия, компьютеры — каждое такое открытие становилось инструментом для следующего открытия.

Возникла положительная обратная связь:

знания создают технологии → технологии помогают создавать новые знания → новые знания создают ещё более мощные технологии.

И скорость начала расти.

Если для крестьянина Средневековья наиболее существенным событием жизни могло стать изменение правителя или границ государства, то для современного человека мы можем изобрести телефон который будет реагировать на наши касания, а меньше чем через 20 лет, попросить совет у компьютера, как устроиться на работу.

Телефон превратился из редкого устройства в компьютер, который почти каждый носит в кармане. Интернет превратился из экспериментальной сети в глобальную нервную систему человечества. А теперь компьютер постепенно превращается в собеседника, исследователя, программиста, художника и интеллектуального помощника.

Этот прогресс настолько быстр, что мы не только эволюционно не успеваем - мы даже культурно отстаём.

И мы снова подошли к переломному моменту.

Я думал, что мы живём в эпоху интернет-революции.

Но интернет, кажется, является лишь частью гораздо более масштабного процесса. Персональный компьютер дал человеку доступ к вычислениям. Интернет объединил компьютеры в единую глобальную систему. Смартфон сделал эту систему практически постоянным продолжением человека.

Искусственный интеллект начинает превращать компьютер из инструмента, которым человек непосредственно управляет, в инструмент, способный самостоятельно работать с информацией.

Каждая технология усиливает остальные.

Компьютеры позволяют создавать ИИ. Интернет связывает людей и предоставляет доступ к информации. Смартфон делает технологии повсеместными. ИИ помогает создавать новые программы, научные исследования и технологии.

Это уже не просто последовательность изобретений. Это революция в которой изобретения не просто являются развитием науки, а создают собственную связанную мегаструктуру, которая качественно ускоряет собственное развитие.

Это Информационная сверхреволюция.

И я так же хочу отделить ее от научной революции, так же как наука родилась в культуре и улетела вперед, мы наблюдаем новую революцию.

И, возможно, мы видим только её первую фазу.

Следующая фаза может оказаться гораздо масштабнее.

Я выделяю 3 изобретения которые выведут ее на новый масштаб. Это развитые квантовые компьютеры, новые термоядерные реакторы, и AGI (общий искусственный интеллект) Особенно важна здесь энергия. Сегодня вычислительные мощности, производство и научные эксперименты требуют огромного количества ресурсов. Термоядерный ректор позволит ослабить энергетическое ограничение, и с существенно меньшим объёмом и долгоживущим характером радиоактивных отходов , это может стать фундаментом нового технологического ускорения.

Энергия позволит создавать больше вычислений. Вычисления позволят создавать более мощный искусственный интеллект. AGI позволит ускорять научные исследования. И цикл повторится. Именно поэтому будущая технологическая революция может отличаться от предыдущих. Предыдущие машины увеличивали физические возможности человека. Современные машины увеличивают его информационные возможности.

Раньше человек создавал машину, которая делала что-то вместо его тела.

Теперь мы создаём системы, которые всё больше могут делать что-то вместо его интеллекта.

Но здесь возникает проблема.

Мы можем оказаться в мире, который развивается быстрее, чем человек способен его осмыслить. Уже сегодня мы не всегда успеваем адаптироваться к изменениям. Наши институты создавались для другого мира. Политические системы, образование, трудовые отношения, моральные нормы и представления о человеческой жизни во многом сформировались в эпоху, когда технологические изменения происходили значительно медленнее.

Но что произойдёт, если за десять лет произойдёт больше изменений, чем раньше происходило за столетие? А за следующие десять — ещё больше? Мы привыкли считать прогресс абсолютным благом. Прогресс означает больше возможностей, больше богатства, больше знаний, больше продолжительности жизни.

Но из этого совершенно не следует, что каждая новая возможность должна быть реализована.

Мы научились спрашивать:

«Можем ли мы это сделать?»

Но гораздо хуже научились спрашивать:

«Стоит ли нам это делать?»

И на данный момент это актуальная проблема, изобретения созданы что-бы помогать человеку в его целях, это инструмент который человек сначала осваивает, а потом начинает осознавать как его правильно его использовать, и опасность кроется в том что мы можем получить последствия раньше, чем поймём их масштаб .

Ядерную бомбу можно назвать пиком этого процесса - прямое следствие когда культура не успевает за наукой. Вечный научный прогресс учит нас быть вечно прогрессивными, вечно достигать нового. Современная наука становится богом, мы верим в неё, верим что она сделает нашу жизнь лучше, и верим что нужно жить по ее заветам прогресса. Но если мы будем верить в абсолютное благо науки, мы не заметим ее недостатков, не заметим, что её нужно регулировать и ограничивать.

Это новая концепция для человека - сдержанный прогресс. Если раньше мы успевали подстраиваться под развитие науки, сегодня это не так. Собственно этим уже занимаются, насколько успешно, не мне судить. Но кто сказал, что максимизация возможностей человека автоматически означает максимизацию его счастья?

И здесь начинается самое сложное.

Представим, что мы действительно создаём мощный AGI.

Представим, что робототехника становится достаточно развитой, чтобы автоматизировать большую часть физического труда. Что искусственный интеллект превосходит человека в большинстве интеллектуальных задач.

Что тогда произойдёт с человеческим трудом? Возможно, его стоимость резко упадёт. Это может стать величайшим освобождением в истории. Человеку больше не нужно будет тратить большую часть жизни на необходимость зарабатывать средства к существованию.

Но освобождение от необходимости работать создаёт другую проблему: что делать человеку со свободой? Если машина пишет музыку лучше меня, зачем мне учиться музыке? Если ИИ пишет книги лучше меня, зачем мне писать? Если робот строит лучше меня, зачем мне строить? Если искусственный интеллект знает больше меня, зачем мне вообще учиться?

Технологии могут впервые поставить перед человеком вопрос не о том, как стать полезным, а о том, зачем быть полезным вообще.

И это будет не экономическая проблема.

Это будет философская проблема.

А затем может измениться ещё одна фундаментальная вещь — продолжительность жизни.

Если биотехнологии научатся всё лучше восстанавливать повреждения организма, бороться со старением, регенерировать органы и контролировать болезни, человеческая жизнь может значительно увеличиться.

И здесь возникает парадокс.

Сегодня мы боимся, что у нас слишком мало времени. Но если однажды у человека будет сто пятьдесят, двести или больше лет, проблема может перевернуться: что делать с таким количеством времени? Человек сможет несколько раз менять профессию, мировоззрение, страну, образ жизни. Он сможет прожить несколько совершенно разных жизней, оставаясь одним и тем же биологическим человеком. Но тогда появится вопрос идентичности. Кто я через сто пятьдесят лет?

Тот же ли я человек, которым был в двадцать?

И если нет, то что именно связывает эти две личности?

Именно здесь, возможно, философия снова выйдет на первый план.

На протяжении долгого времени философия пыталась отвечать на вопросы, которые наука ещё не могла решить. Но затем наука начала поглощать всё больше областей человеческого знания. Она объяснила происхождение видов, движение планет, устройство материи, работу клеток и многое другое. Однако чем больше вопросов она решает, тем заметнее становятся вопросы, которые невозможно решить одним измерением или экспериментом.

Наука может объяснить, как работает мозг. Но из этого не следует ответ на вопрос, ради чего жить. Она может увеличить продолжительность жизни. Но не может сама по себе определить, зачем нужна долгая жизнь. Она может создать искусственный интеллект. Но не может автоматически решить, какие цели этот интеллект должен преследовать. Она может дать человеку практически неограниченные возможности. Но не говорит, какие из них стоит использовать.

И поэтому, возможно, следующий великий интеллектуальный этап человечества будет связан не с очередным открытием природы.

Он будет связан с пониманием самого человека.

Я называю это прогрессом сознания.

Не потому, что я знаю, что такое сознание.

Наоборот — именно потому, что мы до сих пор не знаем этого. Мы научились изменять окружающий мир гораздо быстрее, чем научились понимать себя. Мы создали машины, которые способны считать быстрее нас. Мы создали системы, которые хранят больше информации, чем может запомнить человек. Мы приближаемся к технологиям, способным изменять наше тело и, возможно, наш интеллект.

Но мы всё ещё остаёмся существами, которые не до конца понимают собственные желания, страхи, ценности и причины своего поведения. Возможно, поэтому следующая революция будет не революцией машин.

Она будет революцией человеческого самопонимания.

Психология в таком мире может стать гораздо важнее, чем сегодня.

Если человек будет жить значительно дольше, ему придётся учиться не только сохранять здоровье тела, но и сохранять устойчивость личности. Если труд перестанет быть главным способом самоопределения, человеку придётся заново ответить на вопрос о собственной ценности. Если ИИ сможет создавать произведения искусства лучше человека, человеку придётся решить, почему он всё ещё хочет творить. Если у человека появится почти неограниченное количество времени, ему придётся понять, что делает это время значимым.

И здесь творчество может приобрести совершенно новый смысл. Возможно, искусство будущего будет ценно не потому, что человек способен создать что-то лучше машины. А потому, что человек сам переживает процесс создания. Человеческая музыка может быть важна не потому, что она технически совершеннее музыки ИИ. Человеческая картина может быть важна не потому, что алгоритм не способен нарисовать лучше. Она может быть важна потому, что за ней стоит человеческая жизнь.

Человек создаёт не только произведение.

Он создаёт часть самого себя.

Поэтому я не думаю, что будущее обязательно станет миром, где человек станет ненужным.

Возможно, наоборот.

Чем больше работы мы передадим машинам, тем меньше ценность человека будет определяться его производительностью. И тем больше она будет определяться его существованием. Не тем, сколько он произвёл, а тем, что он пережил, кого любил, что создал, во что верил и каким человеком решил стать.

Это будет очень странный мир.

Возможно, впервые в истории человечества главный дефицит будет заключаться не в еде, энергии, информации или даже времени.

Главным дефицитом может стать смысл.

Поэтому я не считаю, что нам нужно остановить прогресс.

Я не думаю, что человек должен отказаться от науки. И я не думаю, что прошлое было лучше будущего. Наоборот — именно наука дала нам огромную часть того, что мы сегодня считаем само собой разумеющимся. Но прогресс не должен быть целью сам по себе. Нам необходимо научиться не только создавать новые возможности, но и выбирать между ними. Не только ускоряться, но и понимать, куда мы движемся. Не только увеличивать интеллект машин, но и развивать интеллект человека. Не только продлевать жизнь, но и учиться делать её осмысленной.

Возможно, человечеству предстоит пройти ещё один переход. Когда-то эволюция создала человека. Потом культура научила человека создавать самого себя вместе с другими людьми. Затем наука дала человеку возможность сознательно изменять мир. А теперь, возможно, мы подходим к моменту, когда нам придётся научиться сознательно изменять самих себя. Не только тело. Не только интеллект. Но собственное сознание.

И если технологический прогресс действительно приведёт нас к миру, где почти всё вокруг может быть автоматизировано, произведено и вычислено, то последним великим вопросом может оказаться не вопрос о том, что ещё мы способны создать.

А вопрос:

какими людьми мы хотим стать в мире, где мы способны создать почти всё?