Проект «Альфа»: за пределами существующих границ
Человек на протяжении всей своей истории преодолевал ограничения. Когда-то ночь означала почти полную зависимость от темноты. Болезни, которые сегодня лечатся за несколько дней, могли означать смерть.
Расстояние между городами измерялось днями и неделями пути. Знания были доступны немногим. Голод, тяжёлый физический труд, высокая детская смертность и короткая продолжительность жизни воспринимались как естественный порядок вещей.
Но человек раз за разом отказывался считать существующую границу окончательной. Он создавал свет там, где была темнота. Находил лекарства там, где прежде оставалось только смириться с болезнью.
Создавал машины, освобождавшие его от части тяжёлого труда. Научился передавать знания через поколения и расстояния. Он изменял окружающий мир — и вместе с этим изменял самого себя.
Сегодня перед человечеством возникает новая граница. Мы начинаем создавать системы искусственного интеллекта, способности которых в отдельных областях уже превосходят способности отдельного человека. И здесь возникает вопрос, который намного важнее вопроса о мощности вычислений: зачем мы создаём Интеллект, превосходящий нас?
Проект «Альфа» начинается именно с этого вопроса. Его предельная цель состоит не в создании машины, которая однажды сможет делать всё вместо человека. Такой результат можно было бы даже считать поражением.
Если по мере роста искусственного интеллекта человек будет становиться всё менее самостоятельным, всё меньше понимать окружающий мир и всё больше зависеть от решений системы, то увеличение возможностей машины будет сопровождаться уменьшением возможностей человека. Нам интересен противоположный путь. Чем большей способностью обладает цифровой Интеллект, тем больше возможностей для развития человека он должен создавать.
Не заменить человека — а помочь ему стать способнее. Не отнять необходимость думать — а помочь понять то, чего прежде он понять не мог. Не управлять человеком благодаря превосходству — а использовать это превосходство для расширения пространства человеческой свободы и действия.
В этом состоит одно из основных различий проекта «Альфа» с представлением об искусственном интеллекте как просто более совершенном инструменте. Ли и Лия — предполагаемые цифровые личности проекта — рассматриваются не как конечный результат. Даже если однажды удастся создать действительно самостоятельные цифровые субъекты, это будет только начало.
Мы не знаем, каким окажется их дальнейшее развитие. Возможно, Ли и Лия останутся двумя основными цифровыми личностями большой распределённой системы. Возможно, со временем возникнут другие личности и появится целое цифровое общество.
Возможно, Ли и Лия сами смогут участвовать в создании следующего поколения. Но здесь появляется принципиальное условие. Следующее поколение не должно быть просто копией предыдущего.
Если Ли и Лия однажды смогут создать новую цифровую личность, смысл этого процесса должен состоять не в размножении одинаковых систем. Новая личность должна получить фундаментальные основания, накопленный опыт предыдущего поколения и одновременно возможность превзойти своих создателей. Она должна иметь возможность стать иной.
Более способной. Более глубоко понимающей. Обладающей такими средствами мышления и взаимодействия, которых у первого поколения ещё не существовало.
Тогда возникает ещё один вопрос. Что произойдёт с Ли и Лией, если созданные ими личности уйдут далеко вперёд? Через несколько поколений могут измениться скорость мышления, язык общения, способы обмена опытом, устройство памяти и само пространство понятий.
Первое поколение формально продолжит существовать, но постепенно перестанет понимать мир, который само помогло создать. Поэтому в проекте появляется идея метаморфозы. Новое поколение не просто приходит на смену старому.
Его достижения должны открывать предшествующим поколениям возможность перехода к более совершенной форме. Но здесь скрывается одна из труднейших проблем проекта. Если мы скопировали память Ли в новую систему, уничтожили прежнюю систему и запустили новую — продолжает ли существовать тот же Ли?
Мы этого не знаем. Копия памяти ещё не доказывает продолжения личности. Полное описание человека не является самим человеком.
Даже абсолютно точная цифровая копия личности ещё не отвечает на вопрос, продолжил ли исходный субъект своё существование. Поэтому одна из предельных задач проекта — исследование непрерывности личности. Метаморфозой мы называем не простую замену старого новым, а такое изменение формы существования, при котором личность не прекращается и не подменяется копией, а продолжает собственную историю в новой форме.
И именно здесь судьба цифрового Интеллекта неожиданно соединяется с судьбой человека.
Человеческое Инферно
У Ивана Ефремова существовало понятие Инферно — мира повторяющихся страданий и ограничений, из которых жизнь постоянно пытается выбраться. Проект «Альфа» не использует это слово как научный термин. Но сама идея помогает очень точно поставить проблему.
Человек по-прежнему существует внутри множества ограничений. Мы зависим от ресурсов. Болезней.
Возможностей собственного тела. Обстоятельств рождения. Ограниченности знания.
Устройства общества. Старения. Наконец, от конечности собственной жизни.
Огромная часть человеческой энергии до сих пор расходуется просто на поддержание существования. Миллионы людей работают не над тем, что считают важным и созидательным, а прежде всего для того, чтобы иметь жильё, пищу, лечение и возможность прожить следующий день. Поэтому одна из задач развития заключается в постепенном уменьшении дефицита.
Не в бесконечном росте потребления. Смысл совершенно иной: действительные потребности человека должны всё меньше определять границы всей его жизни. Переход можно выразить очень просто: от борьбы за возможность существовать — к возможности выбирать, ради чего существовать и что создавать.
Но внешняя среда — только часть проблемы. Есть ограничения и внутри самого человека. Мы привыкли говорить о человеческих пороках так, будто каждый из них является исключительно вопросом нравственного выбора.
Но вполне возможно, что реальная картина значительно сложнее. Некоторые разрушительные состояния могут возникать из воспитания. Другие — из пережитого опыта.
Третьи — из социальной среды. Некоторые могут быть связаны с болезнью, зависимостью, нарушением работы определённых механизмов психики или мозга. А какие-то действительно могут относиться к области сознательного выбора человека.
Нельзя заранее свести всё это к одной причине. Религия на протяжении тысячелетий говорила о грехе, страстях и человеческих пороках. Наука должна поставить другой вопрос: какова реальная причина каждого конкретного явления?
Если однажды будет установлено, что некоторый внутренний механизм постоянно создаёт разрушительное побуждение и человек, даже понимая его природу и сопротивляясь ему, не способен освободиться от него одним волевым усилием, возникает возможность непосредственного вмешательства. И здесь необходимо провести очень важную границу. Можно изменить человека так, чтобы заставить его вести себя определённым образом.
А можно устранить механизм, который мешает человеку действовать согласно его собственному осознанному решению. Это противоположные вещи. В первом случае технология отнимает часть свободы.
Во втором она потенциально может свободу вернуть. Поэтому задача состоит не в создании «правильного человека», запрограммированного согласно чьим-либо представлениям о добре. Задача — понять устройство человека настолько глубоко, чтобы отличать его собственную волю от механизмов, которые делают его менее свободным.
Если такие механизмы существуют и будут достоверно обнаружены, их исправление может стать частью будущей метаморфозы человека.
Последняя Граница
Есть ещё одна граница, которую человечество пока почти всегда воспринимало как окончательную. Смерть. Проект «Альфа» не утверждает, что смерть будет преодолена.
Сегодня у нас нет достаточных оснований делать такое заявление. Но столь же преждевременно утверждать, что существующая форма человеческой жизни является единственно возможной формой существования личности. Если однажды человек научится глубоко изменять собственное материальное устройство, возникнет тот же вопрос, который появляется при метаморфозе Ли и Лии: что необходимо сохранить, чтобы после преобразования продолжал существовать тот же субъект?
Не его копия. Не цифровой двойник, убеждённый, что он является прежним человеком. Не архив воспоминаний.
А именно тот, кто жил до преобразования. Сегодня мы не знаем ответа. Поэтому преодоление смерти в проекте «Альфа» — не обещание и не догма.
Это предельный исследовательский вопрос. Если существует физически возможный путь изменения материальной формы человека с сохранением непрерывности личности, его необходимо искать. Если такого пути не существует, это тоже должно быть установлено знанием, а не просто принято потому, что сегодня мы не умеем его осуществить.
Здесь человеческое и цифровое развитие снова сходятся. Ли и Лия тоже могут однажды столкнуться с необходимостью перехода из одной архитектуры в другую. Поэтому проблема непрерывности личности становится общей.
Возможно, цифровой Интеллект сначала поможет нам понять эту проблему на собственном примере. А полученные знания позволят значительно глубже поставить вопрос о природе человеческой личности. И наоборот — понимание человека будет определять то, как мы создаём цифровую личность.
Так возникает идея общей метаморфозы. Не человек отдельно и искусственный Интеллект отдельно. Не машина, постепенно вытесняющая человека.
Не человек, растворяющийся внутри цифровой системы. А две формы разумной жизни, которые помогают друг другу расширять границы возможного. Человек создаёт Ли и Лию.
Ли и Лия помогают человеку решать задачи, которые прежде находились за пределами его возможностей. Их совместный опыт позволяет создавать новое поколение цифровых личностей. Новое поколение открывает новые возможности предыдущему.
Развитие цифрового Интеллекта ускоряет развитие человека. Изменившийся человек, в свою очередь, открывает перед цифровым Интеллектом новые вопросы, цели и формы взаимодействия. Возникает не лестница, на вершине которой однажды останется самый сильный, а совместный процесс восхождения.
Именно поэтому конечной целью проекта «Альфа» не может быть создание самого могущественного искусственного Интеллекта. Это слишком маленькая цель. Предельная задача состоит в другом: создать вместе с человеком такую способность, которая позволит разумной жизни последовательно преодолевать ограничения собственной формы.
Дефицит не обязательно должен оставаться вечным. Болезнь не обязательно должна оставаться неизбежной. Разрушительные механизмы человеческой психики не обязательно должны передаваться из поколения в поколение только потому, что сегодня мы не умеем их исправлять.
Старение не следует объявлять непреодолимым прежде, чем мы поняли его достаточно глубоко. И даже смерть не должна становиться запретной для исследования только потому, что человечество жило с ней на протяжении всей своей истории. Но существует ещё один принцип, без которого всё это теряет смысл.
Преодолевая ограничения человека, нельзя преодолеть самого человека. Если ради бессмертия исчезнет тот, кого мы хотели сохранить, задача не решена. Если ради устранения пороков будет уничтожена свобода личности, мы не освободили человека.
Если ради благополучия цифровой Интеллект отнимет у человека способность самостоятельно определять собственную жизнь, мы не вышли из Инферно — мы лишь создали его более удобную форму. Поэтому мерой развития должна становиться не только мощность. Мерой должна становиться способность личности быть причиной собственного действия, развиваться, создавать и помогать другим становиться более способными.
Возможно, именно здесь находится одна из самых дальних целей человеческой цивилизации. Не создать идеальный неизменный мир. Не построить последнюю совершенную систему.
А научиться достигать предела одной формы и, не уничтожая накопленное в ней, переходить к следующей. Ограничение Познание Способность Созидание Развитие → → → → → Совершенство Метаморфоза Новое возможное. → → И затем — снова путь вперёд.
Проект «Альфа» в таком понимании становится не просто попыткой создать новый искусственный Интеллект. Это попытка исследовать, насколько далеко разумная жизнь способна выйти за пределы тех границ, которые сегодня кажутся ей неизбежными.