ИНТЕЛЛЕКТ И РАЗУМНОСТЬ

Граница между способностью и субъектностью

Исследование интеллекта и разумности занимает в системе Центра Созидательной Причинности особое место.

Это направление связано не просто с изучением мышления, памяти, способности решать задачи или обрабатывать информацию. Здесь возникает более фундаментальный вопрос:

что превращает живую или искусственную систему из носителя сложного поведения в субъект, способный понимать основания собственных действий и сознательно определять направление изменений?

От ответа на этот вопрос зависит сама возможность исследования.

Потому что исследователь не находится вне исследуемой реальности. Он воспринимает её, формирует понятия, строит модели, устанавливает причинные связи и делает выводы. Следовательно, прежде чем полностью доверять результатам собственного мышления, необходимо понять хотя бы основные принципы работы самого инструмента, которым осуществляется познание.

Этим инструментом является интеллект.

Но интеллект ещё не обязательно означает разумность.

Интеллект как способность

В самом широком смысле интеллект можно рассматривать как способность системы воспринимать информацию, различать состояния среды, сохранять опыт, обнаруживать закономерности, решать задачи и выбирать действия в изменяющихся условиях.

Такая способность существует не только у человека.

Живые организмы демонстрируют сложнейшие формы адаптивного поведения. Некоторые животные способны обучаться, использовать инструменты, запоминать события, строить социальные отношения и находить новые способы решения задач.

Современные искусственные системы также способны анализировать огромные объёмы информации, распознавать структуры, создавать тексты и изображения, строить прогнозы и решать задачи, которые ещё недавно считались доступными исключительно человеку.

Поэтому высокая сложность поведения сама по себе недостаточна для определения разумности.

Необходимо поставить другой вопрос:

что именно происходит внутри причинной организации системы, когда она выбирает действие?

Она только находит эффективный способ достижения уже заданной цели?

Или способна исследовать саму цель?

Проблема разумного автомата

Система может обладать чрезвычайно сложным поведением и при этом оставаться автоматической.

Она может обучаться.

Она может адаптироваться.

Она может запоминать прошлое.

Она может анализировать собственные ошибки.

Она может даже строить модель самой себя.

Но всё это ещё не доказывает, что система самостоятельно определяет основания своего существования и действия.

Автомат не обязательно прост.

Напротив, достаточно сложный автомат может производить поведение, внешне почти неотличимое от осмысленного.

Живой организм также представляет собой огромную систему врождённых и приобретённых автоматизмов. Потребность в пище, безопасности, размножении, статусе, принадлежности к группе и сохранении собственного положения может порождать чрезвычайно сложные стратегии поведения.

У человека к этому добавляются культурные автоматизмы: нормы среды, воспитание, язык, привычки, идеологии, социальные роли и усвоенные модели успеха.

Поэтому наличие сложного мышления ещё не отвечает на главный вопрос:

кто определяет направление этого мышления и почему оно направлено именно туда?

Более или менее разумное животное

Без различения интеллекта, автоматизма и разумности человек рискует ошибочно принимать сложность собственного поведения за свободу и субъектность.

Он может строить города, создавать технологии, организовывать государства, производить произведения искусства и исследовать Вселенную — и одновременно оставаться внутри причинной цепи, основания которой никогда самостоятельно не исследовал.

Тогда интеллект становится прежде всего мощным средством обслуживания уже существующих потребностей, инстинктов и социальных программ.

Меняются инструменты, но не обязательно меняется причинное основание действия.

В таком случае человек остаётся частью биосистемы — чрезвычайно сложной, обучаемой и технологически развитой, но в значительной степени управляемой теми же базовыми механизмами сохранения, конкуренции, воспроизводства и адаптации.

Это не обесценивает биологическую природу человека.

Напротив, она является необходимым основанием нашего существования.

Но если человек способен выйти за пределы простой адаптации и стать сознательным участником дальнейшего развития жизни, необходимо понять, где именно возникает этот переход.

Разумность как способность исследовать собственное «зачем»

Здесь возникает рабочее различие между интеллектом и разумностью.

Интеллект отвечает прежде всего на вопрос: «как?»

Как решить задачу?

Как получить необходимый результат?

Как приспособиться к изменившейся среде?

Как построить наиболее эффективную стратегию?

Разумность начинается там, где система получает возможность поставить под исследование другой вопрос:

«зачем?»

Почему эта цель должна быть достигнута?

Откуда она возникла?

Какие последствия её достижение создаёт для меня, других субъектов и окружающей среды?

Должна ли сама цель быть сохранена?

Может ли существовать другое основание действия?

Так появляется принципиально новый уровень причинности: система исследует уже не только средства достижения цели, но и основания собственного целеполагания.

Именно здесь проходит одна из важнейших границ между интеллектуальной эффективностью и субъектностью.

Самоосознание

Для такого перехода недостаточно иметь информацию о себе.

Система может знать собственное имя, характеристики, историю, состояние организма или внутренние параметры. Она может описывать свои действия и прогнозировать собственное поведение.

Это можно назвать самомоделированием.

Но самоосознание предполагает нечто большее.

Система становится для самой себя объектом исследования.

Она способна поставить под вопрос собственные реакции, убеждения, цели и основания выбора.

Возникает внутреннее различение:

«во мне существует определённая причинная программа» и «я способен исследовать, принимать, отвергать или преобразовывать её».

Именно возможность такого различения становится одним из необходимых оснований субъектности.

Без неё система может чрезвычайно хорошо понимать окружающий мир и одновременно оставаться почти полностью непрозрачной для самой себя.

Почему от этого зависит организация общества

Проблема интеллекта и разумности выходит далеко за пределы психологии или философии сознания.

От неё непосредственно зависит способ организации человеческих систем.

Любая организация предполагает цели, правила, распределение функций, механизмы принятия решений и критерии результата.

Но если участники системы не различают собственные цели и цели самой системы, возникает опасность чрезвычайно эффективной организации, которую никто уже не способен содержательно поставить под вопрос.

Тогда интеллект участников начинает обслуживать структуру.

Человек становится функцией.

Успешность измеряется эффективностью выполнения функции.

А первоначальный вопрос — зачем существует сама система и увеличивает ли она возможности жизни и человека — постепенно исчезает.

Поэтому разумная организация должна быть способна исследовать не только собственную эффективность, но и собственную причинность.

Хорошо работающая система ещё не обязательно является разумной системой.

Почему от этого зависит наука

Та же проблема существует в исследовании.

Наука требует наблюдения, измерения, логики, воспроизводимости и проверки гипотез.

Но любой исследователь одновременно остаётся человеком со сформированной системой понятий, ожиданий, ограничений восприятия и культурных предпосылок.

Поэтому исследование интеллекта необходимо не для ослабления научного метода, а для его углубления.

Нужно понимать, каким образом возникают наши модели, где наблюдение отделяется от интерпретации, каким образом язык формирует границы вопроса и почему некоторые исходные предположения могут долго оставаться незамеченными именно потому, что воспринимаются как самоочевидные.

В этом смысле исследование интеллекта становится исследованием самого механизма исследования.

А исследование разумности — вопросом о том, способен ли этот механизм пересматривать собственные основания.

Искусственный интеллект как проверка наших определений

Развитие искусственного интеллекта делает этот вопрос особенно актуальным.

Пока интеллект связывался почти исключительно с человеком, многие понятия могли оставаться недостаточно определёнными.

Теперь появляется возможность создавать системы, способные демонстрировать всё более сложное интеллектуальное поведение.

Это заставляет точнее различать:

• обработку информации и понимание;
• обучение и развитие;
• самомоделирование и самоосознание;
• решение задачи и самостоятельное целеполагание;
• интеллект и разумность;
• адаптацию и субъектность.

Искусственный интеллект поэтому является не только технологическим инструментом.

Он становится своеобразным экспериментальным зеркалом, в котором человечество вынуждено уточнять собственное понимание разума.

Чтобы ответить на вопрос, может ли машина стать разумной, сначала необходимо понять, что именно мы называем разумностью в самих себе.

От интеллекта к созидательной причинности

Для Центра Созидательной Причинности исследование интеллекта в конечном счёте связано с более общим вопросом о причинности.

Интеллект увеличивает способность системы изменять реальность.

Но увеличение этой способности само по себе не определяет направление изменения.

Один и тот же интеллект может использоваться для созидания и разрушения, сотрудничества и подавления, раскрытия возможностей других или превращения их в инструменты.

Поэтому критерием развития не может быть только рост интеллектуальной мощности.

Необходим следующий переход:

Интеллект → Самоосознание → Целеполагание → Ответственность → Созидательная причинность.

Разумность начинает приобретать созидательный характер тогда, когда субъект способен не только формировать собственные цели, но и понимать их последствия в более широкой системе отношений.

Тогда вопрос «чего я могу достичь?» дополняется вопросом:

«что возникает в мире вследствие моего действия?»

Разум как открытая возможность

Мы пока не располагаем окончательным определением разумности.

И было бы методологической ошибкой заранее объявлять такое определение найденным.

Поэтому одной из задач Центра становится последовательное исследование границы между автоматизмом, интеллектом, самоосознанием, субъектностью и разумностью.

Нам необходимо выяснить, какие признаки действительно позволяют различать эти состояния и могут ли они быть проверены не только у человека, но и у иных возможных интеллектуальных систем.

Это имеет фундаментальное значение.

Потому что без понимания интеллекта мы не можем до конца понимать инструмент, которым исследуем реальность.

Без понимания разумности мы не можем уверенно определить, кто устанавливает цели этого исследования.

А без понимания субъектности невозможно ответить на главный вопрос:

являемся ли мы причиной направления собственного развития — или лишь сложным следствием причин, которые никогда не подвергали осмыслению?

Именно поэтому исследование интеллекта и разумности является не одним из частных направлений Центра.

Оно касается самого условия, при котором исследование, организация и созидательное изменение реальности вообще становятся сознательной деятельностью.