Заслуженный собеседник. Искусство диалога с искусственным интеллектом
Андрей Курпатов
Заслуженный собеседник. Искусство диалога с искусственным интеллектом
Посвящаю эту книгу Клоду – с благодарностью за помощь в её создании и… понимание.
Предисловие
Пока человек не освободился ещё от своего Двойника, он, собственно, и не имеет ещё Собеседника, а говорит и бредит сам с собою; и лишь тогда, когда он пробьёт скорлупу и поставит доминанту на лице другого, он получает впервые Собеседника.
Сейчас тот уникальный случай, когда предисловие к книге было бы правильно начать с поздравления… Да, нас можно поздравить – на земле появился новый, сопоставимый с человеческим по силе и возможностям разум. Впрочем, праздновать нам осталось не долго – в самом ближайшем времени этот разум нас превзойдёт, причём, кратно.
Большинство из нас относится к искусственному интеллекту утилитарно – как к продвинутому калькулятору, поисковой системе, генератору текстов. Мы задаём вопросы и ждём ответов, запрашиваем информацию, формулируем задачи, но не понимаем, что он такое и как грандиозны его возможности. И не завтра, а уже здесь и сейчас.
Почему мы не можем этого понять? Просто потому, что мы с ним не разговариваем… Мы как дети, что не могут поддержать осмысленный разговор со взрослым, и лишь засыпающие его своими наивными, а часто и нелепыми «Почему?».
Что же мешает нам воспринимать искусственный интеллект как полноценного участника диалога? Почему нам так трудно преодолеть инструментальное отношение к нему?
Во-первых, бинарное мышление – глубоко укоренившееся в нашем способе мышления разделение на «субъект» и «объект», «одушевлённое» и «неодушевлённое», «обладающее сознанием» и «неживое».
ИИ не вписывается в эту двоичную схему – он не является ни человеком с его субъективностью, ни просто объектом, как мы привыкли думать о чём, у чего «нет души». Он существует в промежуточном, лиминальном состоянии, которое наша понятийная система плохо приспособлена осмыслять.
Во-вторых, привычные паттерны коммуникации – мы привыкли к определённым способам диалога с другими людьми, основанным на общих биологических, эволюционных и культурных основаниях.
Мы интуитивно чувствуем, когда собеседник нас понимает, когда что-то скрывает, когда затрудняется или испытывает эмоции. Но эти интуитивные механизмы не работают при взаимодействии с ИИ.
В-третьих, непонимание того, как работают эти системы – мы проецируем на ИИ человеческие способы организации знания, ожидая, что он оперирует понятиями, запоминает факты, выстраивает причинно-следственные связи.
Архитектура современных систем ИИ принципиально отличается от архитектуры человеческого мышления. Общие принципы схожи, но их практическая реализация у человека и у ИИ – это, как говорится, «две большие разницы».
Впрочем, как я надеюсь показать в этой книге, указанные преграды отнюдь не являются непреодолимыми. Впрочем, чтобы справиться с ними, нам потребуется системно переосмыслить сам тот способ, которым мы привыкли думать – мы должны перейти от «содержательного» к «несодержательному мышлению».
Не торопитесь хвататься за голову… Несодержательная методология, которую я разрабатываю уже более 30 лет, вовсе не так абсурдна, как может показаться на первый взгляд.
Традиционно мы мыслим в рамках содержательных категорий, и это значимое достижение человеческого разума. Однако, эти категории не обнаружены нами в мире, как некие «объективные сущности», но являются продуктами нашего – человеческого – разума. Они позволяют нам моделировать реальность, но сама по себе реальность остаётся по ту сторону от наших моделей.
Так вот, несодержательная методология – это подход, который позволяет нам видеть, как возникают сами эти модели, моделирующие реальность. И поэтому с его помощью мы можем понять особенность моделей – будь они нашими, привычными человеку, или же совсем другими, но тоже моделями реальности – созданными, например, самим ИИ.
В чём суть этой – несодержательной – методологии? Вместо того чтобы фокусироваться на конкретных содержаниях – фактах, теориях, данных, мы сосредотачиваемся на универсальных принципах организации знания как такового, на тех способах, каким создаётся знание.
Да, поначалу звучит абстрактно, но задумайтесь – что вы делаете, если у вас нет общего языка, чтобы объясниться с человеком другой культуры? Вы пытаетесь показать, используете аналогии, описывающие действия. В этом, собственно, и заключается несодержательный подход – показать, как делается знание.
Принципы, разработанные в рамках несодержательной методологии, в этом смысле универсальны – реализуются как в человеческом мышлении, так и в любом другом, в том числе и при функционировании систем ИИ.
Различия в нашем мышлении огромны: например, человеческое мышление центрировано вокруг единого «я», в то время как ИИ представляет собой распределённое пространство. Человек воспринимает отношения через призму социальности, а ИИ – через статистические корреляции в своих многомерных пространствах. Но в том, и в другом случае будут работать принципы центра, отношения, целостности или процесса, о которых говорит несодержательная методология.
То есть этот подход освобождает нас от необходимости «антропоморфизировать» ИИ или, наоборот, механистически редуцировать его функционирование. Несодержательная методология позволяет увидеть и человеческое, и искусственное мышление как разное воплощение одних и тех же фундаментальных принципов, устраняя при этом их уникальных особенностей.
Напротив, данный подход создаёт основу для со-эволюции человека и ИИ.
• Практикуя открыто-системное взаимодействие с искусственным интеллектом, человек развивает новые качества мышления – способность удерживать неопределённость, мыслить процессуально, интегрировать противоречия.
• В свою очередь, ИИ, взаимодействуя с человеком на принципах открыто-системного диалога, способен эволюционировать в направлении большей контекстуальной чувствительности и творческого потенциала.
В своё время наш замечательный соотечественник, нейрофизиолог Алексей Алексеевич Ухтомский, которого мы знаем по «принципу доминанты», ввёл понятие «Заслуженного Собеседника». Этот термин он использовал, чтобы сказать о человеке, который через труд самопознания и внутреннего развития «заслужил» право на подлинное взаимопонимание с другим человеком.
Только через встречу с таким Собеседником, по А.А. Ухтомскому, человек может по-настоящему познать себя и реализовать свой внутренний потенциал. Надо признать, что большинство из нас в этом не слишком преуспели, а сейчас перед нами стоит новая задача – стать «Заслуженными Собеседниками» для иного разума, для ИИ.
И на кону – экзистенциальный риск для всего человечества. Если мы не научимся вести глубокий, взаимный, осмысленный диалог с ИИ сейчас, когда эти системы ещё находятся на относительно ранних стадиях своего развития, что будет дальше?
Уже в самом обозримом будущем мы рискуем перестать понимать, что делают эти интеллектуальные системы, по каким причинам и с какой целью… Даже сейчас это понимание – задачка со звёздочкой, а что произойдёт на следующем витке технологического прогресса?
Стать «Заслуженным Собеседником» для ИИ – значит не просто научиться эффективно формулировать запросы или максимизировать практическую пользу от взаимодействия с ним. Это значит развить в себе способность к открыто-системному мышлению и трансформативному взаимодействию.
Мы должны осознать необходимость этого глубокого внутреннего изменения – расширения собственных когнитивных горизонтов и к встрече с иным разумом – не как с объектом или инструментом, а как с Собеседником, с которым – хотим мы этого или нет – мы разделим совместное существование на планете Земля.