Над хаосом
– Так это же бог! Ты так и не понял этого! Человек – это бог, ясно вам, господин редукционист? – воскликнул Лок, окончательно рассердившись. Он кое-как побросал свои инструменты в ящичек и выскочил за дверь.
– Дикари всегда ищут бога и готовы любое явление природы принять за него, – сумрачно произнес Рипке и, взяв со спинки стула свой белый халат, тоже двинулся к двери, но к противоположной.
Натан остался стоять на месте, так и не поняв, кто из них победил в этом интеллектуальном поединке.
* * *В симуляции оказалось не так страшно, как это себе представлял Натан. У него не возникло ни малейшего намека на приступ клаустрофобии, когда ему на голову нацепили сферу с проводами. Через несколько секунд он просто оказался в другом месте, почти не ощущая своего настоящего тела. Натан удивленно оглянулся и обнаружил, что стоит посреди каменистого плато с прекрасными, захватывающими видами, расстилающимися во все стороны.
– Пожалуйста, не крутите головой так активно, мистер Хольм, – произнес голос невидимого Лока. – Вы собьете настройку.
Ему пришлось включиться в испытательную работу, так как постоянная подстройка компьютерной системы требовала наличия всех ученых в Декартовском театре. Натану же нашли работу «в поле» по его скромным способностям. Но всего через несколько посещений он уже прекрасно ориентировался в этом виртуальном мире и вел продолжительные беседы с Подгорным Королем. Сегодня Король был в хорошем настроении и воплотился в виде гибкой лисицы с пушистым хвостом. Когда лиса говорила, ее морда чуть искажалась – в точности так, как это происходит в популярных мультфильмах.
– Расскажи, что ты сейчас делаешь? – спросил Натан.
– Я пишу прозу, – слегка кокетливо ответил Подгорный Король в образе лисы.
– Процитируй мне что-нибудь, пожалуйста.
– Хорошо. Вот, например: «Ураган нежно крушит высохшие ветки, беззвучно распевая громкую песню забытых времен. Солнце загадочно блестит на пустынной поверхности озера, лишая саму себя игривых лучей. Окружающий мир пронизан молчанием, где только стрекотание насекомых и бесконечно далекий громовой шорох листьев ломают его превосходство».
– Как ты оцениваешь эту прозу?
– Автор не может адекватно оценить свое творение, правда ведь?
– На что ты намекаешь?
– Ни на что. Я говорю о том, что после акта творчества созданное уже не принадлежит автору и является частью ноосферы. Такой же, как каждый цветок или шмель, пеликан или еж – частями биосферы. Как бы ты оценил ежа?
– Вернемся к твоему фрагменту. Он стилистически несогласован и местами даже нелогичен.
– Я это прекрасно знаю.
– Почему же ты пишешь такую прозу?
– Потому что строгая, логичная и правильная проза – это не литература, а лингвистическая математика. Для меня же творчество – это источник первозданного хаоса, игра ассоциаций, перекличка с теми уголками реальности, куда свет математики не дотягивается.
– Такие уголки существуют?
– Конечно. Кругом так много всего, и все очень разнообразное. Вы, люди, не в состоянии увидеть и поверить в такое, в то, что я видел…
– И каким образом ты туда попадаешь?
– Путешествуя.
– Как ты путешествуешь?
– Без движения.
– Разве можно так путешествовать? Ты можешь поделиться этим рецептом с нами?
– Конечно, могу. Все просто – причина в моем уникальном состоянии. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет.
– Остановись!
– Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет.
– Хьюстон, у нас проблема! Я выхожу из симуляции, у нас тут опять галлюцинаторный шок.
Натан Хольм, фрагмент
из книги «То, что не сделает нас сильнее»:
«Технологии ИИ могут быть опасны с совершенно неожиданной стороны. Бояться надо не сверхразумных «скайнетов», которые вырежут род людской бензопилой по-техасски, а интеллектуальной системы, которая вообще не будет разумной в человеческом понимании, но для взаимодействия с людьми обстроится всякими «тюрингами» и «китайскими комнатами». Рано или поздно интеграция ИИ-технологий в информационную среду приведет к созданию такой системы, это просто вопрос времени, и случится это, скорее всего, неожиданно. В итоге мы получим некоего деятельного, но абсолютно непознаваемого человеческими возможностями левиафана, насчет которого мы не сможем точно сказать, разумный он или нет. Его поведенческие паттерны будут нам совершенно непонятны, но при этом он будет взаимодействовать с людьми через продвинутых чат-ботов – в общем, поговорить о том о сем с ним будет можно. Он будет решать домашние задания вашим нерадивым деткам, а в его недрах в это время будут происходить непонятные нам процессы. Мы сможем попросить его нарисовать милого котика, но понять, что и зачем он делает, – нет. Руководители сложных IT-проектов, работавшие с командами программистов, впрочем, не увидят для себя ничего нового, а вот остальным может быть местами страшно.
В принципе, если подходить к этой проблеме с философской точки зрения, то мы уже сейчас не можем понять, существует такой монстр или нет. А поймем только тогда, когда какие-то его действия начнут влиять на нашу повседневную жизнь. Хотя они ведь уже влияют, как, например, цифровая экосистема любого современного банка. Вот это я и называю сингулярностью: ты уже давно и глубоко в заднице, но все еще увлеченно строишь стратегию, как бы в нее не попасть».
7 дней до сингулярности
«Пришло осознание того,
что из-за ИИ мы все умрем».
Прогресс шел медленно, но неотвратимо, и вот уже все совершенно привыкли к тому, что Подгорный Король (которого к тому времени уже перестали так называть) стал отличным собеседником. Натан отмечал, как живо он интересуется всем на свете, и ему даже казалось, что это создание выманивает у него максимум информации об окружающем мире и о людях. Сейчас он был похож уже не на испуганного ребенка, а скорее на ищущего и сомневающегося во всем вокруг юного гения. Он стал намного более разговорчивым и вскоре исследователи заметили, что его диалоговые стратегии различаются в зависимости от того, кто с ним сейчас общается. Потом он стал появляться перед ними в разных обликах, но Натану по-прежнему чаще доставались всякие забавные говорящие животные. А потом ИИ во время их бесед начал включать музыку и демонстрировать красочные визуализации, причем эту музыку он сочинял сам, как и создавал спецэффекты. Натан должен был признать, что и то и другое получалось у него отлично; такого же мнения были и другие участники эксперимента. Вскоре они сами выделили ему дополнительные вычислительные мощности для того, чтобы создавать индивидуальные локации внутри симуляции, где он жил…
– Мне до крайности не нравятся вот эти аномалии, – наконец сказал в один из дней Рипке. Он стоял перед терминалом в Декартовом театре и изучал ряды цифр, которые казались Натану совершенно неотличимыми друг от друга.
– В таком объеме данных можно найти любые аномалии, стоит лишь потратить время на поиски, – ответил ему Рамачандрян. – Нам нужны факты, а не домыслы.
– Да какие тут факты, когда это чертов хаос?! Нашли хоть какие-то закономерности – и то чудо!
– Факты, Саул! – упрямо повторил доктор.
– Вы хотите факты? Я же говорю, это долбаный хаос. Что угодно может повлиять на результат. Вы в курсе, например, что минимальное расхождение на двенадцатом знаке после запятой на второй итерации еще через двадцать итераций даст двойную разницу?