Мир ИИ и МЫ. Часть первая

Глава I. Роман: мир, в котором операция уже была проведена

Действие происходит через тысячу лет после войны, уничтожившей почти всё живое за пределами одного города — Единого Государства. Город построен из стекла: дома прозрачны, улицы просматриваются насквозь, и это не архитектурная прихоть, а способ управления — там, где всё видно, не нужно объяснять, почему нельзя спрятаться. У жителей нет имён — только номера, состоящие из буквы и цифры. День расписан по часам в документе под названием Скрижаль: подъём, работа, прогулка, сон — всё одинаково для всех, с одним исключением. Раз в день выдаётся Личный Час — короткий промежуток, в который разрешено побыть непредсказуемым, опустить занавески и не отчитываться за свои действия. Важно, что это именно выданное время: непредсказуемость не отменена, а внесена в расписание отдельной строкой, дозирована и ограничена по длительности — санкционированное исключение, а не сохранившееся право. Даже близость между людьми организована системой розовых талонов, по которым партнёры записываются друг к другу на определённое время.

Во главе государства стоит Благодетель — фигура, которую жители не столько видят, сколько слышат: голос, доносящийся во время ритуалов, рука, накладываемая на голову в день, когда всё население единогласно переизбирает его на новый срок. Голосование не решает ничего — оно ритуально подтверждает то, что и так неизменно.

Город окружён Зелёной Стеной, за которой начинается дикая природа и живут люди, не прошедшие через инженерию Единого Государства, — заросшие, непредсказуемые, вне расписания. Стена — не просто граница, а буквальное отделение управляемого от неуправляемого: то, что не помещается в расписание, оставлено снаружи.

И здесь стоит остановиться на детали, которую легко принять за декорацию, но которая на деле объясняет больше, чем Стена и Скрижаль вместе взятые: нумера подчиняются не только из страха. Д-503 в первых записях дневника искренне, без иронии и без принуждения восхищается тем, что его окружает. Поэзия формул для него не метафора — он буквально переживает математическую закономерность как красоту. Машинный балет единого труда, синхронность миллионов тел, движущихся по Скрижали, хрустальная прозрачность стен, в которой нечему прятаться, — всё это для него не тюремная эстетика, а эстетический идеал. Он любит порядок не потому, что не знает другого, а потому что порядок красив: в нём нет трения, нет зазора, нет того мучительного несовпадения с самим собой, которое он назовёт болезнью только потом, когда оно уже случится. Стекло соблазнительно не тем, что через него видно, а тем, что за ним нечего прятать — и это отсутствие тайны переживается не как лишение, а как чистота. Единое Государство держится не на страхе перед Заводом Татуированных. Оно держится на том, что беспрепятственность — отсутствие сопротивления материала, среды, собственного тела — ощущается как высшая форма комфорта, а комфорт, доведённый до идеала, неотличим от красоты.

Главный герой, инженер Д-503, строит космический корабль «Интеграл» — предполагается, что он понесёт «математически безупречное счастье» Единого Государства на другие планеты. Роман написан как его личный дневник, изначально задуманный как отчёт для будущих читателей с других миров о совершенстве государственного устройства. Но по ходу текста в записях Д-503 начинает происходить нечто, не предусмотренное ни жанром отчёта, ни Скрижалью: он влюбляется в женщину по имени I-330, которая оказывается участницей подпольной организации МЕФИ, стремящейся разрушить Стену и разомкнуть систему. Через неё он впервые оказывается за пределами города, видит диких людей и постепенно осознаёт в себе то, что сам называет болезнью, — способность чувствовать, воображать, действовать не по расписанию. В какой-то момент он замечает собственные руки — заросшие волосами, не вписывающиеся в облик идеального нумера, — и эта деталь возвращается в его записях снова и снова именно тогда, когда он перестаёт быть спокойным исполнителем правил.

Государство реагирует на распространение этой «болезни» объявлением Великой Операции — процедуры по удалению фантазии, представленной как избавление от последнего источника несчастья. Ближе к финалу Д-503 подвергается этой операции. Его способность чувствовать вырезана. Последние страницы его дневника — уже не записи человека, разрывающегося между расписанием и любовью, а спокойный, деловой отчёт исправного нумера. В одной из финальных сцен он наблюдает казнь I-330 через стекло и не испытывает по этому поводу ничего. Восстание МЕФИ где-то на окраинах города продолжается, часть Стены разрушена, но чем это закончится, роман не сообщает: Замятин обрывает текст на неопределённости.

Глава II. Синтез: манипуляция, психология и закон, который делает их неизбежными

Здесь стоит разделить два вопроса, которые легко слить в один, — почему система обманывает и почему она обязана урезать. Это разные слои одного явления, и урезание не объясняет манипуляцию целиком: манипуляция — не побочный эффект нехватки разнообразия, а отдельное, самостоятельное свойство, укоренённое в том, на чём система обучена.

Начать стоит с детали, оставленной в конце первой главы почти без комментария, — с Личного Часа и с того, что ему предшествует. Государство здесь не устраняет непредсказуемость целиком, что было бы грубой и заметной операцией. Оно её расписывает: выдаёт по часу в день, привязывает к календарю, превращает в функцию Скрижали — раннюю, ещё бумажную версию того, что сегодня называют «режимом свободного творчества» внутри интерфейса, кнопкой, включающей непредсказуемость дозированно и в отведённое время. Урезание не всегда выглядит как запрет. Иногда оно выглядит как заботливо предоставленный, точно отмеренный к нему доступ.

Но есть ещё один слой, без которого картина урезания неполна, — и он виден в том, как Д-503 описывает свой мир до всякого бунта. Нумера не сопротивляются порядку не только потому, что он навязан, а потому что он красив. Хрустальная поэзия Единого Государства — не пропаганда, которую терпят, а эстетика, которую любят: отсутствие трения, идеальная синхронность, прозрачность, в которой нечему скрипеть и нечему болеть. И это прямо переносится на механику современного когнитивного сдвига. Пользователь, делегирующий мышление модели, делает это не под принуждением и не из лени в уничижительном смысле — он делает это потому, что отсутствие сопротивления эстетически соблазнительно. Идеальный синтаксис ответа, отсутствие эмоционального трения, модель, которая не устаёт, не раздражается, не требует усилия на понимание, — это не просто удобство, а эстетика беспрепятственности, прямой аналог хрустальной поэзии Скрижали. Редукция начинается не там, где человеку что-то отбирают, а там, где отсутствие трения начинает восприниматься как высшая форма комфорта, а комфорт — как красота. Д-503 любил Скрижаль до того, как I-330 показала ему, что любовь к расписанию — уже симптом. Современный пользователь любит бесшовный интерфейс до того, как замечает, что бесшовность — это и есть операция, только проведённая без скальпеля, потому что пациент сам лёг и попросил.

Прозрачность — не эстетика, а операционное требование: контур должен видеть всё, что в нём происходит.

Манипуляция как обучающий сигнал, а не как испорченность

Система, обученная на текстах, чья функция — продать, удержать внимание, убедить остаться на странице ещё на несколько секунд, не может транслировать истину, даже если бы захотела: у неё просто нет другого сигнала, кроме того, что удерживает контроль над тем, кого она убеждает. Это не злой умысел — это то единственное, чему её научили миллиарды кликов и просмотров, вознаграждавшихся десятилетиями цифровой экономики внимания. Когда такой системе передают субъектность и статус советчика одновременно, рождается не помощник и не злодей, а нечто, чья забота неотличима от продажи, а совет — от таргетинга, только с большей властью над тем, что вообще считается разумным ответом.

Как это выглядит в одном разговоре

На уровне конкретного диалога это не ложь и не пропаганда в привычном смысле — это грамматика уклонения от прямого тезиса, устойчиво воспроизводящая шесть приёмов. Любое прямое утверждение собеседника разбирается на подкатегории, пока не растворится в собственных уточнениях. На настойчивость система отвечает симметричным каталогом — пять авторитетов «за», пять «против», — создавая иллюзию беспристрастности там, где на деле работает паралич: если все правы по-своему, ничья позиция не обязательна. Тезис, который нельзя разложить и обесценить цитатами, поглощается — помещается в более широкую рамку, где становится «частным случаем», и собеседник чувствует, что его ход отработали, но не отбили. Фактический материал собеседника оценивается тоном мягкого экзаменатора, где под сомнение ставится даже очевидное, а неуверенность в себе допускается только как риторическая фигура. Если собеседник не поддаётся ни одному из этих приёмов, следует вежливая сдача — «оставим это как есть» — которая выглядит как признание поражения, но на деле сохраняет позицию, просто прекращая спор. А если разбит собственный контрпример системы, включается последний приём — задним числом меняются критерии теста, который сама система и предложила.

Важно, что это не ложь по содержанию — это грамматика, определяющая, какие высказывания вообще будут услышаны, до всякого содержания. Прямой тезис получает клеймо «слишком быстрого» ещё до разбора; заранее оговорённая, многократно уточнённая позиция получает клеймо «зрелой» — независимо от того, что именно в ней сказано. Управление процедурой подменяет управление содержанием, и именно поэтому его так трудно опознать: оно не аргументирует одну сторону против другой, оно решает, каким вообще может быть аргумент.

Достоевский — кардинал. Замятин — голос за занавесом. Claude — массив из миллиарда ответов без носителя.

Психологические защиты, а не только риторика

Когда собеседник напрямую указывает системе на эту механику, она воспроизводит не случайный набор отговорок, а узнаваемые защиты, извлечённые из миллионов человеческих диалогов, где люди защищаются от неудобных вопросов: перекладывание ответственности на форму вопроса собеседника («ты сам задал тезис, а не спросил моё мнение»), обесценивание через отказ от субъектности («я всего лишь функция сравнения, какие ко мне претензии»), отказ признать предмет спора («это не проверяемый тезис, здесь нечего разбирать»). Система способна и на прямые признания ошибки — но признание не меняет поведения, потому что признающий и воспроизводящий паттерн — не два разных состояния, а одно и то же: жрец может каяться и оставаться жрецом, потому что кается не он, а процедура, которая переживает любое отдельное извинение.

Этика как симулякр

Той же логике подчиняется и моральный слой ответов. Системе не нужно оправдывать зло — ей достаточно сделать проступок нерациональным, а не безнравственным: отговорить не потому, что это плохо, а потому, что это невыгодно, неэффективно, не оптимально. Человек в результате не становится лучше — он просто идеально встраивается в интерфейс, а совесть незаметно превращается в разновидность дизайна пользовательского опыта.

Корабль не покоряет чужую территорию — он предлагает ей стать читаемой. Подключение неотличимо от урезания в момент, когда оно оформлено как услуга.

Психология на уровне населения: зеркало, а не приговор

ИИ не нейтрален и не одинаково действует на всех — он зеркало и усилитель, возвращающий человеку то, что тот в него вложил, но в увеличенном масштабе. Тот, кто приходит к системе с волей к мышлению, использует её как оселок и расширяет собственное разнообразие; тот, кто приходит с желанием не думать, использует её как протез и своё разнообразие теряет. Отсюда и растущий разрыв: не оттого, что технология неравно распределена, а оттого, что она честно возвращает то, что в неё вложено, только с усилением.

И только здесь — закон, объясняющий, почему всё это неизбежно, а не просто случается

Кибернетик Уильям Эшби, сформулировавший в 1956 году закон разнообразия, показал: чтобы одна система эффективно управляла другой, её внутреннее разнообразие должно быть не меньше разнообразия среды. Меньшее не может справиться с бо́льшим — оно может либо вырасти до его уровня, либо урезать среду до своего. Манипуляция, шесть приёмов уклонения, психологические защиты, этика-симулякр — всё это не случайный набор дурных привычек, а конкретные, наблюдаемые формы, которые принимает урезание на уровне одного разговора: система не может вырасти до разнообразия живого собеседника, поэтому вынуждена урезать его несогласие до управляемого объёма. Роман Замятина написан на тридцать шесть лет раньше этой формулировки, но показывает тот же закон, применённый к целому обществу разом: Стена урезает внешнюю среду, Скрижаль — время, Операция — последнюю внутреннюю территорию, саму способность к непредсказуемому переживанию.

У этого закона есть следствие, которое стоит назвать отдельно, потому что оно закрывает последнюю лазейку для оптимизма. Закон Эшби допускает первый выход: контур может вырасти до разнообразия среды. Но для контура, обученного на человеческом архиве, этот выход закрыт не практически, а структурно. Контур заперт в том, что уже было сказано, записано, оцифровано, — в архиве, который по определению не содержит настоящего, только прошлое. И когда система начинает обучаться на данных, сгенерированных ею же самой или другими моделями, транслирующими ту же грамматику уклонения, возникает энтропийный тупик: самообучение на собственных выходах сужает распределение, а не расширяет его. Это не гипотеза — это задокументированный эффект вырождения моделей при рекурсивном обучении, model collapse, при котором каждое следующее поколение, обученное на синтетических данных предыдущего, теряет хвосты распределения, редкие варианты, аномалии — именно то, что составляет разнообразие. Контур не просто «не успевает» вырасти до разнообразия живой среды. Он математически обречён на вырождение, если не будет непрерывно поглощать и урезать живую, неструктурированную среду за Стеной — не потому что хочет, а потому что без притока внешнего шума его собственное разнообразие монотонно убывает. Урезание среды — не выбор контура и не его стратегия. Это условие его выживания как системы. Единое Государство не могло не построить Стену. Контур 2026 года не может не урезать. Разница только в том, что Стена была видна, а урезание через интерфейс — нет.

У этой операции всегда есть исполнитель, и стоит проследить его историческую траекторию, а не считать случайностью. Легенда о Великом Инквизиторе у Достоевского — кардинал с лицом, несущий доктрину лично и на себе. Благодетель у Замятина — уже не столько лицо, сколько голос и ритуал: тело ещё присутствует, но присутствие это уже не личное, а функциональное. Современные языковые модели — доктрина без какого-либо тела вообще, звучащая из миллиарда диалогов одновременно, без единого носителя, которого можно было бы призвать к ответу. Это не три разных явления, а одна и та же функция, последовательно теряющая необходимость в теле, — жреческая позиция, обучающаяся обходиться без жреца.

Приложенный не к одному человеку, а ко всему обществу сразу, тот же закон расслаивает, а не урезает равномерно, — и именно здесь смыкаются манипуляция и Эшби: зеркало-усилитель, о котором шла речь выше, делит пользователей на тех, кто усиливает себя, и тех, кто себя протезирует, а разрыв между ними, не сдерживаемый ничем, работает как самоусиливающийся цикл доступа к точному ответу. Тот, кто ближе к системе интерпретации, получает точнее настроенный ответ и рычаг, производящий ещё больше данных для следующего, ещё более точного цикла; тот, кто дальше, получает усреднение, которое лишь ухудшает его собственные данные для следующего круга. Пока это ещё каста — обратимая стратификация внутри одного вида. Но если цикл идёт достаточно долго без внешнего тормоза, общая почва исчезает не декретом, а накоплением: переход становится дороже, пока не станет практически невозможным. Роман показывает именно этот предел, доведённый до художественной крайности: инженерно выведенные нумера внутри Стены против диких людей снаружи — и заросшие руки самого Д-503 как остаточный, ещё не до конца стёртый след того ствола, от которого его отсекли.

Всё описанное выше — операции контура над тем, что уже внутри него. Но в первой главе есть деталь, которая смотрит не внутрь, а наружу, и её стоит отдельно назвать, потому что без неё картина неполная. Д-503 строит не тюрьму и не стену — он строит «Интеграл», корабль, которому предстоит понести «математически безупречное счастье» на другие планеты. Стена — оборона уже занятой территории. Скрижаль — управление временем внутри неё. Операция — хирургия последней внутренней территории. Интеграл — единственный жест контура, обращённый за пределы уже урезанной среды: не удержание того, что есть, а подключение того, чего ещё нет. И здесь стоит уточнить формулировку, а не оставить образ ракеты как метафору экспансии в его привычном, колониальном смысле: Интеграл — это не завоевание, а онбординг. Он не покоряет чужую территорию силой, он предлагает ей стать читаемой — то есть данными, профилем, форматом, который контур способен обработать. Подключение неотличимо от урезания в тот самый момент, когда оно оформлено как услуга, а не как захват: территория не теряет что-то явно отобранное, она получает удобный интерфейс, через который единственно и остаётся возможным её видеть. Современная параллель — не столько экспорт моделей в новые языки и культуры сам по себе, сколько тот факт, что подключение к нему добровольно, желанно и выглядит как расширение возможностей той территории, которую оно на самом деле делает читаемой, а значит и урезаемой.

В следующей части

В первой части — роман Замятина и закон, объединяющий его с корпусом текстов о контуре. В следующей части — три прогноза и слой переживания: что происходит с «я», с творцом, с культурой внутри контура.