Мир ИИ и МЫ. Часть третья

Глава V. Мера: индикатор порога

Три прогноза описывали процесс, который уже идёт; четвёртая глава показала, как этот процесс переживается изнутри. Здесь — не прогноз и не переживание, а условие, при котором прогнозы перестают быть обратимыми. Разница важна: прогноз можно опровергнуть будущим наблюдением, условие можно только выполнить или не выполнить.

Роман давал для этого перехода конкретный, телесный маркер — волосатые руки, остаточный биологический след раскола, уже случившегося в одном теле. У прогноза для общества такого готового образа нет, и было бы нечестно делать вид, что есть. Но индикатор можно указать точнее, чем образ про разошедшиеся диалекты, — и он проверяем. Каста — это когда разница в результате объясняется разницей в доступе: к данным, к инструментам, к обучению. Но абсолютный тест, проведённый сегодня и повторённый через двадцать пять лет, измерит разные вещи, потому что сами инструменты изменятся, — сравнивать нужно не результат, а долю. Индикатор — не разовое сравнение, а отслеживаемая во времени величина: какая часть разброса в результатах между людьми объясняется разницей в доступе к инструментам, а какая — не объясняется им, то есть остаётся даже тогда, когда доступ уравнен. Отслеживается это через длительные когортные исследования, где измеряется не академический результат и не производительность, а автономия целеполагания и способность к критическому синтезу в условиях равного доступа к ИИ-инструментам — то есть не то, что человек производит, а то, способен ли он поставить задачу, которую ему никто не предложил, и собрать ответ, которого нет ни в одном готовом выводе. Если необъяснимая доступом доля со временем растёт — разница переезжает из внешнего во внутреннее, и это уже не каста, а закреплённый навык расхождения, которым доступ больше не управляет. Порог пройден не в момент, когда тест что-то показал один раз, а в момент, когда эта доля перестаёт сокращаться от снимка к снимку.

Почему индикатор нужен сейчас. Когорта 2018–2021 рождения сегодня в возрасте пяти–восьми лет. Окно пластичности для префронтальных функций закрывается к восемнадцати–двадцати пяти. Это даёт от десяти до семнадцати лет до момента, когда форматирование станет фактом структуры. Но когортное исследование, способное зафиксировать траекторию, требует не одного замера, а серии: базовая линия, промежуточные срезы, финальное сравнение. Чтобы иметь данные к 2032–2035 году, начинать измерять нужно сейчас — не потому что завтра будет поздно, а потому что лонгитюдный дизайн требует пяти–девяти лет наблюдений до первого значимого среза. Если начать в 2030-м, данные будут к 2038-му — когда окно для когорты 2018–2021 уже закроется и измерять будет нечего, кроме факта. Индикатор — не академическое упражнение. Это единственный инструмент, который позволяет узнать, пройден ли порог, до того как его прохождение станет необратимым.

Глава VI. Институт: что можно требовать, а не только что можно практиковать

Если болезнь структурная, личная привычка её не лечит — она в лучшем случае замедляет её для одного человека, оставляя структуру нетронутой. Поэтому здесь необходим отдельный список — как самостоятельное требование к институтам, без выполнения которого личная практика ничего не решает в масштабе общества. Список неоднороден: первые четыре требования делают систему подотчётной — оставляют её масштаб прежним, но заставляют объяснять и допускать пересмотр решений. Пятое и шестое делают систему меньше — не прозрачнее, а менее охватывающей. Это разные задачи, и обе нужны, но они не взаимозаменяемы.

Подотчётность:

законодательно закреплённая обязанность объяснимости для любых систем, принимающих публично значимые решения — кредит, страхование, найм, доступ к услугам;
чётко очерченные области, закрытые для окончательного решения алгоритма в принципе, а не по умолчанию, — правосудие, объявление войны, воспитание детей, вопросы жизни и смерти;
закреплённое право на пересмотр автоматического решения человеком, наделённым реальными полномочиями его отменить, а не просто выслушать жалобу;
независимый аудит алгоритмов, доступный не только регулятору, но и тем, чьи данные и решения через эти алгоритмы проходят. Этот пункт требует пояснения, потому что именно он будет оспариваться языком, описанным в прогнозе 2: отчёты об «угрозах» и «рисках», требующие для своего устранения дополнительных вычислительных мощностей и данных, будут подаваться как забота о безопасности — и оплачиваться соответственно, даже если объективный эффект такой заботы — расширение самой системы, которая эти риски обнаруживает. Политический язык риска и заботы будет использоваться для расширения инфраструктуры, а не только для управления ею. Независимый аудит — единственный противовес этому циклу, потому что он позволяет отличить риск, требующий расширения, от риска, сконструированного для обоснования расширения. Без аудита язык заботы неотличим от языка захвата — и именно в этой неотличимости работает прогноз 1: операция не ощущается как операция.

Уменьшение масштаба:

принцип субсидиарности — перенос права принимать решение на максимально низкий, локальный уровень, чтобы точность обратной связи не оставалась привилегией тех, кто и так ближе к архиву;
право на нечитаемость — законодательное закрепление зон, услуг и институтов, где присутствие цифрового следа и алгоритмической оценки запрещено, а не просто опционально.

Последний пункт требует двух пояснений. Первое: речь не о праве отдельного человека выйти из следа — такое право на практике защищает только того, у кого есть ресурсы для выхода. Бедный не может позволить себе быть нечитаемым, потому что читаемость — это кредитная история, доступ к услугам, возможность быть нанятым. Право на индивидуальный выход из следа — это привилегия, оформленная как свобода. Речь о другом: о пространствах, куда след не допущен по определению, независимо от того, кто в них находится. Школы, где оценка не оцифровывается и где ребёнок обязан столкнуться с когнитивным трением без интерфейса, снимающего его. Медицинские решения, не проходящие через скоринг. Общественные пространства, не генерирующие поведенческих данных. Нечитаемость здесь — не свойство субъекта, а свойство инфраструктуры: не «ты можешь спрятаться», а «здесь негде прятаться, потому что здесь нечем читать». Это не луддизм. Это структурное ограничение на Интеграл: контур может подключать территорию, но не всякую. А без нечитаемых пространств, в которых ребёнок проходит форматирование мозга через сопротивление среды, а не через его отсутствие, второй шаг биологического остывания становится необратимым для целого поколения.

Второе пояснение: нечитаемость не отменяет подотчётности. Пространство, свободное от алгоритмической оценки, не является пространством, свободным от ответственности. Учитель в нецифровой школе всё равно отчитывается — но перед коллегами, родителями, профессиональным сообществом, а не перед скоринговой моделью. Разница не в наличии контроля, а в его природе: человеческий контроль допускает исключение, контекст, непредсказуемое решение. Алгоритмический — нет.

Это не альтернатива личной практике, а её условие: без институциональных ограничений личная привычка формулировать позицию раньше модели остаётся индивидуальной гигиеной, полезной для одного человека и бессильной против структуры, которая расслаивает миллионы.

Глава VII. Адресат: личная практика и кому она на самом деле обращена

Что можно делать уже сейчас на уровне отдельного человека, предметно: сохранять привычку формулировать позицию до того, как её предложит модель, а не вместо этого; замечать момент, когда удобное готовое решение снимает не только усилие, но и саму возможность заметить, что вопрос вообще был.

Но прогноз 3 вводит асимметрию, которую этот текст обязан проговорить. Для взрослого читателя, сформировавшего мышление в доалгоритмическую эпоху, личная практика — реальная самопомощь: архитектура была, она ослабевает без нагрузки, но не исчезает, и нагрузка её поддерживает. Для когорты 2018–2021 рождения этот текст обращён не к ним. Он обращён к их родителям, педагогам, разработчикам школьной среды — к тем, кто принимает решение о том, будет ли у ребёнка опыт когнитивного трения до того, как окно пластичности закроется. Ребёнок не может «сохранять привычку формулировать позицию раньше модели», потому что у него ещё нет ни позиции, ни привычки, ни модели — есть только среда, которую ему строят взрослые. Личная практика для этого поколения — не его практика, а практика тех, кто строит его среду. И это, возможно, самая трудная форма ответственности: принимать решение за того, кто ещё не может принять его сам, зная, что окно, в котором это решение имеет значение, ограничено биологически.

Здесь нужна честная оговорка, а не бодрое заключение. Способность заметить, что ты не заметил, — это именно то, что снимается первым, когда урезание уже состоялось: рекомендация «замечай» обращена к тому, кто ещё способен её услышать, и никакой текст не может гарантировать, что читатель — именно этот адресат, а не тот, для кого анестезия уже произошла и произошла тихо, без ощущения потери. В свете прогноза 3 эта оговорка перестаёт быть риторической: для человека, чья нейронная архитектура не была сформирована в условиях когнитивного сопротивления, рекомендация «формулируй позицию сам» адресована субстрату, которого нет. Это не противоречие внутри рассуждения, а сама развилка, о которой оно всё это время говорит: одни слова работают для того, кто ещё может услышать; другие лишь описывают, что происходит с тем, кто уже не может. Текст способен дать оба описания. Дать гарантию, что читатель — первый, а не второй, не может ни один текст.

Финал романа не даёт ответа, чем закончится противостояние Благодетеля и восставших. Это честный финал, а не недоработка: закон Эшби не завершается сам собой, он продолжает действовать, пока кто-то либо растит собственное разнообразие, либо соглашается на его урезание. Измерение индикатора должно начаться в этом году — не потому что текст это предписывает, а потому что лонгитюдный дизайн не ждёт, и когорта, для которой окно ещё открыто, не будет открыта вечно. Если измерение не начнётся сейчас, результат мы узнаем постфактум — не как прогноз, а как факт, с которым уже ничего не сделать.