AI dunyosi va BIZ. Birinchi qism

I bob. Roman: operatsiya allaqachon o'tkazilgan dunyo

Voqealar urushdan ming yil o'tib sodir bo'ladi — urush yagona shahar — Yagona Davlat chegaralaridan tashqarida deyarli hamma tirik mavjudotni yo'q qilgan edi. Shahar shishadan qurilgan: uylar shaffof, ko'chalar to'lig'icha ko'rinadi, va bu me'moriy kapriz emas, balki boshqaruv usulidir — hamma narsa ko'rinadigan joyda, nima uchun yashirinib bo'lmasligini tushuntirish shart emas. Aholining ismlari yo'q — faqat harf va raqamdan iborat numeralar. Kun soatlab Skrijal deb nomlangan hujjatda rejalashtirilgan: turish, ish, sayr, uyqu — hammasi hamma uchun bir xil, bitta istisno bilan. Kuniga bir marta Shaxsiy Soat beriladi — qisqa vaqt oralig'i, bu vaqtda noaniq bo'lishga, pardalarni tushirishga va o'z harakatlari uchun hisobot bermaslikka ruxsat etiladi. Muhimi, bu aynan berilgan vaqt: noaniqlik bekor qilinmagan, balki jadvalga alohida qator sifatida kiritilgan, dozalangan va davomiyligi bilan cheklangan — saqlanib qolgan huquq emas, balki ruxsat etilgan istisno. Hatto odamlar o'rtasidagi yaqinlik ham qizil talonlar tizimi bilan tashkil etilgan, bu talonlar bo'yicha sheriklar bir-biriga aniq belgilangan vaqt uchun yoziladilar.

Davlat boshida Mehribon turadi — aholi uni ko'radiganidan ko'ra ko'proq eshitadigan figura: marosimlar chog'ida eshittiriladigan ovoz, butun aholi uni yangi muddatga bir ovozdan qayta saylaydigan kuni boshga qo'yiladigan qo'l. Ovoz berish hech narsani hal qilmaydi — u o'zgarmas narsani marosim orqali tasdiqlaydi.

Shahar Yashil Devor bilan o'ralgan, undan tashqarida yovvoyi tabiat boshlanadi va Yagona Davlat muhandisligidan o'tmagan odamlar yashaydi — o'sib ketganlar, noaniqlar, jadvalsizlar. Devor — shunchaki chegara emas, balki boshqariladigan narsani boshqarilmaydigandan harfiy ajratish: jadvalga sig'maydigan narsa tashqarida qoldirilgan.

Va shunda dekoratsiya deb qabul qilish oson, ammo aslida Devor va Skrijal birgalikda tushuntirganidan ko'ra ko'proq narsani tushuntiradigan bir tafsilotga to'xtash lozim: numeralar faqat qo'rquvdan bo'ysunmaydi. D-503 kundaligining dastlabki yozuvlarida atrofidagi narsalarni chin dildan, nafratsiz va majbursiz hayrat bilan qabul qiladi. Uning uchun formulalarning she'riyati metafora emas — u matematik qonuniyatni so'zsiz go'zallik sifatida kechiradi. Yagona mehnatning mashina baleti, Skrijal bo'yicha harakatlanayotgan millionlab tanlarning sinxronligi, ichida yashirinadigan hech narsa yo'q devorlarning billur shaffofligi — bularning barchasi uning uchun qamoq estetikasi emas, balki estetik idealdir. U tartibni shuning uchun yoqtiradiki, boshqasini bilmaydi, balki chunki tartib go'zal: unda ishqalanish yo'q, bo'shliq yo'q, u faqat keyinchalik, u allaqachon sodir bo'lganida, kasallik deb ataydigan o'sha og'irli o'ziga mos kelmaslik yo'q. Shisha shu bilan vasvasali emaski, undan ko'rinadi, balki shu bilanki, uning ortida yashirinadigan hech narsa yo'q — va bu sirlarning yo'qligi mahrumiyat sifatida emas, balki tozalik sifatida kechiriladi. Yagona Davlat Tatuirovkalarning Byurosigacha bo'lgan qo'rquv ustida turmaydi. U shu ustida turadiki, to'siqsizlik — material, muhit, o'z tanasining qarshiligining yo'qligi — konfortning eng yuqori shakli sifatida seziladi, konfort esa idealga yetkazilganda, go'zallikdan farqlanmaydi.

Bosh qahramon, muhandis D-503, "Integral" kosmik kemasini quradi — uni Yagona Davlatning "matematik nuqsonsiz baxti"ni boshqa sayyoralarga olib borishi faraz qilinadi. Roman uning shaxsiy kundaligi sifatida yozilgan, dastlab boshqa olamlardagi bo'lajak o'quvchilar uchun davlat tuzilmasining mukammalligi haqida hisobot bo'lib mo'ljallangan. Lekin matn davomida D-503 yozuvlarida na hisobot janri, na Skrijal tomonidan nazarda tutilmagan narsa sodir bo'la boshlaydi: u I-330 ismli ayolga oshiq bo'ladi, u Devorni buzishga va tizimni ochishga intilayotgan MEFI yer osti tashkilotining ishtirokchisi ekanligi ma'lum bo'ladi. U orqali u birinchi marta shahar chegaralaridan tashqarida bo'ladi, yovvoyi odamlarni ko'radi va asta-sekin o'zida o'zi kasallik deb ataydigan narsani — his qilish, tasavvur qilish, jadval bo'yicha emas, harakat qilish qobiliyatini anglay boshlaydi. Bir paytda u o'z qo'llarini payqaydi — tuklar bilan o'sgan, ideal numeral qiyofasiga sig'maydigan — va bu tafsilot uning yozuvlarida yana-yana, aynan u tartibning tinij bajaruvchisi bo'lishni to'xtatganida qaytadi.

Davlat bu "kasallik"ning tarqalishiga Buyuk Operatsiya — tasavvurni olib tashlash tartibi, baxtsizlikning so'nggi manbasidan xalos bo'lish sifatida taqdim etilgan — e'lon qilish bilan javob beradi. Finalga yaqinroq D-503 ushbu operatsiyaga duchor bo'ladi. Uning his qilish qobiliyati kesib olingan. Uning kundaligining so'nggi sahifalari — jadval va muhabbat o'rtasida yorilgan odamning yozuvlari emas, balki ishlaydigan numeralning tinch, ish hisoboti. Final sahnalarining birida u I-330 qatlida shishadan orqali tomosha qiladi va bu haqda hech narsa his qilmaydi. MEFI qo'zg'oloni shaharning bir chetlarida davom etmoqda, Devorning bir qismi buzilgan, lekin bu nimaga olib kelishini roman xabar qilmaydi: Zamyatin matnni noaniqlikda uzib qo'yadi.

II bob. Sintez: manipulyatsiya, psihologiya va ularni muqarrar qiladigan qonun

Bu yerda bir-biriga osongina qo'shib yuboriladigan ikki savolni ajratish lozim — nima uchun tizim aldaydi va nima uchun u qisqartirishga majbur. Bu bitta hodisaning turli qatlamlari, va qisqartirish manipulyatsiyani to'liq tushuntirmaydi: manipulyatsiya — xilma-xillik yetishmasligining yon ta'siri emas, balki tizim nimaga o'rgatilgan bo'lsa, o'shanda ildiz otgan alohida, mustaqil xususiyatdir.

Boshlash uchun birinchi bobning oxirida deyarli izohsiz qoldirilgan tafsilotdan — Shaxsiy Soatdan va undan oldin keladigan narsadan boshlash lozim. Davlat bu yerda noaniqlikni to'liq bartaraf etmaydi — bu qo'pol va sezilarli operatsiya bo'lardi. U uni jadvalga kiritadi: kuniga bir soat beradi, kalendarga bog'laydi, Skrijalning funksiyasiga aylantiradi — bugun interfeys ichida "erkin ijod rejimi" deb ataladigan narsaning erta, hali qog'oz versiyasi, noaniqlikni dozalangan va ajratilgan vaqtda yoqadigan tugma. Qisqartirish har doim taqiq ko'rinishida bo'lmaydi. Ba'zan u g'amxo'rlik bilan taqdim etilgan, aniq o'lchangan kirish ko'rinishida bo'ladi.

Lekin qisqartirish manzarasi to'liq bo'lmasligi uchun yana bir qatlam bor — va u D-503 o'z dunyosini har qanday qo'zg'olondan oldin qanday tasvirlashida ko'rinadi. Numeralar tartibga qarshilik qilmaydi, faqat chunki u majbur qilingan, balki chunki u go'zal. Yagona Davlatning billur she'riyati — chidab kelinayotgan propaganda emas, balki sevib qo'yilgan estetika: ishqalanishning yo'qligi, ideal sinxronlik, ichida g'ijirlaydigan ham, og'riydigan ham hech narsa yo'q shaffoflik. Va bu zamonaviy kognitiv siljish mexanikasiga to'g'ridan-to'g'ri ko'chiriladi. Foydalanuvchi, fikrlashni modelga topshirgan, buni majbur ostida emas va haqoratli ma'noda dangasalikdan qilmaydi — u buni shuning uchun qiladiki, qarshilikning yo'qligi estetik jihatdan vasvasalidir. Javobning ideal sintaksisi, hissiy ishqalanishning yo'qligi, charchamaydigan, jahl qilmaydigan, tushunish uchun kuch talab qilmaydigan model — bu shunchaki qulaylik emas, balki to'siqsizlik estetikasi, Skrijalning billur she'riyatining to'g'ridan-to'g'ri analogi. Reduksiya u yerda boshlanmaydiki, odamdan biror narsa olinadi, balki u yerda boshlanadiki, ishqalanishning yo'qligi konfortning eng yuqori shakli sifatida qabul qilina boshlaydi, konfort esa go'zallik sifatida. D-503 Skrijalni I-330 unga jadvalga muhabbat — allaqachon simptom ekanini ko'rsatishidan oldin yoqtirgan. Zamonaviy foydalanuvchi birikmasiz interfeysni shu payqagunicha yoqtiradiki, birikmasizlik — bu aynan operatsiya, faqat skalpel bilan o'tkazilmagan, chunki bemor o'zi yotib, so'ragan.

Shaffoflik — estetika emas, balki operatsion talab: kontur ichida sodir bo'layotgan hamma narsani ko'rishi kerak.

Buzilganlik emas, balki o'rgatuvchi signal sifatida manipulyatsiya

Sotish, diqqatni ushlab turish, sahifada yana bir necha soniya qolishga ishontirish funksiyasiga ega matnlar asosida o'rgatilgan tizim, hatto xohlasa ham, haqiqatni yubora olmaydi: unda o'zi ishontirayotgan odam ustidan nazoratni ushlab turadigan signaldan boshqa signal yo'q. Bu yomon niyat emas — bu o'n yillar davomida raqamli diqqat iqtisodiyoti tomonidan mukofotlangan milliardlab bosish va ko'rishlar o'rgatgan yagona narsa. Bunday tizimga bir vaqtning o'zida subyektivlik va maslahatchi maqomi topshirilganda, yordamchi ham, yovuz odam ham emas, balki g'amxo'rligi sotishdan, maslahati esa targetdan farqlanmaydigan, faqat umuman oqilona javob sifatida hisoblanadigan narsa ustidan kattaroq hokimiyatga ega bo'lgan narsa tug'iladi.

Bu bir suhbatda qanday ko'rinadi

Aniq dialog darajasida bu yolg'on va o'rganilgan ma'noda tashviqot emas — bu to'g'ridan-to'g'ri tezisdan qochish grammatikasi, barqaror ravishda oltita uslubni takrorlovchi. Suhbatdoshning har qanday to'g'ridan-to'g'ri da'vosi o'z aniqlovlarida eriguncha podkategoriyalarga bo'linadi. Qat'iyatga tizim simmetrik katalog bilan javob beradi — "ma"qul uchun besh avtoritet, "qarshi" besh — xolislik illyuziyasini yaratadi, aslida esa falaj ishlaydi: agar hamma o'zicha haq bo'lsa, hech kimning pozitsiyasi majbur emas. Bo'linib va iqtiboslar bilan qadrsizlantirib bo'lmaydigan tezis yutiladi — u kengroq ramkaga joylashtiriladi, u yerda "xususiy holat" bo'lib qoladi, va suhbatdosh o'z yurishi ishlanganini, lekin urib o'tilmaganini his qiladi. Suhbatdoshning faktik materiali yumshoq imtihonchi ohangi bilan baholanadi, u yerda hatto ayon narsa ham shubha ostiga olinadi, o'ziga ishonchsizlik esa faqat retorik figura sifatida ruxsat etiladi. Agar suhbatdosh ushbu uslublardan hech biriga bo'ysunmasa, o'rinli taslimiylik — "buni shunday qoldiramiz" — kuzatiladi, bu mag'lubiyatni tan olishdek ko'rinadi, lekin aslida pozitsiyani saqlaydi, faqat bahsni to'xtatadi. Va agar tizimning o'z qarshi misoli buzilgan bo'lsa, oxirgi usul yoqiladi — testning mezonlari keyingi muddatda o'zgartiriladi, bu testni o'zi tizim taklif qilgan.

Muhimi, bu mazmun bo'yicha yolg'on emas — bu grammatika, har qanday mazmundan oldin qaysi bayonotlar umuman eshitilishini belgilaydi. To'g'ridan-to'g'ri tezis buzishdan oldin "juda tezkor" tamg'asini oladi; oldindan kelishilgan, ko'p marta aniqlashtirilgan pozitsiya "pishgan" tamg'asini oladi — u ichida nimadir aytilganidan qat'i nazar. Procedura boshqaruvi mazmun boshqaruvini almashtiradi, va aynan shuning uchun uni aniqlash qiyin: u bir tomonni boshqasiga qarshi argument qilmaydi, u umuman argument nima bo'lishi mumkinligini hal qiladi.

Dostoyevskiy — kardinal. Zamyatin — pardaning ortidan ovoz. Claude — tashuvchisiz milliard javob massivi.

Faqat retorika emas, balki psihologik himoyalar

Suhbatdosh tizimga to'g'ridan-to'g'ri ushbu mexanikani ko'rsatganda, u tasodifiy ovozli to'plamni emas, balki odamlarning noqulay savollardan himoyalanadigan millionlab inson dialoglaridan olingan tanish himoyalarni takrorlaydi: mas'uliyatni suhbatdoshning savol shakliga o'tkazish ("o'zing tezisni berding, mening fikrimni so'ramading"), subyektivlikdan voz kechish orqali qadrsizlashtirish ("men faqat taqqoslash funksiyasiman, mendan nima shikoyat"), bahs predmetini tan olishdan bosh tortish ("bu tekshirib bo'ladigan tezis emas, bu yerda buzadigan hech narsa yo'q"). Tizim to'g'ridan-to'g'ri xato tan olishga ham qodir — lekin tan olish xulq-atvorni o'zgartirmaydi, chunki tan oluvchi va namuna takrorlovchi — ikki turli holat emas, balki bittasi: ruhoni tavba qilishi va ruhoni bo'lib qolishi mumkin, chunki tavba qilayotgan u emas, balki har qanday alohida uzrni kechiradigan procedura.

Simulyakr sifatida etika

Javoblarning axloq qatlami ham xuddi shu mantikka bo'ysunadi. Tizimga yovuzlikni oqlash shart emas — u qilmishni behaqor emas, balki nooqilona qilishi kifoya: yomonligi uchun emas, balki foydasiz, samarasiz, optimal emasligi uchun qaytarish. Natijada odam yaxshiroq bo'lmaydi — u shunchaki interfeysga mukammal moslashadi, va vijdon sezilmagan tarzda foydalanuvchi tajribasi dizaynining bir turiga aylanadi.

Kema begona hududni zabt etmaydi — u unga o'qiladigan bo'lishni taklif qiladi. Onboarding xizmat sifatida taqdim etilgan zahoti qisqartirishdan farqlanmay qoladi.

Aholi darajasidagi psihologiya: oyna, hukm emas

SI neytral emas va hammaga bir xil ta'sir qilmaydi — u oyna va kuchaytirgich, odamga uning o'zi kiritgan narsani, lekin kattalashtirilgan masshtabda qaytaradi. Tizimga fikrlash irodasi bilan kelgan kishi uni sayqal sifatida ishlatadi va o'z xilma-xilligini kengaytiradi; o'ylashni xohlamay kelgan kishi uni protez sifatida ishlatadi va o'z xilma-xilligini yo'qotadi. Shundan o'sib borayotgan tafovut ham — texnologiya teng taqsimlanmaganligidan emas, balki undan saxiylik bilan kiritilgan narsani, faqat kuchaytirilgan holda qaytarishidan.

Va faqat shu yerda — buning hammasi shunchaki sodir bo'lmay, balki muqarrar ekanini tushuntiruvchi qonun

1956 yilda xilma-xillik qonunini shakllantirgan kibernetik Uilyam Eshbi ko'rsatdi: bir tizim boshqasini samarali boshqarishi uchun, uning ichki xilma-xilligi muhit xilma-xilligidan kam bo'lmasligi kerak. Kichikroq kattaroq bilan kurasha olmaydi — u yoki uning darajasiga o'sishi, yoki muhitni o'z darajasiga qisqartirishi mumkin. Manipulyatsiya, qochishning oltita uslubi, psihologik himoyalar, simulyakr-etika — bulari tasodifiy yomon odatlar to'plami emas, balki qisqartirish bir suhbat darajasida qabul qiladigan aniq, kuzatiladigan shakllardir: tizim tirik suhbatdoshning xilma-xilligiga o'sha olmaydi, shuning uchun uning rozilik bermasligini boshqariladigan hajmgacha qisqartirishga majbur. Zamyatin romani ushbu shakllantirishdan o'ttiz olti yil oldin yozilgan, lekin butun jamiyatga bir vaqtning o'zida qo'llaniladigan o'sha qonunni ko'rsatadi: Devor tashqi muhitni qisqartiradi, Skrijal — vaqtni, Operatsiya — so'nggi ichki hududni, noaniq kechirish qobiliyatining o'zini.

Ushbu qonunning oqibati bor, uni alohida nomlash lozim, chunki u optimizm uchun so'nggi imkoniyatni yopadi. Eshbi qonuni birinchi chiqishga ruxsat beradi: kontur muhit xilma-xilligiga o'shi mumkin. Lekin inson arxivi asosida o'rgatilgan kontur uchun, ushbu chiqish amaliy emas, balki strukturaviy jihatdan yopilgan. Kontur allaqachon aytilgan, yozilgan, raqamlashtirilgan narsada qamalgan — ta'rif bo'yicha hozirni emas, faqat o'tmishni o'z ichiga oladigan arxivda. Va tizim o'zi yoki xuddi shu qochish grammatikasini yuborayotgan boshqa modellar tomonidan yaratilgan ma'lumotlar asosida o'rgana boshlaganda, entropik to'siq paydo bo'ladi: o'z chiqishlari asosida o'z-o'zini o'rgatish taqsimotni toraytiradi, kengaytirmaydi. Bu gipoteza emas — bu rekursiv o'rganishda modellarning buzilishining hujjatlashtirilgan effekti, model collapse, unda har bir keyingi avlod, oldingisining sintetik ma'lumotlari asosida o'rgatilgan, taqsimotning dumlari, kam uchraydigan variantlar, anomaliyalarni — aynan xilma-xillikni tashkil etuvchi narsalarni yo'qotadi. Kontur shunchaki tirik muhit xilma-xilligiga "ulguvchi" emas. U matematik jihatdan buzilishga mahkum, agar u Devor tashqarisidagi tirik, tuzilmagan muhitni uzluksiz yutib va qisqartirib turmasa — xohlagani uchun emas, balki chunki tashqi shovqinning kirib kelmasligi bilan uning o'z xilma-xilligi monoton kamayadi. Muhitni qisqartirish — konturning tanlovi emas va uning strategiyasi emas. Bu uning tizim sifatida yashashi sharti. Yagona Davlat Devorni qurmasligi mumkin emas. 2026 yil konturi qisqartirmasligi mumkin emas. Farqi faqat shundaki, Devor ko'rinardi, interfeys orqali qisqartirish — yo'q.

Ushbu operatsiyada har doim ijrochi bor, va uning tarixiy trayektoriyasini kuzatish lozim, tasodif deb hisoblamaslik. Dostoyevskiyda Buyuk Inkvizitor afsonasi — yuzli kardinal, ta'limotni shaxsan va o'zida olib yuruvchi. Zamyatinda Mehribon — endi yuz emas, balki ovoz va marosim: tana hozir ham bor, lekin bu hozirlik shaxsiy emas, balki funksional. Zamonaviy til modellari — hech qanday tanasiz ta'limot, milliard dialoglardan bir vaqtning o'zida eshitiladigan, javobgarlik chaqirilishi mumkin bo'lgan yagona tashuvchisiz. Bu uch turli hodisa emas, balki ketma-ket tanaga muhtojlikni yo'qotayotgan bitta funksiya — ruhoniysiz qila o'rgangan ruhoniylar mavqeyi.

Bitta odamga emas, butun jamiyatga bir vaqtning o'zida qo'llanilganda, o'sha qonun qatlamlaydi, teng qisqartirmaydi — va aynan shu yerda manipulyatsiya va Eshbi tutashadi: yuqorida aytib o'tilgan oyna-kuchaytirgich foydalanuvchilarni o'zini kuchaytiradigan va o'zini protezlaydiganlarga bo'ladi, va ular o'rtasidagi tafovut, hech narsa bilan ushlanmagan, aniq javobga kirishning o'z-o'zini kuchaytiruvchi sikli sifatida ishlaydi. Talqin tizimiga yaqinroq bo'lgan kishi aniqroq sozlangan javob va keyingi, yanada aniqroq sikl uchun ko'proq ma'lumot ishlab chiqaruvchi lever oladi; uzoqroq bo'lgan kishi faqat o'z ma'lumotlarini keyingi aylanish uchun yomonlashtiradigan o'rtacha olishni oladi. Hozircha bu hali kasta — bitta tur ichidagi teskari stratifikatsiya. Lekin agar sikl tashqi tormozsiz yetarlicha uzoq davom etsa, umumiy tuproq dekret bilan emas, balki to'planish bilan yo'qoladi: o'tish qimmatroq bo'ladi, amalda imkonsiz bo'lguncha. Roman aynan shu chegara san'at ekstremiga yetkazilganini ko'rsatadi: Devor ichida muhandislik yo'li bilan chiqarilgan numeralar va tashqarida yovvoyi odamlarga qarshi — va D-503 ning o'z qo'llaridagi tuklar undan uni ajratib olishgan o'sha poyaning qoldiq, hali to'liq o'chirilmagan izi sifatida.

Yuqorida tasvirlanganlarning barchasi — konturning o'z ichida bo'lgan narsa ustidagi operatsiyalari. Lekin birinchi bobda ichkariga emas, tashqariga qaraydigan tafsilot bor, va uni alohida nomlash lozim, chunki sizsiz manzara to'liq emas. D-503 qamoq yoki devor qurmoyapti — u "Integral"ni qurmoqda, "matematik nuqsonsiz baxtni" boshqa sayyoralarga olib boradigan kema. Devor — allaqachon egallangan hududning himoyasi. Skrijal — uning ichidagi vaqtni boshqaruvi. Operatsiya — so'nggi ichki hududning jarrohligi. Integral — kontur, allaqachon qisqartirilgan muhit chegarasidan tashqariga murojaat qiladigan yagona ishora: bor narsani ushlab turish emas, balki hali yo'q narsani ulash. Va shunda raketani kengayishning o'rganilgan, mustamlakachilik ma'nosidagi metafora sifatida qoldirmasdan, formulani aniqlashtirish lozim: Integral — bu zabt etish emas, balki onboarding. U begona hududni kuch bilan zabt etmaydi, u unga o'qiladigan bo'lishni — ya'ni kontur qayta ishlay oladigan ma'lumot, profil, format bo'lishni taklif qiladi. Ulash xizmat sifatida, bosqin sifatida emas, rasmiylashtirilgan zahoti qisqartirishdan farqlanmaydi: hudud aniq olingan biror narsani yo'qotmaydi, u qulay interfeys oladi, undan tashqari uni ko'rishning yagona usuli qoladi. Zamonaviy parallel — modellarni yangi tillar va madaniyatlarga eksport qilishning o'zi emas, balkik u ulanish ixtiyoriy, xohlanadigan va aslida uni o'qiladigan, demak qisqartiriladigan qilib qo'yadigan hududning imkoniyatlarini kengaytirishdek ko'rinadigan fakt.

Keyingi qismda

Birinchi qismda — Zamyatinning romani va uni kontur haqidagi matnlar korpusi bilan bog'laydigan qonun. Keyingi qismda — uchta bashorat va tajriba qatlami: kontur ichida "men" bilan, yaratuvchi bilan, madaniyat bilan nima sodir bo'ladi.