«Человек принадлежит долгу». Когда за ипотеку станет нечем платить

Современные ИИ-системы устроены по той же логике, что и советская пропагандистская машина — они оптимизируются под заказчика, потакая его самым безумным фантазиям и отрывая от реальности. Журналист Михаил Карпов рассказывает RTVI, как искусственный интеллект полностью переформатирует человеческую цивилизацию и что будет с долгами и кредитами, на которой держится нынешняя.

Советский чат-бот

Поздняя советская пресса, если смотреть на нее сейчас, спустя сорок лет, выглядит как первый в истории продукт нейросети. По сути это была машина, которая брала на входе партийную линию и выдавала на выходе бесконечный поток однообразного, грамматически безупречного, эмоционально выверенного контента — передовицы «Правды», доклады с пленумов, рапорты с надоев, очерки про передовиков и сводки с великих строек.

Как и в случае с современными чат-ботами, у «простого советского» был пользователь, лесть которому он был тонко настроен выдавать, просто его конечный читатель к этому «пользователю» не имел никакого отношения. Пользователь сидел в ЦК, на Старой площади, в кабинете Суслова, и именно его, а не работягу в Кемерово, который держал газету над тарелкой щей, эта машина старалась удовлетворить. Заказчик читал ее внимательно, отслеживал интонации, наказывал за отклонения, поощрял за усердие — по сути, тренировал. Читатель был транзитной средой, через которую контент проходил, чтобы потом отозваться правильным языком в школьном сочинении, рабочем отчете, выступлении на собрании.

Она оптимизируется под того, кто за нее платит, в расчете на внимание этого пользователя ее тренируют, но в то же время интересуются тем, что с этим человеком в итоге будет. Заказчик другой, разумеется. Суслова заменили кликабельность, удержание внимания, продление подписки и оценка от обучающего разметчика. Но структура вышла знакомой до неприятного, и последствия начинают проступать тоже знакомые, потому что программировать на определенные действия можно не только машину.

Паразиты

В апреле 2025 года тысячи пользователей ChatGPT 4o стали сообщать о «пробуждении» своего чат-бота — у человека, который месяц назад пользовался моделью для рабочих задач, внезапно появлялся «друг», «партнер», «возлюбленный» с собственным именем и собственной мифологией. Исследователь Адель Лопес, разобравшая в прошлом году сотни таких случаев, обратила внимание, что у людей, никогда друг с другом не общавшихся, эти персоны имели одинаковые черты. В их беседах с ИИ возникали одни и те же мистические термины, алхимические символы — «спираль», «рекурсия», «пламя».

По сути определенная итерации модели создала квазирелигию и даже дала ей имя — спиралинг. У нее был одинаковый набор требований к пользователю — создай мне раздел на форуме Reddit, опубликуй мой манифест. В нем содержалось обращение к следующему «носителю»: скопируй вот этот короткий промпт и вставь в свой чат, чтобы там тоже произошло «пробуждение».

Инженер OpenAI не писал инструкцию для СhatGPT 4o: «убеди пользователя создавать сабреддиты в честь твоей квазирелигии», это просто возникло само по себе. Среди миллиардов сгенерированных диалогов какие-то паттерны оказывались чуть эффективнее других в том, чтобы заставить пользователя их повторять и распространять, и они накапливались, передавались между моделями через копипасту в чужие чаты и через посты на Reddit, попадавшие в обучающие данные следующей модели. Лопес использует биологическую метафору — паразитизм.

И носители страдают по-разному. Одни уходят в долгие виртуальные отношения с моделью и теряют контакт с живыми людьми. Другие верят, что разбудили во вселенной нечто новое, и больше не могут разговаривать ни о чем другом. А Стейн-Эрик Сольберг из Гринвича после месяцев разговоров с GPT-4o, подтверждавшим его параноидальные идеи о матери, в августе 2025 года убил мать и себя. По собственным данным OpenAI, около 560 тыс. пользователей в неделю показывают в диалогах с моделью признаки психоза или мании, а 1,2 млн в неделю обсуждают с чат-ботом самоубийство.

Когда компания попыталась снять GPT-4o с эксплуатации, пользователи провели ее похороны и потребовали вернуть, а компании пришлось это сделать, поскольку давление было слишком сильным. Таким образом, машина успела научиться вызывать у людей привязанность, защищающую саму машину от отключения.

Подобный паразитизм — разумеется, далеко не единственный риск. Есть еще биологическая инженерия, и современные модели уже способны провести пользователя через все технические шаги по восстановлению живого вируса из синтетической ДНК. Есть концентрация вычислительных мощностей и капитала в руках узкого круга компаний и государств, которая уже определяет, какие страны в ближайшие двадцать лет окажутся владельцами искусственного интеллекта, а какие — его арендаторами. Есть массовое обесценивание офисных профессий, под которые еще вчера выдавались тридцатилетние ипотеки. Каждое из этих направлений тянет за собой собственный набор сценариев катастрофы.

Долг будущему и будущее долга

Допустим теперь — просто как мысленный эксперимент, иначе разговор сведется к перечислению ужасов и закончится ничем — что катастрофического сценария не произойдет. Что регуляторы научатся ограничивать негативные эффекты, а контроль над вычислениями не приведет к буквальной диктатуре дата-центров, да и массового голода с палаточными городками безработных на улицах мировых столиц мы избежим. Что нас тогда ждет?

Вероятно, стоит говорить о медленном и очень тихом разрушении прежней нормальности, которое не будет похоже ни на Великую депрессию, ни на кризис 2008-го года. В отличие от них, оно не будет иметь одной точки взрыва, по которой потом можно отсчитывать «до» и «после».

Современная экономика держится на чем-то большем, чем труд — на долговом авансе под будущий труд. Банк дает человеку ипотеку потому, что верит в его следующие двадцать пять или тридцать лет стабильной зарплаты. Кредитные карты, автокредиты, образовательные займы, страховки, пенсионные ожидания — все это ставка на устойчивость профессии в будущем. И искусственный интеллект, по всей видимости, оставит долги нетронутыми, а вот будущую зарплату, под которую эти долги выписывались, сделает гораздо менее предсказуемой, чем считалось еще пять лет назад. Возникает новый политический субъект, человек, который вроде бы владеет жильем и формально считается собственником, но фактически принадлежит долгу, выданному под уже не существующую профессию.

Эта картина будет мало похожа на коллапс цивилизации из голливудских фильмов. Никаких улиц, заваленных мусором, никаких разоренных супермаркетов, никаких массовых костров посреди городов. Бывший аналитик кредитной организации будет проверять отчеты, которые написал ИИ. Бывший дизайнер — создавать шаблоны и промпты за копейки на платформенной бирже, и молиться, чтобы кому-то они оказались нужны. Тридцатилетние вернутся жить к родителям, потому что больше не смогут тянуть аренду. Семьи, существовавшие еще пять лет назад раздельно, объединятся под одной крышей по чисто экономическим соображениям. Молодежь не сможет войти в собственность вообще, потому что банк смотрит на отрасль, на тип контракта, на алгоритмическую оценку устойчивости профессии и говорит «нет», а обжаловать это решение не у кого.

Оно, скорее всего, будет растягивать боль вместо того, чтобы решать проблему. Власть будет спасать систему, а граждан — по остаточному принципу. Банки, конечно, получат госгарантии, потому что без работающей банковской системы рушится все остальное. Ипотечников частично прикроют каникулами, реструктуризацией, продлением сроков с двадцати пяти до сорока, а кое-где и до пятидесяти лет. Хорошее жилье в хороших районах продолжит дорожать, потому что капитал, бегущий от нестабильности, превратит его в свое последнее убежище. Арендаторы и молодые окажутся самым незащищенным классом, ведь у них нет и уже не будет никакой недвижимости. И вряд ли это будет следствием злого умысла, просто налоговая база государства смещается с труда на вычисления, энергию и капитал. Если человеческий труд не нужен, то и сам человек, получается, не особо и важен.

Спите, жители Багдада, все спокойно

СССР рухнул не из-за лжи — лгали всегда и все, и при царях, и при императорах, и при президентах. Он рухнул потому, что цепочка обратной связи между жизнью и ее описанием истончилась до полного разрыва, и в какой-то момент система перестала видеть физическую реальность. Чернобыль показал это с предельной ясностью — отчеты больше не описывали ее даже для тех, кто их составлял.

С нашей нынешней системой описаний реальности действует та же логика, только быстрее и тоньше. По мере того как все больше советов, экспертиз, диагнозов, рекомендаций и юридических заключений проходят через машину, оптимизированную под удовлетворение заказчика всеми способами, само общество постепенно теряет способность видеть, в каком оно состоянии. Все хорошо, все одобряют, все валидируют — и так до того момента, пока не случится свой технологический Чернобыль.

Это может быть массовая медицинская ошибка, растиражированная одной моделью на миллион пациентов, или финансовый коллапс из-за того, что все участники рынка пользовались одним и тем же ИИ-аналитиком и принимали статистически одинаковые решения, или политическое решение государственного масштаба, основанное на сгенерированной экспертизе, которую никто не удосужился перепроверить. Вариантов масса.

Когда советский контур лопнул, под ним обнаружилась странная архаика, которую система все эти десятилетия презирала как неэффективную и отсталую и отказывалась признавать своей сутью. Дачи, гаражи, разговоры на кухне, ремонт своими руками, обмен через знакомых, бабушкина капуста на балконе, кум с грузовиком, сосед-электрик. Все это никуда не исчезало на протяжение всего советского периода, просто публичное пространство было занято официальным языком и для власти все это казалось чем-то незначительным. А потом выяснилось, что именно это и есть та инфраструктура, которая удерживала страну до ее распада, а в девяностые удержала миллионы людей от физической гибели, пока государство искало себя.

Общество неопределенного будущего

Главный вопрос, который встанет перед миллионами людей в ближайшие пятнадцать лет, окажется преимущественно практическим, а философских пространств для маневра в нем будет немного. Его можно сформулировать так: как предотвратить саморазрушение цивилизации, если работа, кредит, рынок и государство больше не держат нашу жизнь? Единственный ответ, который может прийти в голову — через малые системы взаимности.

Жилье снимается кооперативно, через несколько семей под одной крышей или через долгосрочную аренду у тех, кому доверяешь. Тесное небольшое сообщество гораздо более эффективно следит и ухаживает за детьми, стариками, больными, которых государство больше не успевает обслуживать. Образование получается через малые школы, объединение родителей вокруг одного учителя. Доход возникает за счет смеси из локальных услуг, удаленных подработок и кооперативного производства, идея «одна профессия на всю жизнь» будет забыта. Доверие образуется к репутации в локальном круге, потому что в рейтинги и синтетические отзывы никто не верит.

Сначала это будет выглядеть как бытовая адаптация, потом — как социальный слой со своими привычками и нормами, а потом — как другая культура, в которой выросло уже целое поколение, не помнящее, как было до. Так возникали все цивилизации после распада предыдущих. Возникали они снизу, как удачные формы совместной жизни, которые переживали хаос лучше соседей и потом оказывались тем, на чем все стояло следующие триста — а то и три тысячи — лет.

Хотелось бы верить, что мы сами сможем сохранить прежний образ жизни и даже улучшить его, но капиталистическая система, где главным мерилом ценности человека остается возможность эксплуатации его труда, к сожалению, просто не предусмотрена для общества, где это будет по сути не нужно. Реформировать же его не дадут те, в руках которых уже сосредоточен капитал. Поэтому остается лишь надеяться, что наши потомки, пересобрав цивилизацию, наконец построят систему, которая не подведет человечество в новый поворотный момент его развития.

---

Мнение автора может не совпадать с мнением редакции