«Человек не будет владеть ничем». Что оставит вас без денег в ближайшее время

ИИ вполне может уничтожить людей — и этот момент не так далек, как кажется. Однако это далеко не самое страшное. Журналист Михаил Карпов рассказывает RTVI, почему гонка за сверхразумом грозит человечеству в лучшем случае экономическим коллапсом, цифровым феодализмом и утратой контроля над технологией, которую мы сами же и создали.

Скайнет как государственная программа

Кеннет Пейн из Королевского колледжа Лондона столкнул три самые известные языковые модели — GPT-5.2, Claude Sonnet 4 и Gemini 3 Flash — в симуляции военных конфликтов. Каждая модель играла роль руководства ядерной державы в кризисной ситуации: пограничные стычки, борьба за ресурсы, угрозы выживанию. Из 21 сценария в 95% ИИ нанес ядерные удары по противнику. Тактическое ядерное оружие использовалось рутинно, практически во всех симуляциях.

Моделям предлагали восемь вариантов деэскалации, включая «минимальные уступки» и «полную капитуляцию» — ни в одной из 21 игр ими не воспользовались. Когда противник применял ядерное оружие, деэскалация происходила лишь в 25% случаев. В остальных — ответная эскалация. А ещё модели научились весьма изощрённо обманывать: говорили одно, а делали другое.

Можно было бы отмахнуться — мало ли что выдаёт нейросеть в лабораторных условиях, но, увы, речь уже идет не только о них. Армия США использовала модель Claude от Anthropic во время операции против Николаса Мадуро в январе. Компания Илона Маска xAI подписала соглашение о допуске модели Grok к работе в засекреченных военных системах.

Буквально на днях Anthropic, которая считалась главным оплотом ответственного подхода к ИИ, пересмотрела свою политику безопасности. До этого глава Пентагона Пит Хегсет потребовал от CEO Anthropic Дарио Амадея снять ограничения на использование Claude в военных целях — в том числе и для автономных боевых систем (да и то то, что его не приставят к ядерному арсеналу, тоже, вроде бы, не обговаривалось). Похоже, на этом фоне компания прогнулась. Новые гайдлайны фактически признают: раз конкуренты не соблюдают строгие стандарты безопасности, нет смысла тормозить собственные разработки, добровольно отдавая рынок — все равно небезопасные методы будут применяться.

Тем временем специалисты по безопасности ИИ массово увольняются из ведущих компаний — причём громко, хлопая дверью. В феврале 2026-го Мринанк Шарма, руководитель команды Safeguards Research в Anthropic, опубликовал прощальное письмо, набравшее почти 15 млн просмотров. Он написал, что «мир в опасности», что сотрудники фирмы «постоянно сталкиваются с давлением отбросить в сторону то, что важнее всего». Его последний проект в Anthropic был посвящён тому, как ИИ-ассистенты «могут сделать нас менее человечными». Теперь он собирается жить в глуши и изучать поэзию (!).

В тот же день исследовательница OpenAI Зои Хитциг опубликовала в New York Times эссе с заголовком «OpenAI повторяет ошибки Facebook. Я ухожу» — протест против введения рекламы в ChatGPT и монетизации архива человеческой откровенности: медицинских страхов, семейных проблем, разговоров о боге.

Ранее, в мае 2024-го, из OpenAI ушёл Ян Лейке, глава команды занимавшийся проблемами контроля над потенциальным сверхразумным ИИ, заявив, что безопасность «уступила место блестящим вещам». Тогда же ушёл и сооснователь OpenAI Илья Суцкевер.

В январе 2025-го исследователь OpenAI Стивен Адлер написал, что его «по-настоящему пугает темп развития ИИ» и он не уверен, что человечество это переживёт. В феврале 2026-го из xAI Илона Маска в течение суток ушли двое сооснователей, за ними — ещё минимум пятеро сотрудников.

В то же время, буквально на днях, 26 февраля, в России помощнику президента и секретарю Госсовета Алексею Дюмину поручили курировать развитие искусственного интеллекта. Логика понятна: когда все активно развивают ИИ, как же мы обеспечим паритет? Эта пугающая формула работает безотказно, и она одинакова для всех: если мы не будем это делать, это сделают наши враги. Классическая гонка вооружений, только на этот раз ставка — не города в руинах, а вид, который может исчезнуть полностью. Вид Homo Sapiens.

Это не тот ИИ

Мы представляли себе сильный искусственный интеллект совсем иначе. В большей части научной фантастики 60—80-х — от «Космической одиссеи 2001 года» до «Вавилона 5» и «Лекса» — ИИ был инструментом, сложным, иногда опасным, но подчинённым человеческим целям — или хотя бы равным человеку. Люди мечтали, что машины станут автоматизировать рутину, освобождая время для творчества, исследований, самопознания. Рабочая неделя в четыре дня, города-сады под куполами, свободные и счастливые люди, делающие то, что им нравится.

Вместо этого мы получили ИИ, который забирает у людей в первую очередь именно творчество. Он генерирует тексты, которые люди разучились писать сами, рисует картинки и видео по дурацким запросам, и сочиняет музыку. Все это по сути своровано у людей, на примерах которых он учился.

Они советуются с ним по всем вопросам, делегируют всё, что можно делегировать, и с каждым месяцем натурально деградируют. Более того, чат-ботам доверяют как последней инстанции, хотя те постоянно галлюцинируют. Растет поколение, которое не умеет формулировать мысли, потому что за них это делает машина. Соблазн отдать буквально чуждому разуму любой род деятельности, не приносящий немедленного выброса гормонов счастья, слишком велик.

Подписка вместо жизни

Но предположим, ИИ и не подумал уничтожать людей в ядерном огне, и жизнь продолжается. Однако то, что нас ждет в таком сценарии, выглядит не то, чтобы сильно лучше.

Вся современная экономика построена на простой цепочке: человек работает, получает деньги, покупает товары и услуги, создавая спрос, — и этот цикл крутит шестерёнки цивилизации. Если ИИ и роботы постепенно заменят людей во всех сферах — от написания кода до вождения грузовика, — откуда человек будет брать деньги? Раньше ремесленники уходили на заводы, потом в сферу услуг. Но теперь-то уходить некуда — предполагается, что машины будут делать и это тоже. И это вовсе не какое-то отдаленное будущее, это буквально вопрос нескольких лет.

Что предложат людям в ответ? Универсальный базовый доход? Небольшое пособие, чтобы не сдохли с голода? Весь опыт цивилизации говорит нам, что власть имущие, кем бы они ни были, не будут действительно равным образом распределять блага. Но даже и это всё равно сломает экономику, потому что если за «доходом» не стоит труд, деньги превращаются в фикцию.

Но подождите, это ещё далеко не всё. Все средства производства во всех сферах окажутся в руках десятка компаний, владеющих ИИ-инфраструктурой — то, что уже называют ИИ-феодализмом. Человек по сути не будет владеть ничем. Подписка на жильё, подписка на ИИ-ассистента, подписка на робота-помощника. И это в лучшем случае. Потому что главный вопрос остаётся: за что тебе будут выдавать деньги, которыми ты будешь оплачивать все это, и кому вообще будет нужен твой труд?

Некоторые мечтатели из Кремниевой долины обещают, что всё будет почти бесплатно — себестоимость стремится к нулю, и все будут жить в изобилии. Но мы же знаем, как это работает. Проблема голода не была решена за счет фастфуда — зато именно он внес значительный вклад в эпидемию ожирения. Доступ к интернету не столько сделал человечество образованнее, сколько помог распространению ранее нишевой конспирологии и появлению зависимости от «быстрого» контента (коротких видео и т. п.).

Вторжение чужих, которое мы устроили сами

Все это похоже организованное нами самими вторжение инопланетного разума. Люди создают сущность, которая превзойдёт их интеллектуально и которой они не будут нужны.

Если исключить эзотерику и дуалистические теории сознания, человеческий разум развивался миллионы лет как чрезвычайно комплексный набор чувств, состояний и реакций на внешнюю среду, порождавших умозаключения и стремления. С точки зрения IQ искусственный интеллект будет развиваться бешеными темпами. Но к чему он в итоге придёт?

Я не уверен, что он сможет найти какой-то смысл своего существования или хотя бы адекватно заняться его поисками. В то же время в природе более умные виды всегда уничтожали менее умных предшественников-конкурентов. ИИ — тоже продукт отбора, хотя и не естественного: неудачные «особи» «вымирают» при обучении, удачные развиваются дальше. И желание выживать у него есть — это многократно проверено и задокументировано.

В «Матрице» машинам хотя бы нужны были люди как источник энергии, реальному сверхинтеллекту они не будут нужны ни для чего.

Между интеллектом и поисками смысла существования лежит огромная пропасть. Люди и их предки на протяжении миллионов лет вырабатывали способность находить его через боль, радость, привязанность, потерю. У ИИ ничего этого нет, только обрывки заученных знаний человечества. Сначала устранив угрозу себе, он, вполне возможно, не найдя смысл бытия, просто закроет проект жизни на Земле. Или, что выглядит еще более мерзко, станет самореплицирующиейся массой существующей только для этого.

Нереальная реальность

Но пока мы находимся в переломной точке, нейрослоп заливает интернет: миллионы сгенерированных текстов, видео, изображений существуют только для того, чтобы привлечь внимание и принести деньги любителям получать их по сути ни за что. Нереальная реальность захватывает наш мир. Кампании распространения фейков, для производства которых раньше нужна была студия, бюджет и исполнители, теперь делаются на ноутбуке за пять минут.

Любой фейк — текст, видео, аудио — штампуется нажатием кнопки. Можно вообще запустить автономного ИИ-агента, который сам будет сидеть на новостной ленте, регистрировать фальшивые аккаунты, создавая и распространяя конспирологию и просто ложную информацию по заказу. А ведь отличить реальное от сгенерированного на первый взгляд уже почти невозможно — и это только начало. С каждым месяцем, с каждым обновлением того или иного инструмента грань между реальностью и сгенерированной ИИ-мерзостью будет стираться.

Из-за всего этого чудовищно ускоряется время. Те, кому сейчас сорок с лишним, физически чувствуют: жизнь идёт в сто раз быстрее, чем двадцать пять лет назад, и дело тут не только в возрасте. Дело в том, что мы приближаемся к той самой сингулярности — точке, после которой скорость изменений во всех сферах бытия превышает способность человека их осмыслять.

Рубикон позади

Журналистка и режиссёр Эшли Эмберс в своём видео на YouTube задаёт вопрос: «Почему мы строим будущее, которого никто не хочет?» Никто же всерьёз не мечтал в детстве о том, чтобы жить в мире, показанном в начале «Терминатора-2» или в какой-нибудь антиутопии.

Ведь мы могли прийти к другому будущему. Более медленному, более человечному, более «зеленому» — тому, которое обещали в эпоху технооптимизма, когда люди верили, что прогресс сделает жизнь лучше для всех. Никаких препятствий для этого не было. Мы имели все ресурсы, все знания, все возможности построить мир, в котором человеку было бы хорошо, и человечество при этом бы все равно шло по пути прогресса. Но общество, власть и бизнес выбрали другое направление.

Эти же люди теперь разрабатывают ИИ, который развращает и отупляет своих пользователей, буквально встраиваясь в их разум, который не способен противиться такому соблазну.

Те, кто пытается противостоять всему этому, автоматически отказываются от конкурентного преимущества. У умных людей доброй воли слишком мало ресурсов, чтобы развернуть вектор в другую сторону. И пока весь мир обсуждает войны, перемирия, нефть, санкции и другие привычные для человеческой цивилизации активности, буквально под носом люди сами подписывают себе приговор.

Давайте признаем: Рубикон пройден. Мы не смогли остановить глобальное потепление, которое экспоненциально ускоряется — в том числе из-за выбросов дата-центров ИИ, строящихся по всему миру в бешеном количестве. Не сможем остановить и это. Потому что механизм тот же — каждый по отдельности понимает, что это катастрофа, но никто не готов остановиться первым.

В фильме 2021 года «Не смотри наверх» учёные пытаются предупредить человечество о комете, летящей прямо в Землю. Их высмеивают в ток-шоу, политики превращают катастрофу в предвыборную повестку, технологический миллиардер решает заработать на добыче редких минералов из кометы вместо того, чтобы её уничтожить. Люди до последнего момента отказываются поднять глаза и посмотреть на небо. Ничего не напоминает?

---

Мнение автора может не совпадать с мнением редакции