«А как быть с дефицитом ресурсов?» Почему Маск не прав в своих прогнозах об ИИ

Главный редактор The Economist Зэнни Минтон Беддоус в конце июля записала на техасском заводе Tesla полуторачасовое интервью с триллионером Илоном Маском. В разговоре от прогнозов о сверхразуме собеседники перешли к спору о преступности в Британии и тепловой смерти Вселенной, однако значительная часть беседы была посвящена искусственному интеллекту. RTVI собрал ключевые тезисы Маска об ИИ и попросил прокомментировать их экспертов — бизнес-консультанта по безопасности Positive Technologies Алексея Лукацкого и исследователя ИИ Сергея Карелова, ведущего телеграм-канала «Малоизвестное интересное».

Через пять лет машины будут умнее всего человечества вместе взятого

Отвечая на вопрос, каким будет мир через десять лет, Маск сказал, что трудно вообразить будущее без подавляющего количества искусственного интеллекта. По его оценке, к 2036 году ИИ будет далеко превосходить сумму человеческого интеллекта, а достичь этой отметки машины могут уже примерно через пять лет. Он добавил, что не останется ничего, что ИИ не делал бы лучше людей, — «кроме, пожалуй, того, чтобы быть человеком».

Оба эксперта считают саму формулировку скорее риторической, чем измеримой.

Сергей Карелов назвал эту формулировку чисто медийной, поскольку «какая-либо формальная оценка тут невозможна». Он, впрочем, отметил, что интуитивно сказанное Маском понятно и исследователям, и широкой аудитории — имеется в виду, что ИИ будет интеллектуально «выделывать такое, на что никто на Земле не способен (хоть в одиночку, хоть сообща)».

Алексей Лукацкий с прогнозом не соглашается, поскольку «суммарный человеческий интеллект» не является измеряемой величиной:

«Маск прав в том, что при существующих трендах роста вычислительных мощностей и алгоритмической сложности ИИ интеллектуальная мощь машин растет экспоненциально. Но из этого не вытекает, что она превысит совокупный человеческий разум, который пока никто не научился вычислять, в отличие от того же IQ».

Лукацкий предлагает переформулировать тезис аккуратнее — к началу 2030-х вполне возможно появление ИИ-систем, которые будут превосходить почти любого отдельного человека по очень широкому спектру интеллектуальных задач.

Десять-двадцать процентов за то, что человечество погибнет

Минтон Беддоус напомнила Маску его же слова десятилетней давности — тогда он называл рекурсивное самоулучшение ИИ тем, что пугает его больше всего, а людей при таком сценарии сравнивал с «домашними лабрадорами» искусственного разума. В 2023 году он подписал письмо с призывом притормозить разработку ИИ, а год назад оценивал вероятность гибели человечества от «роботов-убийц» в 10-20%. Сейчас, заметила она, он выглядит куда спокойнее.

Маск ответил, что риск никуда не делся и он не нулевой, но его философский вывод — смотреть на светлую сторону, поскольку остановить этот импульс все равно невозможно. Более того, по его словам, даже будь кнопка, способная остановить разработку ИИ, нажимать ее, вероятно, не стоило бы. Он напомнил, что сам создавал OpenAI как противовес монополии Google, из OpenAI затем выделилась Anthropic, разработчик ИИ Claude, — и в итоге его собственные действия только ускорили развитие искусственного интеллекта, хотя он этого не планировал. «Не можешь победить — присоединяйся», — резюмировал Маск.

Карелов подчеркивает, что за цифрой 10-20% в пользу гибели человечества из-за ИИ не стоит какой-то четкий расчет:

«Эта формулировка тоже чисто медийная (какая-либо формальная оценка невозможна). Подсчеты делаются опросами широкого спектра специалистов, и это означает, что большинство опрошенных думают, что вероятность гибели человечества из-за ИИ составляет 10-20%».

Лукацкий с самой возможностью такого исхода согласен, но тоже указывает на природу числа:

«10-20% Маска — это не результат статистической модели, так как у нас нет набора из 100 предыдущих цивилизаций, создавших AGI, из которых 17 погибли. Это скорее экспертная субъективная вероятность».

Он указывает, что в большом опросе 2778 исследователей ИИ медианная оценка вероятности того, что продвинутый ИИ приведет к человеческому вымиранию или столь же плохому исходу, находилась примерно на уровне 5%, а от трети до половины опрошенных в зависимости от формулировки давали 10% и выше.

Причин у такого исхода Лукацкий насчитывает несколько:

• злоупотребление ИИ при создании биологического, кибернетического и ядерного оружия;
• потеря контроля над ИИ, который рассматривает человека как препятствие в решении поставленных этим же человеком задач;
• конкурентная гонка, из-за которой системы разворачивают раньше, чем научились их контролировать;
• рекурсивное самоулучшение, резко ускоряющее в том числе и негативное развитие;
• каскадный эффект, приводящий к системной катастрофе даже «без восстания машин».

Конкуренты должны проверять друг друга, а государство вмешиваться в крайнем случае

Маск рассказал, что несколько часов обсуждал с Демисом Хассабисом, сооснователем лаборатории Google DeepMind, его предложение о создании частно-государственного регулятора ИИ. Собственная рекомендация Маска была скромнее — ведущим ИИ-компаниям стоит хотя бы раз в несколько недель созваниваться и обсуждать вопросы безопасности, а перед выпуском принципиально более мощной модели давать конкурентам неделю-две на тестирование ее через API. Он считает, что именно конкуренты, а не чиновники без глубокого понимания технологий, способны заметить проблему и не постесняются потребовать отложить релиз. В качестве аналогии Маск привел Американскую ассоциацию кинокомпаний, которая сама присваивает фильмам возрастные рейтинги.

Государство, по его мнению, должно вмешиваться только тогда, когда компания отказывается устранять выявленную опасность. Маск напомнил историю с моделью Claude Mythos — по его версии, риски в области кибербезопасности обнаружили не чиновники, а Amazon, представители которой и позвонили в Белый дом.

На вопрос, возможно ли такое сотрудничество между людьми, «которые публично оскорбляют друг друга», Маск ответил: «В конце концов, если надо будет поговорить — поговорим. Отложим личные разногласия ради блага мира». Он также считает, что к такому механизму нужно подключить китайские компании, работающие над передовыми моделями.

Китай, электричество и литография

Маск уверен, что при нынешних скромных вычислительных мощностях китайские компании показывают слишком хорошие результаты, — а значит, получив много компьюта, они с большой вероятностью станут лидерами. (Компьютом в индустрии называют совокупный объем вычислительных ресурсов, доступных для обучения и работы моделей, то есть количество специализированных чипов и производительность, которую они выдают). Ограничителей для ИИ он видит два: электричество и чипы. Китай, по его словам, уже производит больше электроэнергии, чем США, Европа и Индия вместе взятые, и в перспективе выйдет на вчетверо большие показатели, чем Соединенные Штаты. При этом сам Китай ограничен в плане передовых чипов из-за американского экспортного контроля, а мир за его пределами — объемом энергии и доступностью охлаждения. Маск добавил, что Китай ближе к решению проблемы литографии, чем принято думать, и упомянул сильные китайские робототехнические компании, чьи бойцовские турниры роботов он находит весьма занятными.

Карелов согласен с оценкой ключевых факторов:

«В чем-то Китай уже перегнал (например, в плане открытых моделей). В чем-то отстает (например, в литографических машинах для производства чипов — „есть железо — участвуй в гонке, нет железа — кури в сторонке“). Наличие железа (высокопроизводительных чипов) и электричество — действительно, два решающих фактора на горизонте пары лет. Как будет дальше, не знает никто».

Лукацкий признает мощь китайской энергетики — страна производит более чем вдвое больше электроэнергии, чем США, и за последнее десятилетие ее генерация росла примерно на 6% в год. Но приравнивать прогресс ИИ к генерации электричества он не считает правильным:

«Это все равно что приравнивать военную мощь к обладанию нефтяными запасами. ИИ-стек сегодня — это энергия + электросети + дата-центры + ускорители + память + модели + данные + алгоритмы + стек ПО + таланты + капитал».

Он отмечает, что рейтинг Stanford AI Index 2026 показывает, что США в 2025 году создали 59 ИИ-моделей, а Китай — 35, при этом Китай лидирует по числу научных публикаций, цитированию и патентам. Разрыв в качестве моделей почти исчез — к марту 2026 года лидирующая американская модель опережала китайскую всего примерно на 2,7%, причем американские и китайские модели уже несколько раз менялись местами на вершине рейтингов. Зато инфраструктурный разрыв остается огромным: Stanford AI Index 2026 оценивает число дата-центров в США в 5427, более чем в десять раз больше любого другого государства.

Самым болезненным вопросом Лукацкий называет чипы, поскольку без современной микроэлектроники дешевая электроэнергия сама по себе мало помогает — «достаточно посмотреть на Россию в этом вопросе». По его прогнозу, Китай вполне способен достичь технологического паритета по ИИ-моделям гораздо раньше, чем многие ожидали еще два-три года назад, но сама постановка вопроса «перегнать США по ИИ» неудачна. Лидировать можно одновременно в разных вещах, говорит он. США может это делать в фундаментальных моделях, чипах и фундаментальных ИИ-компаниях, Китай — во внедрении, производстве, роботизации и масштабе. Лукацкий замечает, что робототехника с производством могут оказаться для Китая даже важнее очередных +3% в очередном бенчмарке.

ИИ уже пишет код лучше 90% разработчиков

Говоря о вытеснении людей с рынка труда, Маск заявил, что ИИ уже пишет код лучше «как минимум 90% профессиональных инженеров-программистов» и скоро дойдет до 99%, а затем достигнет «уровня Stockfish» — шахматного движка, который обыгрывает Магнуса Карлсена даже на телефоне. По его словам, дорога будет ухабистой, потому что ИИ сможет выполнять любую работу лучше любого человека, и в первую очередь это касается всего, что делается за компьютером или с телефона.

Здесь мнения экспертов расходятся. Если Карелов полностью соглашается с Маском, то Лукацкий считает, что бизнесмен совершает классическую подмену — способность хорошо выполнить задачи по программированию не равна способности быть хорошим инженером:

«На специально поставленной задаче современный ИИ действительно может обойти огромное количество программистов. Но инжиниринг ПО включает еще понимание требований + архитектуру + работу с устаревшими технологиями + переговоры + учет компромиссов + безопасность + эксплуатацию + отладку + ответственность + сопровождение годами».

На имеющихся бенчмарках тезис Маска пока не подтверждается, отмечает Лукацкий, но прогресс действительно «бешеный», так что слова бизнесмена могут стать правдой намного быстрее, чем кажется.

Изобилие, отмена денег и универсальный высокий доход

Самый смелый прогноз Маска касается экономики. Наиболее вероятным исходом ИИ-гонки он называет изобилие, когда любой сможет получить что угодно. Экономику он предлагает понимать как связку цифрового и физического интеллекта — цифровому не хватает «конечных эффекторов», роль которых сыграют человекоподобные роботы, и вместе, по его мнению, они дадут «квазибесконечную экономику».

Учитывая это, он прогнозирует, что в 2036 году деньги не будут иметь значения, ведь они нужны только для товаров и услуг. Работу Маск сравнил с садоводством — овощи в магазине будут лучше выращенных своими руками, но заниматься грядками приятно. Тем, кто лишится заработка, он предлагает выплачивать универсальный высокий доход, а на вопрос об источнике средств ответил, что казначейству следует просто «выписывать людям чеки». Инфляции он не опасается — по его словам, если выпуск товаров и услуг растет быстрее денежной массы, проблемой станет как раз дефляция. Налоги в таком мире, по его словам, тоже станут во многом нерелевантны, хотя, как говорит он, сейчас ему приходится платить около 45%, что в итоге выльется в триллионные выплаты

Карелов считает саму постановку вопроса устаревшей:

«Экономика гибридного общества людей и ИИ работает по иным законам, чем экономика людей (и эти законы пока лишь нащупываются). „Взрывного роста производства товаров и услуг“ не будет. И главный тормоз — не ИИ, а люди, их способность работать с ИИ в интеллектуальном контуре, инерция старых бизнес-моделей, отсутствие новых институтов и мышление в рамках старых подходов (типа универсального высокого дохода), которые так же теперь нерелевантны, как танковые баталии а-ля Курская дуга в современной войне».

Лукацкий признает логику Маска, но не соглашается с выводом. Дефицит, по его словам, исчезает не вообще, а лишь для отдельных факторов производства:

«А как быть с дефицитом внимания, энергии, редких металлов, времени людей, политического влияния, экологических ресурсов и т.п.? А значит, главное правило экономики никуда не исчезает — если желающих получить ресурс больше, чем самого ресурса, требуется механизм распределения, которым и являются преимущественно деньги».

При этом Лукацкий считает, что если не фокусироваться на отдельных прогнозах, Маск говорит о реальном переходе. Он происходит, по его словам, от мира, где главный ограничитель экономики — человеческий труд, к миру, где им становятся вычислительные мощности, энергия и физические ресурсы. Если интеллектуальный труд начнет масштабироваться как вычисления, а физический — как роботы, экономика действительно поменяется фундаментально, рассуждает он:

«И если ИИ действительно станет лучше людей в создании ИИ и программного обеспечения, то переход от экспоненциального роста вычислений к экспоненциальному росту способности создавать новые технологии — это тот самый механизм, который одновременно объясняет и его фантастические прогнозы экономического роста, и его страх перед потерей контроля. Это уже классическая идея intelligence explosion, но пока это только идея».