На прошлой неделе математический мир взбудоражило громкое заявление о решении почти 200-летней проблемы, связанной с уравнениями Навье — Стокса, входящими в список «задач тысячелетия». Впервые это удалось с помощью искусственного интеллекта, что вроде бы должно было стать поводом для всеобщего торжества. Вместо этого, как пишет в колонке для Financial Times журналистка Мадхумита Мурджия, новость обернулась скандалом из-за того, кому принадлежат лавры.
На решение претендуют математик из Нью-Йорка и его соавтор из Anthropic, которые были близки к разгадке, и их конкурент OpenAI, который потратил на задачу миллионы долларов и задействовал около 10 тыс. AI-агентов. Этот спор, отмечает Мурджия, далеко не первый — он лишь очередной эпизод в затяжном конфликте между двумя главными претендентами на создание сверхразумного ИИ.
Автор колонки связывает эту историю с более широким вопросом: способны ли компании и их основатели хоть на время отложить соперничество ради общего блага. Тема обострилась после того, как сооснователь Anthropic Дарио Амодей призвал замедлить темпы развития ИИ — на фоне тревожных предупреждений о безопасности со стороны текущих и бывших сотрудников отрасли. Призыв неожиданно поддержали глава OpenAI Сэм Альтман и Илон Маск — редкий случай единства между обычно враждующими лагерями. При этом, подчеркивает Мурджия, никаких конкретных механизмов замедления никто не предложил: обе компании продолжают обучать и выпускать новые поколения моделей.
Раскол между OpenAI и Anthropic имеет личную подоплеку. Anthropic основала в 2021 году группа бывших сотрудников OpenAI, которые покинули создателя ChatGPT, будучи убеждены, что для развития ИИ нужен более ответственный подход. С тех пор Anthropic выстраивает себе имидж хозяина безопасного ИИ, якобы совмещая социальную миссию с коммерческими целями.
Годами компании открыто соперничают за таланты, общественное признание, технологическое лидерство и коммерческий успех своих продуктов — ChatGPT и Claude. Теперь, пишет Мурджия, они синхронно готовятся к выходу на биржу, рассчитывая на оценку выше $1 трлн каждая. Заявки в Комиссию по ценным бумагам и биржам США (SEC) компании подали с разницей всего в неделю.
Сотрудники двух компаний регулярно обмениваются колкостями в соцсети X, а их руководители — публичной критикой друг друга.
В феврале Альтман и Амодей демонстративно отказались взяться за руки на общем фото с премьер-министром Индии Нарендрой Моди во время саммита по ИИ — в отличие от остальных лидеров, которые держались за руки и синхронно подняли их вверх.
Подобные эпизоды можно было бы списать на обычные корпоративные трения, если бы не то, что вместо совместной работы над снижением реальных рисков ИИ компании продолжают наращивать гонку за более мощными моделями. В феврале Anthropic публично выступила против использования ИИ Пентагоном для автономного летального оружия и массовой слежки, после чего администрация Трампа демонстративно разорвала контакты с компанией, что обернулось судебными разбирательствами. OpenAI не упустила момент и заключила собственную сделку с Пентагоном, заявив, что согласовала меры безопасности самостоятельно. Вслед за ней аналогичный шаг сделала Google.
Показательно и то, пишет колумнистка, что в этом году Anthropic сама отступила от части обязательств собственной политики «ответственного масштабирования» — документа, который предполагал приостановку или отказ от выпуска моделей при отсутствии гарантий безопасности. Причиной компания назвала давление конкурентов и недоверие к одностороннему соблюдению подобных обещаний.
Мурджия задается вопросом: почему компании продолжают форсировать развитие ИИ и рост выручки, признавая при этом потенциально катастрофические риски для человечества? Отчасти ответ — идеологический: корпорации представляют развитие технологии как экзистенциальный и моральный вопрос, и каждая считает именно себя достойной доверия — потому что конкурент, по их мнению, недостаточно ответственен. А если кто-то один нажмет на тормоз, в компаниях опасаются, что итог может оказаться только хуже.
Один из бывших исследователей Anthropic, с которым говорила журналистка, описал эту динамику так: «Гордыня. Страх, что следующий сделает это еще хуже. Плюс убежденность в собственном нарративе о том, что именно вы — хорошие парни».
При этом, признает Мурджия, руководители AI-компаний сами говорят: если и существует момент, когда еще можно отложить личное соперничество и найти общий путь, то это сейчас. И слишком многое поставлено на карту.