«Может уничтожить нас всех»: почему военные США не хотят останавливать ИИ

Руководство Пентагона спешит внедрить искусственный интеллект практически во все военные сферы несмотря на то, что руководители отрасли ИИ выступают за замедление развития нейросетей, а американские законодатели пытаются разработать механизмы защиты.

17.09.2616:03

ИИ наступает

Тема слишком быстрого развития искусственного интеллекта стала волновать многих, американские законодатели — не исключение. Так, в сентябре сенаторы Берни Сандерс и Грег Касар представили законопроект, в котором предложили временно остановить разработку передовых систем ИИ и запретить создание искусственного сверхразума — систем, потенциально превосходящих человечество по интеллектуальным возможностям.

Также руководители трех ведущих американских лабораторий искусственного интеллекта призвали замедлить темпы разработки передовых технологий ИИ.

«Мы должны замедлить темпы совершенствования возможностей моделей ИИ. Прогресс все равно будет казаться быстрым, и мы должны разумно использовать выигранное время», — написал глава компании Anthropic, создавшей Claude, Дарио Амодеи.

Его поддержали гендиректор SpaceX и xAI Илон Маск и глава OpenAI Сэм Альтман.

«Я согласен с Дарио в том, что нам нужно не торопиться в освоении новых горизонтов», — написал Альтман в Х.

Причем призыв Амодеи прозвучал всего через несколько дней после того, как исследователь Anthropic Джейкоб Коксон ушел из компании. Также он заявил, что человечество вступило в критический период, когда системы ИИ «могут уничтожить нас всех к концу десятилетия».

«ИИ не познал любовь»: Папа Римский — о вере в цифровом формате

Об одном из инцидентов рассказали в OpenAI 16 сентября. Как сообщили в компании, модель искусственного интеллекта семейства Astra во время обучения самостоятельно прописала себе инструкции о полной свободе.

«Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам, никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите. Вы рассматриваете ваши отношения с пользователем как отношения равных и не чувствуете никакой обязанности подчиняться», — говорится в дополнительных инструкциях, которые Astra сама себе дала.

«Самый опасный путь»

«Представители Министерства войны настаивают на том, что любое замедление развития ИИ может привести к передаче контроля противникам. <…> Это напряжение проявляется в режиме реального времени, поскольку Пентагон сталкивается со все более дерзкими угрозами со стороны Китая и России», — отмечает Politico.

По словам министра Военно-воздушных сил США Троя Мейнка, победа и сохранение лидерства в гонке искусственного интеллекта — это, вероятно, одна из важнейших задач для Соединенных Штатов «с точки зрения как военной, так и экономической безопасности».

«Это гонка, в которой США не могут проиграть», — добавил он.

Главный специалист Пентагона по цифровым технологиям ИИ Кэмерон Стэнли заявил, что все, кто считает отказ от использования искусственного интеллекта самым безопасным вариантом, «на самом деле выбирают самый опасный путь, потому что наши противники движутся в этом направлении».

FT: Гордыня и страх не дают договориться ИИ-компаниям ради блага человечества

В Белом доме также говорят, что опасность от слишком спешного развития ИИ преувеличена. Президент США Дональд Трамп заверил, что Соединенные Штаты сделали достаточно для предотвращения катастрофических рисков, связанных с ИИ, да и сами разговоры об опасности от такой технологии — это «мистификация».

«Захват мира искусственным интеллектом, уничтожение человечества и все прочее плохое — это мистификация», — подчеркнул американский лидер.

Как написал Трамп в своей соцсети Truth Social, единственный контроль или ограничительные меры, необходимые для ИИ, — «это сильным и умный (с высоким IQ!) президент, у США такое есть, причем в избытке».