Основатель компании SpaceX Илон Маск, сооснователь Apple Стив Возняк и еще более 1000 экспертов призвали приостановить обучение более мощных систем искусственного интеллекта (ИИ), чем недавно представленная GPT-4. Открытое письмо опубликовано на сайте некоммерческой организации «Future of Life».
В письме говорится, что системы ИИ могут представлять серьезные риски для человечества, поэтому необходимо разрабатывать и управлять ими с осторожностью. Однако вместо этого лаборатории ИИ оказались втянуты в бесконтрольную гонку за разработкой и внедрением все более мощных «цифровых умов», которые даже их создатели не могут контролировать.
«Современные системы ИИ становятся конкурентоспособными по сравнению с человеком в решении общих задач, и мы должны спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места? (…) Должны ли мы рискнуть потерей контроля над нашей цивилизацией?» — вопрошают авторы письма.
По их мнению, мощные системы ИИ можно разрабатывать, только убедившись, что их эффект будет положительным, а риски управляемыми. «Поэтому мы призываем все лаборатории ИИ немедленно приостановить, по крайней мере на шесть месяцев, обучение системам ИИ, более мощным, чем GPT-4», — говорится в обращении.
За это время, по словам подписантов, специалисты должны принять протоколы безопасности для разработки ИИ.
Маск уже высказывал опасения из-за разработок ИИ. Как заявил миллиардер в интервью New York Times, «умные люди не думают, что компьютер когда-либо сможет быть таким же умным, как они», но это ошибочное представление. «Мы приближаемся к ситуации, когда ИИ станет значительно умнее людей», — сказал Маск, добавив, что это может произойти в течение пяти лет.