Билл Гейтс опубликовал на своем сайте Gates Notes эссе «Турбулентная эпоха ИИ — и критические решения, которые предстоит принять» (A turbulent AI era — and critical choices to make). В нем основатель Microsoft предупреждает: искусственный интеллект может стать либо величайшим инструментом выравнивания возможностей в истории, либо худшим источником несправедливости — и все будет зависеть от решений, принятых в ближайшие годы.
По мнению Гейтса, сравнения ИИ с прошлыми технологическими революциями — вроде перехода от аграрной экономики к офисной работе — занижают реальный масштаб грядущих изменений. Прежние трансформации растягивались на поколения и порождали новые виды труда, требующие человеческого суждения. ИИ же способен напрямую замещать когнитивную работу человека сразу в нескольких сферах — праве, медицине, обслуживании клиентов, разработке ПО и производстве, причем быстрее, чем вытесненные работники успеют найти новые роли.
Ключевой тезис эссе — отсутствие подготовки к переходу. Гейтс прямо пишет, что не видит доказательств того, что лидеры, эксперты и общество адекватно осмысливают вызовы новой эпохи, и что сейчас нет плана для смягчения перехода в эпоху ИИ. Он подчеркивает, что даже при самом благоприятном сценарии этот переходный период станет одним из самых турбулентных в истории человечества.
Риски, которые видит Гейтс
Среди угроз, которые перечисляет Гейтс, — потеря целых категорий рабочих мест (под ударом в первую очередь окажутся продажи, служба поддержки, разработка ПО и труд помощников юристов), рост мошенничества и правдоподобных дипфейков, снижение порога для кибератак на критическую инфраструктуру, упрощение создания опасных патогенов, принятие военных решений автономными системами без участия человека, а также фундаментальные изменения в том, как растут дети. Отдельно он ссылается на исследование Стэнфорда и Карнеги-Меллон, показавшее, что более интенсивное и эмоционально вовлеченное использование ИИ-компаньонов связано с ухудшением самочувствия — особенно у людей с небольшим кругом общения. Гейтс также упоминает предварительные данные о снижении критического мышления у активных пользователей ИИ, причем эффект сильнее выражен среди молодежи.
При этом Гейтс — который признает, что сохраняет финансовые связи с технологической индустрией, — подчеркивает и позитивный потенциал ИИ: по его словам, технология способна ускорить прогресс в решении важнейших технических задач человечества, включая обеспечение надежной чистой энергии, сельское хозяйство, здравоохранение и образование.
Что предлагает Гейтс
Не рассчитывая на глобальную договоренность о замедлении темпов развития ИИ (хотя и заявляя, что поддержал бы такой план, если бы он появился), Гейтс предлагает три направления действий. Первое — создать новые институты, как национальные, так и международные: по его мнению, ни одно существующее агентство не было спроектировано для технологии, одновременно затрагивающей занятость, безопасность, здравоохранение, энергетику и выборы, поэтому нужны национальные координационные органы и новая международная организация — по аналогии с системами инспекций ядерного оружия, авиационных норм и озоновых соглашений. Второе — ввести «зарезервированные для человека» рабочие места (Human Reserved jobs), категории труда, сознательно оставленные за людьми. Третье — обложить ИИ и роботов налогом как один из механизмов перераспределения выгод от автоматизации.
Отдельно Гейтс высказывается о роли ведущих держав. Он согласен с другими экспертами в том, что лидирующую роль в выработке правил регулирования должны взять на себя США, но при этом подчеркивает, что необходимо определить критерии, по которым будут приниматься решения о регулировании. При этом он не сводит вопрос контроля к одним США — Гейтс намерен обсудить свои идеи по регулированию ИИ с председателем КНР Си Цзиньпином, поскольку без участия Китая как второй технологической сверхдержавы выстроить эффективную международную систему контроля вряд ли получится.