Глава Сбербанка Герман Греф считает недопустимым полностью доверять искусственному интеллекту (ИИ) военные решения из-за «незрелости» систем. Как передает корреспондент RTVI, так он ответил на вопрос сенатора Алексея Пушкова об ударе США ракетами по школе для девочек в Иране.
Во время заседания в Совете Федерации Пушков обратил внимание на один из наиболее известных последних примеров применения ИИ в военной сфере — запланированный искусственным интеллектом удар американской ракетной техники по школе девочек в Иране, где погибли около 200 человек.
«Каким образом будет происходить взаимодействие между контролирующими человеческими инстанциями и агентным ИИ в военной области, или человеческие инстанции будут фактически только потом анализировать, что наделал искусственный интеллект, когда уже все будет осуществлено?» — поинтересовался Пушков.
Греф отметил, что он не является экспертом в построении военных систем, но, по его словам, «во всех системах вводится, конечно, контрольное слово человека».
В любой современной войне скорость реакции является определяющей — скорость и точность выбора цели и скорость ее поражения, сказал он.
«Но при этом контроль человека является все равно ключевым. И мне кажется, по всем параметрам моральным, я не знаю, каким угодно, это должно сохраняться еще очень-очень долгий период времени», — прогнозирует эксперт.
Война, продолжил Греф, всегда несет большое количество ошибок, но, по его мнению, «одна из самых аморальных вещей — это позволить принятие автономных решений самими системами искусственного интеллекта».
«С учетом еще незрелости технологии, технология находится на ранней стадии своего развития, на мой взгляд, это просто недопустимо. Поэтому пока контроль человека — это просто то, что должно быть встроено внутри системы и является обязательным ее элементом», — заявил глава Сбербанка.
28 февраля под удар США попала школа для девочек на юге Ирана в Минабе, погибли 168 учениц, а также 14 учителей и сотрудников учреждения. МИД Ирана заявлял, что США ударили по школе для девочек крылатыми ракетами Tomahawk.
Чтобы нанести удар по целям в первые 24 часа атаки на Иран, американские военные использовали интеллектуальную систему анализа данных с интегрированным инструментом искусственного интеллекта Claude, пишет газета The Washington Post.