Компания Meta* поручала живым подрядчикам часть телефонных звонков, которые пользователи передавали ее ИИ-ассистенту Muse. Функцию испытывали внутри компании, выяснило Reuters. После жалоб сотрудников на риск раскрытия личных данных и инцидента с высказыванием оператора тест приостановили.
Muse умеет отправлять письма, совершать покупки и бронировать поездки. Недавно Meta* начала внедрять и возможность звонить компаниям от имени пользователя: например, записаться в парикмахерскую, узнать о наличии товара или запросить стоимость услуги. После разговора приложение показывает расшифровку и краткий итог.
Именно со звонками внезапно возникла трудность. По внутреннему сообщению, с которым ознакомилось Reuters, Muse передавал поручения операторам: те, в свою очередь, набирали номер и доводили разговор до конца. Сотрудник Meta* рассказал, что при попытке связаться с его страховой компанией собеседники клали трубку, услышав, что им звонит ИИ. Руководитель подразделения Meta* сообщила коллегам, что в отдельных тестах операторы успешно выполняли 95—98% таких звонков — чаще, чем ассистент без их помощи.
Опцию с участием человека включили примерно половине сотрудников, задействованных во внутреннем испытании. Сотрудники могли отказаться от участия, записавшись в отдельную группу. Публичная функция звонков уже постепенно становилась доступна пользователям приложения, но эксперимент с передачей поручений подрядчикам проводился внутри Meta*.
Часть сотрудников возразила: поручение может содержать сведения, которые пользователь готов доверить приложению, но не постороннему человеку в колл-центре. Опасения стали особенно заметны на фоне заявлений Meta* о защите Muse. При запуске компания подчеркивала, что сессия каждого ассистента изолирована в собственной виртуальной машине, а пароли хранятся отдельно в защищенном хранилище.
Затем один из сотрудников, поручивший Muse договориться со своим интернет-провайдером о счете, обнаружил в расшифровке расистское высказывание подрядчика. Руководитель подразделения Meta* извинилась перед ним и сообщила, что этого оператора больше не допустят к проектам компании. Она также признала ошибкой начало испытания звонков с участием подрядчиков без надлежащего уведомления и заявила, что функцию пока отключили.
Представитель Meta* Дэниел Робертс заявил Reuters, что компания собирала отзывы, чтобы до возможного публичного запуска улучшить функцию и предусмотреть защиту данных. По его словам, доступной пользователям она станет только тогда, когда будет готова и компания сможет должным образом сообщить об участии операторов.
Для Meta* это не первый опыт участия людей в работе цифрового помощника. Reuters напоминает о прежнем ассистенте M в Messenger: по оценкам СМИ, значительную часть его заданий тоже выполняли операторы.
* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.