В процессе работы голосовой помощник Alexa от компании Amazon обучается командам и запросам, поступающим от пользователей. Однако как выяснили специалисты, для повышения эффективности функционирования цифрового ассистента производителем используются не только алгоритмические методики. Тысячи штатных и приглашённых работников Amazon прослушивают, о чём пользователи разговаривают вблизи устройств с голосовым помощником Alexa.
Такая возможность не скрывалась компанией и указывалась в технической документации Alexa. Однако рядовой пользователь вряд ли подозревал, что разговоры с Alexa и обычные домашние разговоры могут прослушивать в Amazon.
×
Обучение Alexa сопряжено с рядом трудностей, таких как различные языки общения, сленговые слова, диалекты и акцент. Поэтому для исправления ошибок голосового помощника привлекаются люди, расшифровывающие записи и передающие комментарии в отделы по разработке Alexa. Это традиционная схема обучения, которая используется и в Apple, и в Facebook и в Google.
Проблема с записями разговоров между пользователями и Alexa заключается в возможной утечке конфиденциальных сведений. Среди тысяч сотрудников, задействованных в расшифровке, были как постоянные, так и временные работники. К тому же некоторые разговоры могут позволить идентифицировать пользователей или носить конфиденциальную информацию. Также остаётся открытым вопрос длительности хранения записей и надёжность их защиты от взлома хакеров или недобросовестного персонала.
Как узнали журналисты, работники, задействованные в процессе расшифровки, обязаны информировать Amazon о подозрительных разговорах (домашнее насилие, изнасилование, преступление и проч.), чтобы компания своевременно сообщала об инцидентах в правоохранительные органы. Также сотрудники вели практику обмена необычными, комическими записями разговоров пользователей между собой в специальном чате. Там же они обсуждали непонятные неразборчивые фразы и т.п.
На статью журналистов из Bloomberg компания официально заявила, что правила работы с записями исключают возможность идентификации пользователей, а при нарушении норм сотрудники немедленно увольняли. Кроме того, прослушиванию подвергалось лишь небольшое количество записей, необходимых для повышения эффективности работы Alexa. Вся информация также защищена многофакторной аутентификацией и шифрованием.
Источник: bloomberg.com, theverge.com
