Всё, что вы говорите Alexa, помогает обучать ИИ — отказаться от этого невозможно
Разве не удобно жить с голосовым помощником? Можно свободно заниматься своими делами — попросить поставить таймер или напомнить о чём-то, добавить что-то в список покупок или быстро получить информацию.
И они становятся всё умнее и умнее. Alexa даже научилась подражать голосам умерших родственников — спорная функция, как с этической точки зрения, так и с точки зрения конфиденциальности. С развитием генеративного ИИ голосовые помощники становятся ещё более совершенными, применяя более индивидуальный подход к каждому пользователю и поднимая новые вопросы о конфиденциальности.
Прежде эти вопросы снимались тем, что голосовые записи могли обрабатываться локально на вашем устройстве. У вас была возможность отключть отправку голосовых данных на серверы Amazon. Но с 28 марта 2025 года Amazon убрал опцию «Не отправлять голосовые записи» для нескольких устройств Echo, включая Echo Dot 4-го поколения, Echo Show 10 и Echo Show 15. Это изменение означает, что все голосовые команды — и фактически всё, что слышит ваш Echo, — теперь будут передаваться и обрабатываться в облаке Amazon.
По словам Amazon, это изменение необходимо для работы новых генеративных функций ИИ в Alexa. Голосовые данные помогут обучить Alexa+, голосового помощника Amazon нового поколения, который будет запущен в 2025 году.
Вопросы конфиденциальности
Хотя Amazon утверждает, что записи голоса шифруются и удаляются после обработки, обновление вызвало новые опасения пользователей по поводу конфиденциальности.
Мы уже рассматривали многие из этих вопросов, но поскольку ситуация изменилась, стоит вернуться к некоторым из них.
Проблема 1: утечка данных
Раньше голосовые данные хранились в основном на устройстве пользователей, что означало, что любые потенциальные утечки ограничивались их устройствами. Теперь же локальная обработка будет невозможна, а все данные будут отправляться на серверы Amazon и храниться в облаке.
Это значительно повышает риск утечки, превращая то, что раньше было проблемой на уровне персонального устройства, в централизованную уязвимость в облаке. Теперь в результате одного взлома могут быть скомпрометированы данные миллионов людей.
Проблема 2: реальные люди могут подслушивать
Как именно будет работать новая система обработки и обучения Alexa на основе ИИ? Будет ли она полностью автоматизирована, или в ней будут участвовать люди? Это не просто паранойя — прецеденты уже были. Ещё в 2019 году стало известно, что тысячи сотрудников Amazon имели доступ к записям Alexa пользователей и прослушивали их, чтобы «улучшить сервис».
«Мы используем только крайне малую выборку записей голоса Alexa, чтобы улучшить клиентский опыт. Например, эта информация помогает нам обучать наши системы распознавания речи и понимания естественного языка, чтобы Alexa могла лучше понимать ваши запросы, и чтобы сервис работал хорошо для всех».
— представитель Amazon
Поскольку Alexa+ теперь обучается на ещё большем количестве данных для поддержки генеративных возможностей ИИ, неясно, сократилось или увеличилось количество человеческих проверок.
Проблема 3: удаление данных
Что попадает в облако, остаётся в облаке? Amazon утверждает, что вы контролируете ситуацию, и если вы отказались от сохранения голосовых записей (по умолчанию оно отключено), ваши данные будут удалены сразу после того, как Alexa завершит их обработку. Вот цитата из письма, которое Amazon разослал пользователям Echo:
Если вы не предпримете никаких действий, ваши настройки Alexa будут автоматически обновлены на «Не сохранять записи». Это означает, что, начиная с 28 марта, ваши голосовые записи будут отправляться и обрабатываться в облаке, а после того, как Alexa обработает ваши запросы, они будут удалены. Все ранее сохранённые голосовые записи также будут удалены.
Но вот в чём подвох — когда закончится эта обработка? Что именно подразумевается под «обработкой для обучения алгоритмов»? И как проверить, что все ваши данные действительно были удалены после упомянутой «обработки»?
Заключение
В конце концов, компании не просто собирают ваши данные — они процветают на них. Поскольку генеративный ИИ становится новым полем битвы, ваш голос, как и информация о ваших привычках и ежедневных действиях, ценны как никогда. Все команды, которые вы раньше тихо сообщали своему устройству на кухне, теперь являются важными данными для мощных моделей машинного обучения.
Amazon не одинок в этом вопросе — почти каждый технологический гигант стремится собрать больше пользовательских данных ради «улучшения ИИ». Но какова цена для нас, пользователей? Облако может быть невидимым, но последствия того, чем вы делитесь с ним, вполне реальны.
Конечно, единственный способ на 100% защитить свои данные — это вообще не пользоваться цифровыми сервисами, но мы предлагаем совсем другое. В конечном итоге, решение о том, доверять ли компании свои данные, принимаете только вы. Наша цель — просто пролить свет на существующие риски, чтобы ваш выбор был осознанным и продуманным. А в наше время, когда удобство часто идёт в ущерб конфиденциальности, быть информированным как никогда важно.
