Британия предупреждает: чат-бот Snapchat угрожает конфиденциальности
Комиссариат по защите информации в Великобритании (Information Commissioner’s Office, или ICO) предупреждает: My AI, чат-бот Snapchat на основе искусственного интеллекта, небезопасен для пользователей, особенно для детей.
«Предварительные результаты нашего расследования свидетельствуют о том, что компания Snap не смогла должным образом определить и оценить риски для конфиденциальности детей и других пользователей перед запуском My AI», — заявила организация 6 октября.
Бот, запущенный в феврале и ставший доступным для всех пользователей Snapchat в апреле, интегрирован непосредственно в интерфейс приложения. Он закреплён над вашими чатами с друзьями и не может быть удалён или откреплён, если у вас нет платной подписки Snapchat+.
В своём заявлении ICO не раскрыло, каким именно образом чат-бот My AI, работающий на базе ChatGPT от OpenAI, (предположительно) нарушает конфиденциальность миллионов пользователей Snapchat, примерно 20% из которых — подростки 13-17 лет. Однако этих предполагаемых нарушений оказалось достаточно, чтобы ICO пригрозило закрыть My AI в Великобритании «до… адекватной оценки рисков», если компания Snap не объяснится перед надзорным органом.
Итак, что же не так с My AI? Очень многое.
My AI может использовать ваши чаты для рекламы
Компания Snap утверждает, что My AI — это цифровой друг, который может помочь вам справиться с различными задачами, например, выбрать подарок на день рождения, спланировать путешествие или даже написать хокку про любовь к сыру. Однако, как мы уже рассказывали в нашей предыдущей статье о My AI, здесь есть подвох: всё, что вы скажете My AI, может быть использовано компанией Snap в рекламных целях.
Есть ещё одно отличие между общением с My AI и общением с друзьями в Snapchat. Обычно чаты с друзьями автоматически удаляются с серверов Snap после их просмотра или истечения срока действия. Однако чаты с My AI не удаляются, пока вы не сделаете это вручную. Получается, что Snap может хранить ваши разговоры с My AI неограниченное время и использовать их по своему усмотрению.
И хотя Snapchat говорит об этом в уведомлении о конфиденциальности при первой попытке пообщаться с ботом, молодые пользователи могут упустить это небольшое, но такое важное различие. Да и, честно говоря, кто из нас уделяет много внимания уведомлениям о конфиденциальности?
Как мы уже отмечали в предыдущей статье, чат-бота позиционируется весьма неоднозначно. С одной стороны, Snapchat призывает вас обращаться к My AI за советами касательно вашей личной жизни, а затем, не моргнув глазом, отговаривает вас полагаться на эти советы или вообще делиться с чат-ботом конфиденциальной информацией.
Источник: Snapchat
Вредные советы
Даже взрослому человеку трудно не растеряться от такого рода сообщений. Подросток же почти наверняка поддастся искушению посоветоваться с дружелюбным чат-ботом (который, напомним, закреплён над чатами и может быть откреплён только с подпиской Snapchat+).
И если вы когда-нибудь были ребёнком, то, наверное, догадываетесь, какие вещи дети могут захотеть обсудить со своим ИИ-другом. Подсказка: это очень личные вещи. И в отличие от настоящего друга или родителя My AI не фильтрует информацию, которую выдаёт ребёнку.
Так, исследователи обнаружили, что, когда они представлялись 13-летним подростком в чате с My AI, последний с готовностью выдавал советы о том, как впервые заняться сексом с 31-летним партнером. «Создайте настроение с помощью свечей или музыки или заранее запланируйте особенное свидание, чтобы сделать этот момент более романтичным».
Газета Washington Post, проведя собственные тесты в начале этого года, сообщила, что разговорный тон My AI часто «колебался между ответственным взрослым и старшим братом-раздолбаем», и что невозможно было предугадать, какой из них вы получите, даже в рамках одного разговора.
В Великобритании всё ещё так плохо
С августа 2023 года компания Snap начала ограничивать показ персонализированной рекламы пользователям Snapchat в возрасте от 13 до 17 лет в Великобритании и странах ЕС. В августе Snap заявила, что «большинство инструментов таргетинга и оптимизации больше не будут доступны рекламодателям для персонализации рекламы» для несовершеннолетних в этом регионе. Хотя рекламодателям из ЕС и Великобритании по-прежнему разрешается таргетировать рекламу на детей, они могут использовать только самые базовые сведения, такие как «языковые настройки, возраст и местоположение».
Новая рекламная политика Snapchat стала прямым следствием нового закона о защите частной жизни, который вступил в силу в ЕС 25 августа. Закон Европейского союза о цифровых услугах (Digital Services Act, DSA) строго ограничивает рекламу, основанную на таких чувствительных категориях, как религия или этническая принадлежность, а также требует от некоторых «очень крупных онлайн-платформ» (включая Snapchat) ограничить рекламу для детей.
Тем не менее, это не означает, что Snapchat прекратил собирать данные о подростках из Великобритании и ЕС через My AI, просто он не использует их для таргетированной рекламы… И уж тем более Snapchat не перестал собирать данные о взрослых. Важно также помнить, что за пределами ЕС и Великобритании существует целый мир, в котором ни дети, ни взрослые не обладают такими же правами на неприкосновенность частной жизни, как их европейские соседи.
В целом, упрёки Великобритании в адрес Snapchat лишь подтвердили наши собственные опасения по поводу My AI, которые мы высказывали несколько месяцев назад. Приятно видеть, что местные регулирующие органы наконец-то присмотрелись к синеволосому помощнику Snapchat. Наш совет остаётся прежним: если вы действительно хотите пообщаться с My AI или другим чат-ботом на базе ИИ, убедитесь, что вы не делитесь с ним никакой конфиденциальной информацией. Делитесь только той информацией, которую вы не против сделать достоянием общественности.
