My AI вам не друг: как чат-бот на базе ИИ шпионит за вами, помогая таргетировать рекламу
Пользователи Snapchat привыкли к тому, что большинство сообщений, будь то тексты или снимки, отправленные в личных переписках, по умолчанию удаляются с серверов Snap после того, как их просмотрели или истёк срок их хранения. По крайней мере, так обещает политика конфиденциальности Snap. Заманчива мысль перенести эту логику и на My AI, собственного чат-бота компании, работающего на базе ChatGPT. Впервые он был представлен в феврале этого года как персонаж с фиолетовой кожей на основе ИИ, который может «посоветовать идеи подарков на день рождения для вашей лучшей подруги, спланировать поход на длинные выходные, предложить рецепт ужина» и многое другое. My AI преподносился как друг, которому вы можете отправить сообщение в любое время и в любом месте, например, когда вам одиноко или скучно.
Но несмотря на его милую внешность и готовность даже «написать хокку о сыре для вашего одержимого чеддером приятеля», не обманывайтесь, считая My AI другом: он тот ещё сплетник. My AI (или «Мой ИИ» в переводе) не только иногда бредит и не держит своё слово (например, получает доступ к вашему местоположению после того, как вы специально попросили его этого не делать), но и записывает и передаёт на сервер своего разработчика всё, что вы сказали ему в Snap, чтобы он мог таргетировать на вас рекламу.
My AI: друг, который ябедничает на вас и от которого нельзя избавиться
Когда Snap впервые представил My AI, он распространил его только среди обладателей подписки Snapchat Plus стоимостью 3,99 доллара в месяц. Два месяца спустя Snap, видимо, осознав потенциал My AI в увеличении доходов от рекламы, сделал его доступным для всех пользователей приложения. И хотя некоторые пользователи были искренне рады поиграться с очередной игрушкой на базе ИИ, другие были обеспокоены тем, как Snap навязывает им My AI: чат-бот прикреплён к вкладке чата приложения поверх всех разговоров с друзьями, и его нельзя открепить или удалить. Точнее, можно, только это платная услуга (!).
Прежде чем вы начнёте общаться с My AI — а удержаться от этого очень трудно, поскольку Snap сделал так, что скрыть его весьма непросто — он покажет вам уведомление о конфиденциальности «Say Hi to My AI». В нём говорится, что все сообщения с вашим чудаковатым ИИ-компаньоном «будут сохранены, если вы их не удалите, и могут быть использованы для улучшения продуктов Snap и персонализации вашего опыта, включая рекламу». При этом вас просят *«не делиться чувствительной или конфиденциальной информацией».
Но как насчёт советов о подарках на день рождения для вашего лучшего друга, личной информации о ваших приятелях (вспоминаем сырное хокку) и советов о маршрутах походов? Разве эта информация не слишком личная? Другими словами, похоже, Snapchat пытается убедить вас, что My AI ничем не отличается от вашего друга — даже если у него голубоватый оттенок кожи — и в то же время предупреждает вас не доверять ему ничего конфиденциального. Так что же всё это значит, Snap?
Эта неоднозначность привела к путанице: пользователи с удивлением обнаружили, что My AI знает о предыдущих разговорах с ними.
Snapchat столкнулся с ответной реакцией пользователей, которые хотят удалить бота — некоторые из них утверждают, что принудительное добавление My AI в их список чатов было *«серьёзным вторжением в частную жизнь».
Чтобы понять их недовольство, представьте, что у вас нет возможности удалить случайного незнакомца, который появился вверху списка ваших чатов в WhatsApp/Telegram/Signal — это бы очень раздражало. Snap, однако, отказался сдвинуться с места в этом вопросе.
Такое агрессивное продвижение в сочетании с присущим пользователям любопытством сделали My AI чрезвычайно популярным среди пользователей Snapchat. Последние поделились с ним тоннами личной информации, сообщает Snap.
Автомобили, вечеринки, образование и домашние животные: что люди рассказали My AI
Компания Snap сообщила, что 150 миллионов человек отправили более 10 миллиардов сообщений в My AI, что моментально подняло его в верхний эшелон пользовательских чат-ботов.
В недавнем сообщении в блоге Snap поделился подробностями того, о чём пользователи спрашивали My AI. Наиболее популярными темами были искусство и дизайн, планирование вечеринок к рождению ребёнка, свадеб и детских праздников, советы туристам, образование, рекомендации по ресторанам, косметика, одежда, домашние животные, автомобили, гаджеты, спорт и развлечения. Другими словами, пользователи спрашивали My AI обо всём. Вполне вероятно, что, получая советы от My AI, пользователи делились с ИИ-помощником огромным количеством личной информации, такой как возраст детей, местоположение дома, имена домашних животных, аллергия, размер обуви — список можно продолжать. И поскольку My AI позиционируется как ваш друг, а его политика хранения данных не совсем ясна (подробнее об этом позже), люди, вероятно, были более склонны делиться с ним подробностями своей личной жизни, чем с безликим неанимированным сервисом. Теперь эти данные могут быть использованы для персонализации рекламы.
Вот что Snap говорит об этом:
Мы можем использовать разговоры с My AI, чтобы улучшить оптимизацию, которую мы предлагаем рекламодателям — Snapchat LifeStyle Categories (SLCs), или «Категории стиля жизни». Эти категории основаны на таких факторах, как контент, который смотрит пользователь Snapchat. Новые сигналы из разговоров пользователя с My AI помогут нам повысить качество и глубину SLC, что в конечном итоге сделает релевантнее рекламу, которую пользователь видит в приложении.
Категории Snapchat LifeStyle — это группы пользователей со схожими интересами и поведением в приложении. Они позволяют рекламодателям выбрать группу, соответствующую их целям, и таргетировать на неё рекламу. Благодаря данным, которые Snap теперь может извлекать из чатов пользователей с помощью My AI, он может создавать более точные и специализированные группы, повышая эффективность рекламных кампаний и собственные доходы от рекламы (особенно с учётом того, что реклама появляется и в чат-боте My AI), но в то же время вызывая опасения за конфиденциальность пользователей.
Даже вынося за рамки тот факт, что значительная часть пользователей Snapchat может вообще не осознавать, что их разговоры с My AI не так уж приватны, остальным придётся постоянно переживать, что их данные могут попасть в общий доступ, их могут продать третьим лицам, взломать или потерять. Это вполне реальная перспектива, особенно если разговоры пользователей с My AI будут храниться по умолчанию, как это происходит сейчас.
Хитрая политика Snapchat: как не дать My AI шпионить за вами
Есть возможность вставить Snap палки в колёса в его стремлении завести на вас подробный рекламный профиль, который может приводить к навязчивой рекламе прямо в чат-боте и в других местах. Согласно Snapchat, весь контент, которым вы делитесь с My AI, «сохраняется до тех пор, пока вы его не удалите».
Если чат с My AI существует меньше суток, вы можете удалить его, просто нажав на сообщение. Однако если сообщение более старое, придётся преодолеть несколько препятствий. Путь удаления для iOS и Android немного отличается, но в обоих случаях сначала нужно зайти в «Настройки» и выполнить ещё как минимум два действия. Затем вам нужно будет подождать до 30 дней (!), пока сообщения будут удалены с серверов Snapchat, судя по срокам, указанным Snap.
Когда дело касается информации о местоположении пользователей, есть одна уловка. Snap утверждает, что My AI «не собирает никакой новой информации о местоположении» от пользователей, но он может получить доступ к информации о местоположении, которой пользователь уже согласился поделиться со Snap. И если пользователь отказывается делиться информацией о местоположении со Snapchat, может пройти некоторое время, прежде чем эта информация дойдёт до My AI. Snapchat признаёт, что «Если пользователи запретят Snapchat получать данные о своём местоположении, может потребоваться некоторое время, чтобы этот запрет вступил в силу и для My AI». Тревожная перспектива, особенно учитывая, что Snapchat утверждает, что конфиденциальность — это его «основополагающая ценность».
Подводя итог, можно сказать, что не существует надёжного способа помешать My AI собирать ваши данные, поэтому стоит дважды подумать, когда вы хотите подокучать синему ИИ-аватару своими личными переживаниями или получить совет по конфиденциальным вопросам. Между риском и наградой (или, в данном случае, риском и любопытством) всегда есть компромисс. И мерило у каждого своё.
Стоит ли рисковать конфиденциальностью ради общения с My AI?
Чат-бот My AI от Snapchat может показаться весёлым и доброжелательным способом получить советы и развлечься, общаясь с аватаром, управляемым искусственным интеллектом. Но за кулисами Snap анализирует ваши чаты, чтобы предложить вам персонализированную рекламу, которая может быть навязчивой или неуместной. Вы можете почувствовать себя уязвимым, особенно если учесть, что My AI рекламируется как друг, а не маркетинговый инструмент.
Более того, Snap не даёт возможности легко удалить данные, собранные My AI, что говорит о том, что Snap мало заботится о вашей конфиденциальности и в первую очередь думает о доходах от рекламы, которые, как ожидается, резко возрастут с внедрением искусственного интеллекта. Есть некоторые способы снизить риски нарушения конфиденциальности, например, удалить свои чаты или не делиться информацией о местоположении, но они не гарантируют надёжности и могут подействовать не сразу. Поэтому, прежде чем общаться с My AI, спросите себя: действительно ли оно того стоит? Ответ может быть разным для каждого, но ясно одно: вы должны быть внимательны к тому, что говорите своему помощнику, потому что он может выдать все ваши тайны.
