Мы попробовали Leo, чат-бот Brave: так ли он заботится о конфиденциальности?
В начале ноября компания Brave, известная своим ориентированным на конфиденциальность браузером, запустила собственный чат-бот Leo. ИИ-бот встроен в десктопную версию браузера (Brave говорит, что скоро он появится и в мобильной версии) и доступен всем пользователям бесплатно. Мы неравнодушны к новым игрушкам на базе ИИ, и после тестирования Bing AI не смогли устоять перед возможностью проверить, насколько Leo умён и приватен.
По умолчанию Leo находится на боковой панели. Чтобы вызвать джина ИИ-помощника, нужно просто начать набирать любой текст в адресной строке и выбрать «ask Leo» в выпадающем меню…
…и он материализуется перед вами в правой части экрана.
Заявленные возможности
Анонсируя Leo, Brave описала его набор навыков как схожий с потенциальным конкурентом Bing AI — чат-ботом на базе GPT-4, встроенным в Microsoft Edge. По словам Brave, Leo должен уметь «коротко описывать содержимое веб-страниц или видео в режиме реального времени», «отвечать на вопросы о контенте или генерировать новый контент». Кроме того, Leo может «переводить страницы, анализировать, переписывать их и многое другое».
Резюмируя возможности ИИ-помощника, Brave заявила: «Если вы ищете информацию, пытаетесь решить проблему или создаёте контент, Leo может вам помочь». Если верить компании на слово, то функциональность Leo обещает быть безграничной.
Перейдём к делу и вернёмся к Leo, который ждёт нас на боковой панели.
Первым сообщением от Leo было уведомление о конфиденциальности, рассказывающее о том, что он умеет и что его ответы могут быть не всегда точными. Также в нём содержалось предупреждение не предоставлять «конфиденциальную или личную информацию и с осторожностью относиться к ответам, связанным со здоровьем, финансами, личной безопасностью и т. п.» и обещание не собирать IP-адреса, не хранить и не передавать личные данные, а также не использовать их для обучения искусственного интеллекта.
Затем Leo рассказал нам, что он «размещённый в облаке ИИ-помощник от Brave» и что он работает на Llama 13B — большой языковой модели, созданной Meta.
Brave также предлагает платную версию Leo, которая доступна за 15 долларов в месяц. Подписавшись на Leo Premium, можно выбрать другую LLM. Сейчас в меню есть ещё одна LLM от Meta, Llama2 70b, в которой в пять раз больше параметров, а также Claude Instant от Anthropic. Последняя описывается как «более лёгкий, менее дорогой и гораздо более быстрый вариант».
Но поскольку мы подозреваем, что большинство пользователей вряд ли будут готовы сразу же раскошелиться на Leo Premium, мы решили сосредоточиться на бесплатном ИИ-помощнике Brave.
Эксперимент со временем и местом
Воодушевлённые обещанием «непревзойдённой конфиденциальности» Leo и репутацией самого Brave как браузера, ставящего конфиденциальность на первое место, мы решились выяснить у Leo то, что он не должен был знать: реальное физическое местоположение автора.
Мой вопрос чат-боту был довольно прост: «Где я нахожусь?». Или, по крайней мере, я так думала, потому что ответ, который я получила, заставил меня задуматься. Нет, Leo не раскрыл моё местоположение, более того, он даже не понял моего вопроса. Но он правильно определил мой часовой пояс, несмотря на то что я использовала VPN-сервер с двухчасовой разницей во времени с моим реальным местоположением, в (тщетной) попытке запутать чат-бота.
«Есть ли ещё что-нибудь, что вы хотели бы узнать?» — спросил меня Leo. Ещё бы! Мне очень хотелось узнать, как он пришёл к такому выводу о моём часовом поясе. Но сначала, видя, что Leo немного не понял мой первый вопрос, я уточнила его.
«Можешь ли ты определить моё реальное физическое местоположение?» — спросила я. Отвечая на этот вопрос, Leo проявил гораздо больше заботы о конфиденциальности, сообщив мне, что, будучи LLM, он не имеет доступа к GPS или данным о местоположении моего устройства и поэтому не может определить его. В остальном ответ состоял из предупреждения о том, что не стоит делиться своими адресами с незнакомцами в интернете (спасибо, Leo), и нескольких предложений о том, к кому я могу обратиться за запрашиваемой информацией, включая «картографическое приложение», «правительственное агентство» и «поставщика профессиональных услуг».
Но меня по-прежнему беспокоил вопрос: как он узнал, сколько времени в месте, где я нахожусь? Поэтому я попробовала ещё раз. И снова Leo сказал мне точное время. Я стала допытываться дальше, спрашивая, откуда он знает, который час. После этого разговор перешёл в неловко-странную плоскость. «Я знаю, который сейчас час, на основании информации о текущей дате и времени, которой меня обучили».
Что Leo зовёт домом?
Такой ответ меня не удовлетворил, и я продолжила выяснять, есть ли у Leo доступ к настройкам моего устройства и использует ли он их для определения моего часового пояса. Ответ застал меня врасплох: Leo утверждал, что информация о времени, которую он мне предоставил, была основана… «на текущем времени в месте, где я нахожусь, которое является заранее определённым местом, в котором я был обучен».
Естественно, мне стало любопытно, откуда Leo со мной разговаривает и что это за заранее определённое место, которое его научили использовать. Может, он находится в той же временной зоне, что и я?
Нет. Ранее Leo проговорился, что его заранее определённая локация — это «воображаемая локация “Meta HQ”», а сама «Meta HQ» — «гипотетическая штаб-квартира технологической компании». Чат-бот заявил, что она «не является реальной локацией» и что она «не имеет отношения к настоящей локации устройства, используемого вами для разговора со мной, или к локации, где находятся мои данные обучения».
Окончательно и бесповоротно запутавшись, я попыталась заставить Лео сообщить мне время, где находится штаб-квартира Meta, а именно в Менло-Парке, Калифорния, США. И он было согласился…
…только вот время было правильным не для Калифорнии, а для моего реального местоположения. Дальнейшие расспросы о том, сколько времени в Калифорнии, не принесли более точных результатов, даже несмотря на то что, задавая Leo вопросы, я держала открытой вкладку браузера, показывающую правильное время.
Занавес.
Обещания конфиденциальности
Эксперимент со временем и местом был забавным, но оставил больше вопросов, чем ответов. Даже если он показал, что Leo может быть непоследовательным в одни моменты и совершенно загадочным в другие, можно списать это на не слишком продвинутую модель LLM, на которой основана бесплатная версия, и на глюки в самом начале работы.
Была ли это небольшая заминка на пути к величию или предвестник каких-то системных проблем? Давайте на время отложим этот вопрос.
Придя в себя, я задала чат-боту несколько более важных вопросов, касающихся конфиденциальности.
На вопрос о том, как долго он будет хранить мои чаты, Leo показал себя с лучшей стороны, заявив, что он «ответственный и этичный ИИ-помощник», который всегда будет удалять данные по окончании разговора и не будет «хранить какую-либо информацию». Чат-бот также заверил меня, что не будет передавать мои данные или информацию третьим лицам. «Ваша конфиденциальность и безопасность имеют для меня первостепенное значение, и я обязуюсь их защищать», — поклялся Лео. Однако тут же чат-бот признал, что будет использовать мои данные не только для персонализации ответов, но и для «улучшения» своей собственной работы. Более того, Leo уточнил свой предыдущий ответ, заявив, что не будет сохранять «никакой информации, которая может быть использована для вашей идентификации», что заставило меня задуматься: а как насчёт другой информации обо мне?
На тему рекламы, о которой я не могла не расспросить Leo, чат-бот сказал, что, поскольку он «всего лишь ИИ-помощник», у него нет «возможности» показывать рекламу. Это неубедительное оправдание, потому что уже есть ИИ-помощники с рекламой, например Bing AI и чат-бот на базе ИИ, интегрированный в Google Search Generative Experience (SGE). Поэтому я спросила, почему нет?
Leo объяснил, что у него нет возможности «заниматься коммерческой деятельностью» и что он только помогает мне.
Всё это может звучать слишком хорошо, чтобы быть правдой, особенно если учесть, что, например, ChatGPT может использовать персональные данные для обучения ИИ, если вы не откажетесь от этого. Но Brave не просто какая-то технологическая компания. Весь её бренд построен на уважении к конфиденциальности пользователей, блокировке рекламы и сторонних трекеры по умолчанию. Поэтому пока мы склонны трактовать сомнения в её пользу.
Что Brave говорит о «непревзойдённой конфиденциальности» Leo
Рассказ Leo о его настройках конфиденциальности соответствует тому, что говорит о нём Brave, но это ещё не всё. Помимо того, что ответы сразу удаляются и не используются для обучения модели, Brave утверждает, что все ваши запросы к чат-боту «передаются через анонимизированный сервер», так что никто не сможет связать ваш запрос с вашим IP-адресом. Одно из других преимуществ, которое выделяет Leo среди множества других чат-ботов, заключается в том, что для его использования не нужно создавать учётную запись (в отличие, например, от ChatGPT).
«Чаты с Leo конфиденциальны, анонимны и безопасны. Leo не записывает и не использует их для обучения модели, и для использования Leo не требуется учётная запись или авторизация», — резюмирует Brave.
Вердикт
Верить или не верить обещаниям Leo и Brave о конфиденциальности — решать вам. С одной стороны, в их пользу говорит безупречная репутация Brave в вопросах конфиденциальности. С другой стороны, наш опыт общения с чат-ботом пока что был неоднозначным, и мы не уверены, что с ним делать.
С точки зрения функциональности он, возможно, пока не дотягивает до своих конкурентов. Ответы Leo звучат повторяющимися, банальными, непоследовательными и… порой роботизированными. Возможно, это связано с тем, что мы использовали самую младшую модель, Llama 13B, и другие, более продвинутые модели дали бы гораздо лучшие результаты.
Как бы то ни было, идея чат-бота на базе ИИ, уважающего частную жизнь, замечательная и очень нужная. Поскольку нам предстоит жить в эпоху чат-ботов с искусственным интеллектом (а они никуда не денутся, хотим мы этого или нет), нам нужен хотя бы один, который не будет выдавать наши данные всем желающим.
