Первая утечка ChatGPT, рост ИИ-наблюдения и рекламы. Дайджест AdGuard

В этом выпуске дайджеста AdGuard: ChatGPT раскрывает личные данные, Instagram добавляет ещё больше рекламы, финансируемая ЦРУ фирма управляет записями пациентов, Франция близка к разрешению видеонаблюдения на основе ИИ, ещё один штат США принимает собственный закон о конфиденциальности, а полиция всё чаще обращается к технологии распознавания лиц.

Первая крупная утечка данных ChatGPT

ChatGPT, мега-популярный чат-бот на базе искусственного интеллекта, пережил первую в своей истории утечку персональных данных. В результате взлома названия чатов некоторых пользователей и первые сообщения их бесед с чат-ботом стали известны другим пользователям, которые могли видеть их в своей истории чатов. Кроме того, могла быть раскрыта информация о платежах около 1,2% активных пользователей ChatGPT Plus. Эта информация могла включать полное имя пользователя, адрес электронной почты, последние четыре цифры номера его платёжной карты и её срок действия.

Компания OpenAI, создавшая ChatGPT, обвинила в утечке данных ошибку в библиотеке с открытым исходным кодом, которую она использует для ChatGPT. В своём заявлении OpenAI сообщила, что ошибка была исправлена, и подчеркнула, что «нет никакого постоянного риска для данных пользователей».

Первый случай нарушения конфиденциальности ChatGPT произошёл довольно быстро, но это не должно было стать неожиданностью. Конфиденциальность — это то, что разработчики ИИ-инструментов отодвинули на второй план, обучая свои модели на всевозможных данных, включая защищённый авторским правом контент, собранный со всего интернета. На самом деле, при использовании ChatGPT не стоит ожидать особой приватности: в условиях использования OpenAI открыто говорится, что он может использовать ваши подсказки и изображения для улучшения сервиса, что бы это ни значило.

Instagram даёт вам то, о чём никто не просил: больше рекламы

С тех пор как в 2013 году Instagram начал показывать рекламу, он, похоже, поставил перед собой задачу запихнуть как можно больше рекламных объявлений в вашу ленту. Эта тенденция продолжится и в 2023 году, поскольку Instagram только что представил два новых типа рекламы: объявления, появляющиеся при поиске чего-либо, и объявления, напоминающие о товарах, которые вы просматривали ранее.

«Поисковая реклама» будет появляться в вашей ленте после того, как вы нажмёте на пост из результатов поиска. Этот формат объявлений всё ещё находится на ранних стадиях внедрения, и в ближайшие месяцы он станет доступен во всём мире. Ждём не дождёмся. «Реклама с напоминаниями» обещает быть менее навязчивой, так как для получения уведомлений о начале рекламы необходимо дать своё явное согласие.

Мы не самые большие поклонники рекламы, особенно когда речь идёт об Instagram, платформе, которая уже и так перенасыщена рекламой и «спонсорскими» постами. Станет ли новое размещение рекламы последней соломинкой, которая сломает спину верблюда? Маловероятно, но это может ускорить миграцию пользователей, уставших от рекламы, на другие, более свободные от неё платформы, такие как BeReal.

Британские больницы должны делиться данными с американской шпионской компанией

Palantir, компания по добыче и анализу данных, имеющая связи с ЦРУ, получила контракт на сбор и обработку «конфиденциальной информации о пациентах» из государственных больниц Великобритании, сообщает OpenDemocracy. Согласно внутреннему документу, на который ссылается издание, сотням больниц было приказано начать загружать истории болезни в базу данных, управляемую Palantir. В базе данных используется ПО компании Palantir под названием Foundry, которое объединяет данные из различных источников и помогает их анализировать.

Компания Palantir уже работала на NHS: в 2020 году она отвечала за внедрение вакцины Covid-19. С тех пор американская компания заключила с правительством Великобритании контракты на десятки миллионов долларов и претендует на новый контракт на 580 миллионов долларов на создание базы данных NHS.

Правительство Великобритании заверило, что у Palantir не будет доступа к информации, которая может раскрыть личность людей, поскольку она будет «замаскирована» с помощью псевдоанонимизации. Это метод, при котором информация, которая может быть использована для идентификации личности, хранится отдельно от остальных данных. Но такой метод не слишком надёжен, поскольку «скрытую» информацию можно снова объединить с известными данными, что создаёт серьёзный риск для конфиденциальности и безопасности. А тот факт, что этими данными занимается компания Palantir, известная своей работой с полицией и ФБР, вызывает ещё большее беспокойство.

Свобода, равенство, слежка: Франция легализует систему наблюдения на базе ИИ

Франция приближается к легализации системы наблюдения на основе искусственного интеллекта и станет первой страной ЕС, которая сделает это. Обе палаты французского парламента подавляющим большинством голосов одобрили законопроект, который разрешает использование ПО с искусственным интеллектом для наблюдения за людьми во время Олимпийских и Паралимпийских игр в Париже в следующем году.

Эта мера рассматривается как временная, но, как говорится, нет ничего более постоянного, чем временная государственная программа. Сторонники законопроекта утверждают, что сочетание камер и искусственного интеллекта — это то, что необходимо для предотвращения давки и нападений. Французское правительство утверждает, что наблюдение не будет включать в себя распознавание лиц. Однако критики говорят, что оно обязательно будет включать сбор и обработку других биометрических данных, включая внешность, позу, жесты и походку, которых уже достаточно для идентификации человека. Организации по защите гражданских свобод утверждают, что предлагаемая система может привести к «полномасштабному наступлению на права на частную жизнь, протест и свободу собраний».

Действительно, существует риск, что закон может вывести Францию на скользкую дорожку к государству тотального наблюдения и ещё больше отдалить её от статуса Les Pays des Droits de l'Homme (Страна прав человека), как её прозвали в народе. Более того, это может создать опасный прецедент для остальной части ЕС.

Полиция США всё больше полагается на технологию распознавания лиц

Если вам нужен пример того, к чему может привести эта скользкая дорожка, обратите внимание на США, где полиция проверила около миллиона поисковых запросов по базе данных, составленной Clearview AI, американской компанией по распознаванию лиц. Об этом сообщил сам генеральный директор Clearview Хоан Тон-Тхат. Он сказал, что компания уже собрала 30 миллиардов изображений из интернета и поместила их в базу данных, по которой полиция может проводить поиск. Эти изображения были собраны без ведома или согласия пользователей.

В прошлом году Clearview AI было запрещено продавать свой софт частным американским компаниям и физическим лицам, но не правоохранительным органам. Некоторые штаты и города США взяли дело в свои руки и запретили или существенно ограничили использование технологии распознавания лиц в полиции. Другие — наоборот. Так, полиция Майами заявила BBC, что они используют распознавание лиц для «всех» видов преступлений.

То, как Clearview собирает биометрические данные без ведома или согласия людей, нарушает неприкосновенность частной жизни. Это подвергает миллионы людей риску неправомерного использования их личных данных. Clearview — частная компания, и то, как она работает, остаётся под завесой тайны. Известно, что ИИ, используемый для распознавания лиц, может быть расово предвзятым и приводить к ложным арестам. У ИИ есть много примеров позитивного использования, но создание «государства тотальной слежки» им не является. Чтобы предотвратить использование ИИ в этих целях, необходимо более строгое регулирование.

Ещё в одном штате США принят закон о конфиденциальности данных

Чтобы не заканчивать дайджест на грустной ноте, добавим хорошие новости: Айова только что стала шестым штатом США и первым на Среднем Западе, принявшим всеобъемлющий закон о конфиденциальности данных. Он даёт жителям штата больше рычагов влияния на свою личную информацию, включая право отказаться от её продажи и использования для таргетированной рекламы.

Закон призван заполнить пробел, возникший из-за отсутствия в США федерального законодательства о неприкосновенности частной жизни. Он вступит в силу в 2025 году и будет распространяться на компании, которые обрабатывают персональные данные не менее 100 000 жителей Айовы в течение года, или которые получают более 50% своего дохода от продажи персональных данных и одновременно обрабатывают данные не менее 25 000 потребителей в штате. Введя этот закон, Айова следует по стопам Калифорнии, Колорадо, Коннектикута, Юты и Вирджинии, которые уже приняли аналогичные законы.

Хотя новый закон стал большим шагом вперед в плане защиты конфиденциальности в конкретном штате, сам факт того, что Айова стала лишь шестым штатом из 50, где принят подобный закон, отражает плохое состояние этой области в США в целом. Федеральный закон о защите частной жизни давно назрел, и мы надеемся, что он появится как можно скорее.