Ура, мы победили! Ну, вроде того. Apple официально отложила осуществление своей крайне спорной инициативы по распознаванию детского насилия. Заявление компаниии для прессы было дипломатически расплывчатым, но мы осмелимся сделать вывод, что распознавание CSAM (Child Sexual Abuse Material, то есть материалы, описывающие сексуальное насилие над детьми) в таком виде, как оно был представлено, отменили.

В прошлом месяце мы объявили о планах разработки функций, которые помогут защитить детей от преступников, которые используют средства связи для их вербовки и эксплуатации, и ограничить распространение SCAM. Основываясь на отзывах пользователей, групп поддержки, исследователей и других людей, мы решили выделить дополнительное время в ближайшие месяцы для сбора информации и внесения улучшений, прежде чем выпустить эти критически важные для безопасности детей функции.

Здравый смысл восторжествовал. Пока что.

Как много «дополнительного времени» — не уточняется (но определённо не меньше, чем «несколько месяцев»), «какие улучшения» — также не указано. У нас нет никаких догадок, поскольку Apple описала алгоритм распознавания CSAM как почти совершенный и безупречный, так что кто знает, что они собираются улучшить.

Все были против. Потребители, активисты, правозащитинки, эксперты в сфере технологий и конфиденциальности, включая нас. Теперь мы знаем, что мы не просто какие-то прайваси-фетишисты, наша точка зрения подтвердилась: в распознавании CSAM было полно рисков, угроз и потенциала для злоупотреблений.

Конечно, развитию ситуации сильно помог тот факт, что у Apple была традиционная презентация новых продуктов в сентябре. Они должны были представить публике новый iPhone, а представлять его набитым детским порно было бы не очень, даже если бы всё было захешировано.

Промежуточные шаги к полной катастрофе

Но не только коммерческие компании пытаются избавить нас от конфиденциальности, призывая к защите детей. Правительства и международные регулирующие органы тоже это делают, и они не ограничены необходимостью думать о своей выгоде и о том, как собирать информацию и контролировать людей, при этом не напугав их.

Этим летом Европейский парламент одобрил «временное положение», которое позволяет хостинговым компаниям просматривать сообщения пользователей на предмет наличия признаков детского насилия, не становясь нарушителями законов о конфиденциальности (и в частности, не рискуя нарушить правила GDPR).

По результатам голосования 537 членов Европейского парламента проголосовали за законопроект, 133 — против, а 24 воздержались. Несмотря на результат, европейские законодатели предупредили, что предложенные правила «юридически несовершенны» и могут распасться перед судом.

Депутаты Европарламента назвали «моральным шантажом» давление, которому подвергались, чтобы одобрить законопроект, сообщает пресса.

«Когда мы задавали критически важные вопросы о законодательных предложениях, в ответ сразу же следовало предположение, что я недостаточно привержена борьбе с сексуальным насилием над детьми», — рассказала голландский член Европарламента София ин 'т Велд (Sophia in ‘t Veld) за день до голосования.

Отслеживать сообщения и переписку по электронной почте европейских пользователей на предмет противоправного содержания будут не чиновники ЕС (в первой редакции законопроекта были и аудиосообщения, в финальном варианте они опущены). Это будут коммерческие компании, поставщики услуг, которые не могут бороться с желанием защитить детей. Инициатива принадлежала Европейской комиссии, а парламент принял законопроект необычайно быстро.

В Парламенте изо всех сил пытались донести свою позицию через СМИ. «Поставщики услуг должны использовать как можно меньше интрузивных технологий, нарушающих конфиденциальность», — уверяют нас. Верим ли мы им? Хм.

Не так много сказано о том, как именно разработан и осуществляется мониторинг. «Онлайн-материалы, связанные с сексуальным насилием над детьми, обнаруживаются с помощью специальных технологий, которые сканируют контент — например, изображения, текст или данные трафика. В то время как технология хеширования помогает в работе с изображениями и видео, классификаторы и искусственный интеллект используются для анализа текста или данных трафика с целью обнаружения кибер-груминга». Очевидно, что решение конкретных вопросов остаётся за компаниями, и реализация может существенно отличаться.

Что хуже всего

Новый подход к защите детей угрожает самому существованию шифрования сообщений. В мае, когда Facebook объявила о планах добавить шифрование в своё приложение Messenger, Европейская коммиссия предупредила её, что этот шаг превратит социальную сеть в «рай для педофилов».

Новые правила будут действовать в течение трёх лет. А постоянное законодательство, которое сейчас разрабатывается для их замены, вызывает ещё больше опасений. Во-первых, оно требует, чтобы технологии шифрования позволяли сканировать тексты, изображения, видео в сообщениях, чатах и электронных письмах. Во-вторых, оно подразумевает мониторинг не только порнографии или насилия, но и груминга — налаживания взаимоотношений с детьми с целью их эксплуатации. Это довольно расплывчатое определение, и задаются вопросы о том, смогут ли роботы правильно его определить. В-третьих, сейчас компании проверяют всех на предмет выявления случаев жестокого обращения с детьми добровольно, а новые законы сделают это обязательным.

Вопрос шифрования разделяет объединённую Европу

Хорошие новости в том, что официальные лица по всему миру пытаются подкопаться под зашифрованную переписку на протяжении уже довольно долгого времени, но у них всё ещё не получилось лишить нас этого права. Они слишком хорошо знают, что это приведёт к массовому протесту и к переходу реальной преступной активности в даркнет и на прочие менее популярные платформы, которые находятся вне радаров регуляторов. Так что вряд ли нас ждёт запрет WhatsApp или Telegram.

Кроме того, объединённая Европа не так уж объединена, когда речь заходит о шифровании. Приватность продвигается как одна из основных ценностей европейской культуры и политики. Но также и защита детей, и борьба против терроризма! Неудивительно, что мы видим знаки некоторой регуляторной шизофрении. Вот несколько примеров:

2017: «Комитет Европейского Парламента предлагает сделать сквозное шифрование обязательным для всех форм цифрового общения для защиты граждан», — сообщает BBC.

2020: «Террористическая атака в Вене используется Советом Европейского Союза для введения запрета на защищённое шифрование в таких сервисах, как WhatsApp, Signal и многих других. Эта инициатива проистекает из внутреннего документа от 6 ноября, направленного Германией как председателем Совета делегациям других государств-членов Совета», что прямо противоречит предыдущему заявлению.

2021: Появилось предложение создать баланс между «безопасностью путём шифрования» и «вопреки шифрованию». Это предложение адресовано государствам-членам Европейского Совета с целью «объединить силы с индустрией технологий», чтобы достичь этого баланса, а также определить и установить как регулирующие рамки, так и инновационные подходы и практики для ответа на новые вызовы.

Последнее предложение из приведённой цитаты звучит как план на ближайшие 30 лет или околого того. Институты ЕС обычно работают не очень быстро, особенно, когда между ними нет консенсуса.

«Безопасность путём шифрования и вопреки шифрованию»

Какая чудесная формулировка. Конечно же, мы понимаем желание руководителей ЕС протиснуться между Сциллой и Харибдой и не расцарапать при этом бока. Но она являет собой настолько отчаянный оксюморон! Да простят мне очередную отсылку к греческой тематике.

Не бывает частичого шифрования. Все лазейки и эксклюзивные доступы к персональным данным для государства, которое хочет-вам-только-добра — всё это будет использоваться не по назначению и рано или поздно попадёт в неправильные руки. Это и так уже происходит на каждом шагу, зачем вообще тратить символы, чтобы упомянуть это?

Даже если вы абсолютно законопослушный гражданин (и особенно если вы абсолютно законопослушный гражданин), который за всю жизнь не взорвал ни одного самолёта и не обидел ни одного ребёнка, у вас нет совершенно никакой причины становиться объектом навязчивого наблюдения. Которое к тому же зачастую производится при помощи подрядчиков, не являющихся сотрудниками компании и не связанными стандартами управления данными. Не становитесь жертвой ошибок людей или ложных срабатываний алгоритмов; на кону ваши безопасность, благополучие и репутация.

И не надо думать, что если вы живёте за пределами штатов, то вас никак не касается инициатива Apple по сканированию фото граждан США. Это глобальный тренд. Каждое правительство заинтересовано в том, чтобы следить за своими гражданами. Наблюдать за своими младшими братьями. Поправлять их, когда они неправы, и наказывать, когда они плохо себя ведут. Развивающиеся технологии несут с собой множество новых преимуществ и возможностей, но также и рисков и угроз, и даже их создатели не всегда могут отделить одно от другого — всё происходит слишком быстро.

Ну и, в конце концов, не особо рассчитывайте на то, что в будущем будет найдена некая золотая середина, тот самый баланс между «безопасностью через шифрование» и «безопасностью вопреки шифрованию». Когда для вас важна приватность и защищённость, выбирайте приложения, которые ставят полноценное шифрование во главу угла и считают защиту пользователей своим главным приоритетом.