В соцсети попали фотографии, сделанные роботом-пылесосом. Как это произошло?

Даже если вы не считаете себя гиком, дома у вас наверняка найдётся пара-тройка «умных» устройств. И роботы-пылесосы, определённо, среди наиболее популярных представителей этого класса. Механический уборщик избавит вас от пыли, помоет пол, соберёт волосы и собачью шерсть… но также и ваши личные данные.

В политике конфиденциальности большинства роботов-пылесосов указано, что компания-производитель может собирать информацию о вас для улучшения качества своих продуктов и услуг — конечно, если вы дадите ей своё согласие на это. Но кто не хочет, чтобы его робот-пылесос научился объезжать собачьи какашки, не портил провода и перестал застревать под кроватью? Да и много ли из нас читают условия обслуживания и политику конфиденциальности прежде чем нажать «согласен»? К тому же, у обычного пользователя может сложиться впечатление, что все собранные данные будут обработаны алгоритмом, и, по меньшей мере, останутся «внутри» компании, а не утекут в сеть, так что сильно волноваться не стоит. Или стоит?

iSpy: как фотографии сделанные пылесосом утекли в сеть

Предположение о том, что не человек, а бездушная машина обрабатывает ваши данные верно только отчасти. Хотя ИИ, безусловно, идёт по пути замены человека, он ещё далёк от этой цели. В прошлом месяце издание MIT Technology Review сообщило, что ведущий производитель роботов-пылесосов, компания iRobot, наняла сторонних подрядчиков для разметки «сырых» данных, собранных прототипом модели робота-пылесоса Roomba серии j7. iRobot передала эти данные стартапу под названием Scale AI, который, в свою очередь, передал их независимым субподрядчикам из Венесуэлы, которые, в свою очередь, выложили их… в Facebook и Discord.

Этим низкооплачиваемым работникам было поручено распознавать и верно указывать названия предметов мебели, которые запечатлели камеры Roomba. Большинство из 15 снимков, полученных MIT Technology Review из закрытой группы в социальной сети, были вполне безобидными: на них видны дверные проемы, полки, кухонные гарнитуры, светильники и столешницы. Но несколько фотографий гораздо более откровенные. Так, на серии снимков, сделанных с разного ракурса, изображена женщина, сидящая на сиденье унитаза — на некоторых из фотографий хорошо видно её лицо. На ещё одном снимке запечатлён ребенок: он лежит на полу и смотрит прямо в камеру пылесоса.

Утечка пользовательских послужила поводом для внутреннего разбирательства. iRobot обвинила Scale AI в нарушении условий контракта, так как стартап допустил размещение снимков в соцсетях. Scale AI, со своей стороны, заявил, что виноваты во всём венесуэльские работники.

Можно сказать, что iRobot пала жертвой недобросовестных субподрядчиков. Действительно, если бы маркировщики не разместили фотографии в Интернете, о сомнительной практике iRobot мы бы не узнали. Но проблема даже не в рабочих, которым пришлось на своём горьком опыте узнать ценность понятия конфиденциальности. Проблема скорее во всё возрастающем объёме данных, которые собирают о нас технологические компании и в том, с кем они ими делятся.

К вопросу о согласии на использование данных

В свою защиту компания iRobot заявила, что модель пылесоса, с помощью которой были сделаны компрометирующие снимки, не продавалась в магазинах, а распространялась только среди «оплачиваемых участников исследования и сотрудников компании». Эти люди, по словам iRobot, дали согласие на использование своих данных для обучения ИИ. iRobot, однако, не уточнила, были ли добровольцы в курсе, что их интимные фотографии могут увидеть другие люди. В форме согласия упоминалось только то, что iRobot может предоставить данные «провайдерам услуг».

iRobot передала визуальные данные, собранные её пылесосами — в общей сложности более 2 миллиона изображений — нескольким подрядчикам, а не только Scale AI. По словам iRobot, перед передачей данных изображения, на которых пользователь обнажён или иным образом скомпрометирован, отфильтровываются. Компания не пояснила, почему изображение женщины на унитазе не было удалено.

Что ваш пылесос знает о вас

iRobot утверждает, что не шпионит за рядовыми владельцами пылесосов. Но технически ничто не мешает компании-производителю это делать.

Роботы-пылесосы собирают часть данных о вас, когда составляют подробную карту дома во время первичной уборки. Смарт-карта нужна роботу, чтобы он не убирал одно и то же место дважды и не натыкался на углы. Чем лучше робот справляется с задачей составления карты, тем она точнее и тем эффективнее и быстрее будет процесс уборки. Робот-пылесос iRobot j7 собирает данные о жилище при помощи фронтальной камеры на базе искусственного интеллекта, что является шагом вперёд по сравнению с гироскопом и акселерометром, используемых для этой цели в более дешёвых моделях. Наличие камеры не только даёт роботу-пылесосу преимущество перед своими «слепыми» конкурентами, но и несёт риски для конфиденциальности — ведь теперь пылесос видит, что происходит внутри вашего дома и способен это сфотографировать.

Так, модель Roomba j7+ от iRobot может самостоятельно распознавать и фотографировать отходы жизнедеятельности домашних животных и провода, а также отправлять эти снимки в приложение для смартфона, если вы предоставите соответствующее разрешение. Вы также можете предоставить iRobot доступ к этим данным; в этом случае компания получит снимки в зашифрованном виде, а её сотрудники их расшифруют и изучат. Что касается изображений людей, программное обеспечение пылесоса должно автоматически отключать камеру, если в поле её зрения попадает человек или его фотография. Но, как мы видим из статьи MIT Review, защитные меры не всегда срабатывают должным образом.

Фото: YoonJae Baik/Unsplash

Уже существующие технологии позволяют производителям роботов-пылесосов собирать множество ценных сведений о жизни пользователей, которые могут пригодиться третьим лицам, например, рекламодателям. И речь идёт не только о размере вашего дома, о том, две у вас спальни или одна, или о том, есть ли у вас домашнее животное, которое гадит повсюду — хотя, возможно, это уже больше, чем вы готовы были бы рассказать первому встречному. Компания-производитель робота-пылесоса также может узнать, например, ваш распорядок дня. С помощью iRobot OS, облачной операционной системы для роботов-пылесосов, вы можете настроить пылесос iRobot так, чтобы он автоматически начинал уборку, когда вы уходите из дома, и прекращал её, когда вы возвращаетесь. Робот также может быть сопряжен с голосовыми помощниками, такими как Amazon Alexa, Apple Siri и Google Assistant.

Поскольку iRobot OS работает в облаке, доступ к этим сведениям могут получить недобросовестные сотрудники или же они могут быть переданы третьим лицам, например, полиции. А количество информации, которую способны добыть роботы-пылесосы, не может не впечатлять. В мае генеральный директор iRobot Колин Энгл сообщил изданию Verge, что пылесосы модели j7 идентифицировали более 43 миллионов объектов в домах людей и научились распознавать и объезжать 80 предметов. Это означает, что в руках производителя находится сокровищница данных. Вопрос в том, откроет ли он её и для кого?

Amazon поглощает iRobot — ночной кошмар защитников приватности становится явью?

Возможно, не случайно, что после того как iRobot усовершенствовал навигационные возможности своих устройств и обновил облачное ПО, производителем роботов-пылесосов заинтересовалась компания Amazon. В августе этого года Amazon заключила соглашение о покупке iRobot за 1,7 миллиарда долларов. Сделка, которая ещё не одобрена регулирующими органами, вызвала озабоченность в среде поборников конфиденциальности.

Ряд организаций по защите приватности, включая Electronic Frontier Foundation, призвали американского регулятора помешать сделке, утверждая, что потенциальное объединение данных Amazon и iRobot, «поставит под угрозу конфиденциальность потребителей».

«Привязка устройств iRobot к и без того интрузивной домашней системе Amazon будет способствовать сбору данных, в том числе, данных о наших привычках и здоровье, с ещё большего количества подключённых домашних устройств, что является угрозой правам человека и его безопасности» говорится в письме, подписанном активистами.

iRobot рассматривала идею обмена данными с компаниями Big Tech задолго до того, как договорилась с Amazon. В 2017 году генеральный директор iRobot Энгл заявил, что его компания может в будущем с согласия потребителей начать делиться смарт-картами домов бесплатно с Amazon, Apple или Google.

Следует отметить, что поглощение iRobot технологическим гигантом является частью тревожной тенденции в мире умной электроники.

В прошлом году Google приобрела одного из ведущих производителей фитнес-трекеров, компанию Fitbit, за 2,1 миллиарда долларов. Сделка вызвала схожие опасения по поводу конфиденциальности, особенно в ЕС. В итоге Google согласилась хранить данные Fitibit отдельно и не использовать их для таргетирования рекламы в Google в течение как минимум 10 лет — это стало одним из условий одобрения сделки Европейской комиссией. Стоит ли верить Google на слово — решать вам, но в прошлом компания ранее не раз нарушала свои обещания в отношении конфиденциальности.

Чем лучше датчики, тем больше проблем

Наряду с роботами-пылесосами с камерой, существуют роботы-пылесосы, оснащённые лазерными датчиками, которые используют невидимый вращающийся лазер для получения подробной информации о размере комнат и препятствиях. Эта передовая технология называется LiDAR (от англ. Light Detection and Ranging), и считается «золотым стандартом навигации роботов-пылесосов». Роботы-пылесосы с лазерной навигацией, как правило, более точны в построении карты, чем аналоги с камерами, и, соответственно, убирают быстрее, оставляя меньше пропущенных мест. Но хотя они не способны сделать фото, они также представляют угрозу конфиденциальности.

Исследователи обнаружили, что робот-пылесос с LiDAR можно удалённо взломать и использовать в качестве микрофона для прослушивания разговоров. Таким образом, робот-пылесос можно перепрофилировать «для шпионажа за пользователями и потенциально раскрывать личную информацию», заключила команда исследователей из Университета Мэриленда и Сингапура. В своём исследовании под названием Шпионаж посредством робота-пылесоса: прослушка при помощи датчиков LiDAR, учёные «перепрофилировали» робот-пылесос Xiaomi Roborock для записи речи и музыки с точностью более 90%.

Фото: Elena Mozhvilo/ Unsplash

Можно с уверенностью предположить, что со временем датчики будут становиться все совершеннее, поскольку требования к эффективности и быстроте уборки продолжат повышаться. Кому хочется, чтобы пылесос путался в проводах, таранил кошачью миску или разбрасывал собачьи экскременты? С возрастанием точности датчиков способность пылесосов собирать точные данные из домов пользователей также будет расти. Кроме того, для большей точности уборки производители роботов-пылесосов могут задуматься о возможности установки сразу нескольких камер (например, потолочной и фронтальной) или одновременно лазера и камеры для навигации.

Как снизить риски

Все подключённые к Интернету устройства представляют серьёзную угрозу для безопасности и приватности, и роботы-пылесосы не являются исключением. Однако в отличие от голосовых помощников и умных дверных звонков, пылесосы могут ещё и перемещаться в пространстве, и в некоторых случаях способны самопроизвольно делать снимки вас и вашего дома.

Хотя производители могут заверить вас, что они не допустят утечки конфиденциальной информации, меры предосторожности могут подвести, как это произошло с роботом-пылесосом Roomba. Поэтому нам приходится делать выбор между конфиденциальностью, безопасностью, с одной стороны, и удобством — с другой.

Наиболее дружественным к конфиденциальности вариантом будет «отупление» вашего умного дома и замена робота-пылесоса на старый добрый проводной пылесос, который нужно будет вручную включать в розетку и волочить по полу. Такой вариант, однако, вряд ли придётся по душе тем, кто ценит своё время и силы. Если же вы не готовы отказаться от использования робота-пылесоса, то придётся принимать риски. Также мы рекомендуем следовать нескольким простым правилам при выборе и использовании пылесоса:

• Выбирайте модели пылесосов от известных производителей с хорошей репутацией в плане приватности и послепродажной поддержкой. В этом случае вероятность того, что ваши данные попадут в сеть по вине производителя, будет ниже. Также вы можете подобрать модель, которая будет работать без доступа в Интернет.

• Изучите политику конфиденциальности и Условия предоставления услуг (ToS) устройства и внимательно выберите параметры конфиденциальности. Хотя некоторые функции могут не работать, если вы не согласны на определенную степень обмена данными, не соглашайтесь на больший обмен данными, чем это необходимо для функционирования вашего устройства (например, на передачу карты дома на сервер производителя).

• Обычно мы рекомендуем использовать фильтрацию на уровне DNS для блокировки доступа устройства к рекламным серверам и трекинговым сайтам. Однако если сбор данных является частью основной функциональности устройства, его нельзя ограничить, не нарушив работу прибора — это относится не только к пылесосам, но и к другим IoT-устройствам, таким как умные колонки.