Как сотрудники Tesla превратили записи с камер автомобиля в мемы, и почему это важно
Privacy from Day One (с англ. «Конфиденциальность с первого дня») — это одна из первых строк, которые вы видите в уведомлении о конфиденциальности компании Tesla. В нём производитель электромобилей говорит: «ваша конфиденциальность была и всегда будет чрезвычайно важна для нас». Несмотря на обещание уважать частную жизнь клиентов с момента покупки автомобиля, Tesla, по всей видимости, не сдержала своего слова. В недавнем отчёте Reuters показал, что личные видео и фотографии с камер автомобилей покупателей распространялись, а иногда и превращались в мемы сотрудниками компании в групповых чатах.
Эта практика процветала с 2019 года по крайней мере до 2022 года, сообщает Reuters, ссылаясь на интервью с девятью бывшими сотрудниками, которые решили рассказать об этом. Снимки, от тревожащих до глубоко интимных, поступали с многочисленных камер, встроенных в модели Tesla.
Только камеры, пожалуйста
С годами компания Tesla стала всё больше полагаться на камеры для поддержки функций самостоятельного вождения автомобиля, отказываясь от других датчиков. Сначала Tesla убрала радары из своих автомобилей (хотя может вернуть их обратно), а в прошлом году решила отказаться от ультразвуковых датчиков в пользу системы Tesla Vision, работающей только с помощью камер.
Система основана на 8 камерах, стратегически расположенных вокруг автомобиля: три спереди, четыре по бокам — две переднего обзора, две заднего — и одна сзади. Эти камеры используют искусственный интеллект для обработки и интерпретации изображений в реальном времени, что позволяет автомобилю видеть и понимать окружающую обстановку. Некоторые модели Tesla также оснащены камерой, установленной над задним стеклом и обращённой к водителю. Камера в салоне следит за водителем и подаёт звуковой сигнал, если вы не смотрите на дорогу и не держите руки на руле.
Компания Tesla заверяет покупателей, что их личные данные защищены и что она не получает доступ к изображениям или видео с камеры в салоне или любых других камер, если вы не дадите на это согласия. Но даже если вы согласитесь на такой обмен данными, Tesla утверждает, что использует эти данные только для трёх конкретных целей: для связи с вами, для предоставления вам услуг, таких как автоматическое обновление, и для улучшения своих продуктов и услуг (разумеется, об использовании данных клиентов для развлечения ничего не говорится).
Поскольку камеры — это основной источник информации для системы автопилота Tesla (например, Active Driving Assist компании Ford получает данные как от камер, так и от радарного датчика), очень важно, чтобы они могли точно обнаруживать объекты. Именно здесь в игру вступают специалисты по маркировке данных, и именно здесь начинаются проблемы.
Мемы из казусов
Искусственный интеллект может казаться волшебством, но он по-прежнему во многом зависит от помощи человека. Чтобы научить системы ИИ распознавать различные объекты на дороге, такие как автомобили, дорожные знаки, пешеходы, полосы движения, Tesla привлекает сотни специалистов по маркировке данных. Tesla не одинока в этой практике; другие производители автомобилей также прибегают к услугам как собственных, так и внешних маркировщиков данных для аннотации видео и изображений, которые затем используются для обучения алгоритмов беспилотных автомобилей.
Первоначально Tesla передала работу по маркировке данных компании Sama (ранее Samasource) со штаб-квартирой в Сан-Франциско и центрами в Кении и Уганде, а среди её клиентов числятся General Motors и Ford. Но со временем Tesla, очевидно, стала недовольна качеством маркировки, которую она получала от внешних подрядчиков, и создала собственную службу маркировки данных, штат которой со временем вырос до 1000 сотрудников.
Бывший сотрудник Tesla рассказал Reuters, что иногда они видели «скандальные вещи», включая «сцены интимного характера». Другой бывший сотрудник сказал, что он был посвящён во «многие вещи, которые я бы не хотел, чтобы кто-то знал о моей жизни».
Чтобы скрасить унылую рутину, некоторые работники, взволнованные увиденным, не могли не поделиться с коллегами в групповых чатах «крутыми» снимками. По словам некоторых бывших сотрудников, такое поведение лишь изредка вызывало неодобрение, а в целом виделось как весёлое и поощряемое. «Люди, которых повышали до руководящих должностей, часто делились этими забавными вещами и снискали за это сомнительную славу», — сказал один бывший маркировщик агентству Reuters. Иногда, как сообщается, работники приукрашивали скриншоты с помощью фотошопа — другими словами, типичная офисная атмосфера, за исключением того, что это были чьи-то личные моменты, использованные для внутреннего развлечения.
Типы контента, которым делились в групповых и индивидуальных чатах, варьировались от безобидных до более тревожащих. От фотографий случайных собак или необычных автомобилей (включая якобы собственную «подводную» машину Илона Маска) до падающих людей, людей, которых насильно заталкивают в машины, и машин, врезающихся в велосипеды.
«Анонимизированные данные»… или не совсем?
Когда собирают (и затем потенциально сливают) ваши данные, можно утешиться тем, что по ним нельзя отследить, что они ваши. Именно это обещает политика конфиденциальности компании Tesla. Она гласит: «В целях защиты вашей конфиденциальности личные данные либо вообще не регистрируются, либо для сбора используют системы сохранения конфиденциальности, либо данные удаляются из любых отчётов до их отправки в Tesla». Звучит обнадёживающе, не так ли?
Однако, по данным Reuters, специалисты по маркировке данных использовали программу, которая позволяла им видеть, где были сделаны записи на картах Google Maps. Это потенциально может привести к повторной идентификации, например, если запись сделана у вашего подъезда. Уже не так утешительно, да?
«Безвкусное развлечение»
Компания Tesla, у которой с 2020 года нет PR-отдела, никак не отреагировала на эти обвинения. С другой стороны, владельцы автомобилей Tesla, обеспокоенные возможным неправомерным использованием их личных данных, проявили большую активность. Один из них, житель Сан-Франциско и владелец Model Y Генри Йе, подал иск против Tesla в Калифорнии за съёмку «высокоинвазивных видео и фотографий владельцев автомобилей» и распространение их для «безвкусного и неправомерного развлечения сотрудников Tesla и, возможно, тех, кто не работает в компании».
Йе хочет, чтобы его иск представлял интересы всех пострадавших клиентов. Он обвиняет Tesla в «аморальности, неэтичности, недобросовестности и существенном вреде для потребителей». Он также утверждает, что Tesla нарушила свой контракт с клиентами, не анонимизировав записи, поскольку система, используемая сотрудниками, предположительно могла раскрыть местоположение записей.
Как мемы Tesla могут оказаться не просто случайностью
Отвечая на вопрос агентства Reuters о том, что они думают о случившемся, некоторые бывшие сотрудники Tesla заявили, что обращение с личной информацией клиентов было неправильным. «Честно говоря, это было нарушение неприкосновенности частной жизни. И я всегда шутил, что никогда не куплю Tesla после того, как увидел, как они обошлись с некоторыми из этих людей», — сказал один из бывших сотрудников.
Но два других бывших сотрудника сказали, что в этом нет ничего страшного, предположив, согласно Reuters, что «люди уже давно перестали надеяться на сохранение личных данных в тайне».
Последнее утверждение перекликается с отношением к приватности, которое выразил не кто иной, как генеральный директор Tesla Илон Маск. В интервью с подкастером Джо Роганом Маск поставил под сомнение важность приватности в современном мире, где скоро будет доминировать искусственный интеллект. «Я думаю, что люди хранят в секрете не так уж много того, что действительно имеет значение. То, что на самом деле волнует других людей. … Вы думаете, что других людей это волнует, но на самом деле им нет до этого дела. И, конечно, правительству тоже» — сказал Маск Рогану в 2018 году.
Почему Маск и компания неправы
Из слов Маска можно сделать вывод, что никому нет дела до ваших личных данных, что это не то, из-за чего стоит лишаться сна. Но практика его собственной компании свидетельствует об обратном: иногда людям не всё равно. В случае с Tesla сотрудники использовали частные видео и фотографии, чтобы разбавить рутину. Это уже достаточно неприятно. Ведь вы бы не хотели, чтобы это произошло с вашими данными? Но что, если у кого-то есть более грязные мотивы? Кто-то может использовать эти данные для шантажа или подготовки к ограблению. А если вы известная личность, например, знаменитость или политик, ваши личные данные могут стать вашей погибелью, если попадут не в те руки.
Сотрудники могут не иметь злого умысла (как, например, сторонние специалисты по маркировке данных, нанятые производителем пылесосов iRobot, которые сливали интимные изображения владельцев в Facebook и Discord), но жертвы неправомерного использования данных всё же могут сильно пострадать. Весьма показательным является тот факт, что рабочая обстановка в отделе маркировки компании Tesla, описанная агентством Reuters, до жути напоминает рабочую этику (или её отсутствие) в NSA, о которой рассказал Эдвард Сноуден.
Риски конфиденциальности: нельзя избежать, но можно уменьшить
Случай Tesla не уникален. Пока компании будут вынуждены нанимать людей для просмотра необработанных данных с целью улучшения алгоритмов ИИ, такие случаи, как у Tesla, будут происходить. Люди оказываются самым слабым звеном, когда речь идёт о защите данных: всегда есть риск, что сотрудник может слить их или использовать в своих интересах. Первое произошло, например, с компанией Google, чьи партнёры слили более 1000 аудиозаписей разговоров клиентов с Google Assistant на один из новостных сайтов, который затем смог успешно идентифицировать некоторых людей в голосовых записях.
Мы вступаем в эпоху искусственного интеллекта, поэтому можно с уверенностью сказать, что если мы каким-то образом не решим эту проблему в ближайшее время, то будет появляться всё больше возможностей для того, чтобы всё шло наперекосяк. Если говорить об автомобильной индустрии, то большинство современных автомобилей уже напичканы датчиками и камерами, которые полагаются на ИИ. Ожидается, что мировой рынок автомобильных камер достигнет 69 млрд долларов к 2030 году, а рынок автомобильных датчиков — 36,53 млрд долларов через пять лет. Камеры и датчики нужны автомобилям для самостоятельного управления, парковки и безопасности, и невозможно представить будущее отрасли без них.
Это ставит нас перед выбором: принять технологический прогресс и связанные с ним риски для частной жизни или купить автомобиль, в котором нет такого количества камер. Последний вариант, вероятно, будет более безопасным с точки зрения конфиденциальности, но он также может быть менее удобным. Но даже если мы поддадимся плодам технического прогресса — более или менее самоуправляемым автомобилям, — способы минимизировать риски для частной жизни всё же существуют.
По крайней мере, вы можете изучить политику конфиденциальности производителей перед покупкой автомобиля и воспользоваться существующими опциями по защите конфиденциальности, которые они предлагают. Например, Tesla позволяет отказаться от обмена данными через сенсорный экран автомобиля (можно только надеяться, что ваш отказ действительно остановит сбор данных, но это уже другой вопрос). А чтобы узнать, что Tesla уже известно о вас, вы можете запросить копию информации, связанной с вашей учётной записью: информирован значит вооружён.
