テスラ社員、車載カメラが捉えた顧客の映像をネタに この件から学べること
「Privacy from Day One」（初日からプライバシーを）。
これは、テスラの顧客プライバシー通知の最初の行の1つである。
その通知の中でテスラは、「あなたのプライバシーは私たちにとって非常に重要であり、これからもいつも重要です」と述べています。
しかし、車を買った瞬間から顧客のプライバシーを尊重すると約束しているにもかかわらず、テスラはその約束を守らなかったようです。
最近のロイターの報道で、顧客の車載カメラからのプライベートな動画や写真が、テスラ社員によって社内グループチャットで共有され、時にはネタにされていたことが判明した。
この行為は2019年から少なくとも2022年まで横行していたと、9人のテスラ元社員のインタビューを引用してロイターは報じた。
不穏なものから深く親密なものまで、画像はテスラのモデルに内蔵された複数のカメラからのものだった。
カメラが自律走行の中核
テスラは長年にわたり、車の自動運転機能をサポートするためにカメラへの依存度を徐々に高め、他のセンサーを廃止してきました。
テスラはまず、車からレーダーを外し（ただし、再び搭載する可能性も）、昨年はカメラのみの「Tesla Vision」システムを優先化して超音波センサーを廃止しています。
このシステムは、車の内外に配置された8台のカメラに依存しています。
前方に3台、側面に前向き２台と後ろ向き2台、後方に1台が配置されています。
これらのカメラは、AIを使ってリアルタイムで画像を処理・解釈し、クルマが周囲の状況を確認・理解することを可能にします。
また、一部のテスラには、リアウィンドウの上に取り付けられたドライバー向けカメラが搭載されています。
この「キャビンカメラ」はドライバーを監視し、道路に目を向けず、ハンドルに手をかけなかった場合にビープ音を鳴らします。
テスラは、顧客のプライバシーは保護され、顧客が同意しない限り、キャビンカメラやその他のカメラからの画像や動画にアクセスしたり共有したりすることはないと断言しています。
しかし、たとえあなたがそのようなデータ共有に同意したとしても、Teslaは、データを3つの特定の目的のみに使用するとプライバシーポリシーで言っています:
- 顧客とコミュニケーションをとるため
- 無線アップデートなどのサービスを提供するため
- 製品やサービスを改善するため
（言うまでもなく、顧客のデータを楽しむために使用するという記述は一切ありません.
）
テスラのAutopilot（オートパイロット）システムにとって、カメラが主な情報源であるため（例えば、フォードのアクティブドライビングアシストはカメラとレーダーセンサーの両方からデータを得ている）、カメラが物体を正確に検出できることが重要である。
そこで登場するのがデータラベラー（data labellers）という人間の仕事で、そこが問題の発端でもある。
カメラの映像からネタを作る
人工知能はマジックのように見えるかもしれませんが、それでも人間の手助けに大きく依存しているのです。
自動車、交通標識、歩行者、車線など、道路上のさまざまな物体を識別できるようAIシステムを学習させるために、テスラは何百人もの人間ラベラーを雇っています。
テスラだけでなく、他の自動車メーカーも、ビデオや画像に注釈を付けるために、社内や社外データラベラーの両方のサービスを利用しており、これらは自動運転車のアルゴリズムの学習に使用されている。
テスラは当初、Sama（旧Samasource）という会社にデータラベリングの業務を委託していました。
サンフランシスコに本社を置き、ケニアとウガンダにセンターを持つこの会社は、ゼネラルモーターズとフォードも顧客に抱えている。
しかし、時を経て、テスラは外部業者によるラベリングの品質に不満を持ったようで、社内にデータラベリングサービスを立ち上げ、1,000人の従業員まで拡大させました。
テスラの元データラベル担当者はロイターに、「親密な場面を含む、『スキャンダラスなもの』を見ることもあった」と語り、別の元社員は、他人の「人生について、誰にも見られたくないようなものをたくさん」見たと述べた。
退屈な日常にスパイスを加えるためか、自分の興奮をシェアするためか、データラベリングしていて見た画像を、グループチャットで同僚と共有せずにはいられない社員がいました。
元社員によると、このような行動はたまにしか嫌われることはなく、一般的には楽しくて活発的な人であることの証と見なされていたようです。
1人の元データラベラーはロイターに、「主任に昇進した人たちは、こうした面白いアイテムをたくさん共有し、面白い人ということで評判になった」と語った。
時には、スクリーンショットをフォトショップで加工することもあったという。
つまり、典型的なオフィスの雰囲気だが、社内の笑いに使われたのは、誰かのプライベートな画像であったということだ。
グループチャットや1対1のチャットで共有される内容は、無造作な犬の写真やユニークな車（イーロン・マスク氏専用の潜水艇もあったとされる）の写真といった無害なものから、人が倒れる、人が車に押し付けられる、車がバイクに突っ込むといった物騒なものまでさまざまでした。
そこまで「匿名化されたデータ」でもない…？
自分のデータが収集される（そして流出する可能性もある）時、それが自分自身に結び付けられることができないということには、ある程度の安心感があります。
テスラのプライバシーポリシーには、そのような約束があります。
「あなたのプライバシーを守るために、個人データはまったく記録されないか、プライバシーを保護する技術の対象となるか、テスラに送られる前にすべてのレポートから削除されるか」といういずれの方法で保護されると書かれています。
一見、安心できそうですよね。
しかし、ロイターの報道によると、Teslaのデータラベラーたちは、Googleマップ上で録画の位置を確認できるプログラムを使用していたそうです。
このため、例えば車道で録音された場合など、人の再識別につながる可能性があります。
もう、安心はできませんね。
“心ないエンターテイメント”
2020年以降PR部門を持たないテスラは、この疑惑について口を閉ざしている。
一方で、個人情報が悪用される可能性を懸念するテスラオーナーたちは、より声を上げている。
そのうちの1人、サンフランシスコ在住でモデルYのオーナーであるHenry Yehは、「車のオーナーの非常に侵入的なビデオや画像」を撮影し、「テスラ社員やおそらく社外の人々の心なく不法な娯楽」のためにその画像を共有したとして、カリフォルニア州でテスラを訴えた。
Yehは、影響を受けたすべての顧客を代表して訴訟を起こすことを望んでいます。
彼は、テスラが"不道徳、非倫理的、不謹慎、あるいは消費者を実質的に傷つけている"と非難しています。
また、従業員が使用したシステムで録画の場所がわかってしまう可能性があるとされているため、テスラが映像を匿名化せず顧客との契約を破ったとも彼は言っています。
今回のネタの件は単なるアクシデントではない可能性も
ロイターの取材に対し、テスラの元社員の中には、顧客の個人情報の扱い方が間違っていたと答えた人がいます。
「正直言って、プライバシーの侵害でした。そして、私はいつも、この人たちへの対応を見て、自分は絶対テスラを買うことはないぞと冗談していました」
と、一人の元社員の発言が引用されている。
しかし、ロイターによれば、他の2人の元社員は、大したことではないと言い、「人々はとっくに、個人情報を非公開にするという合理的な期待を捨てている」と示唆した。
後者の発言は、テスラ社のCEOであるイーロン・マスクが表明したプライバシーに対する考え方と一致しています。
有名なポッドキャスターJoe Roganとのインタビューで、マスクは、まもなくAIに支配されるであろう現代の世界におけるプライバシーの重要性に疑問を呈した。
「人々によって秘密にされていることのうち、実際に関連性のあるものはそれほど多くないと思うんです。他の人が実際に気にするようなことは。他の人が気にしていると思っても、実際には気にしていないのです。そして、政府ももちろん気にしていません」
と、 マスクは2018年にローガンに語った。
マスク氏たちが間違っている理由
マスク氏が言いたいのは、誰もあなたの個人情報など気にしていない、あなたが一晩中眠れないほど気にするようなことではない、ということです。
しかし、マスク自身の会社のやり方を見ても、人々は、時折、気にすることがある、という別の真実が現れてきます。
テスラの場合、社員は日常を楽しくするためにプライベートなビデオや写真を使っていました。
誰も自分のデータでそんなことが起こるのは嫌でしょうが、もし誰かがもっと闇の動機を持っていたらどうでしょうか。
データを脅迫に使ったり、強盗の準備に使ったりするかもしれません。
そして、有名人や政治家などの公人の場合、個人情報が悪の手に渡れば、その有名人の破滅につながる可能性もあります。
社員に悪意がない場合（掃除機メーカーのアイロボット社が雇った第三者データラべラーが所有者の親密な画像をFacebookやDiscordに流出させたケースのように）でも、被害者はデータの悪用による大きな被害を受けるかもしれません。
ロイターが語るテスラのデータラベリング部門の労働環境は、エドワード・スノーデンが語ったNSAの労働倫理（というかその欠如）と不気味に似ている。
プライバシーへのリスク：完全には避けられないが、減らすことはできる
テスラのケースは特殊なものではありません。
企業がAIアルゴリズムを改善するために“生データ”をふるいにかける人間（データラベラー）を雇う必要がある限り、テスラのようなケースは必ず起こります。
データを保護する上で人間はシステムの最も弱いところです。
従業員/社員が自分の利益のためにデータを使用したり、データを漏洩したりするリスクは常に存在します。
例えば、Googleでは、パートナー企業がGoogleアシスタントと顧客と会話を録音した1,000件以上の音声をニュースサイトに流出させ、
その後、ニュースサイトは音声録音の人物を特定することができた。
AIの時代に突入しているため、早く何とか解決しないと、事態が悪化する余地がどんどん広がってくるのは間違いないだろう。
自動車業界について言えば、最近のクルマのほとんどは、すでにAIに依存したセンサーやカメラで埋め尽くされています。
車載カメラの世界市場は2030年には690億ドルに達する見込み、車載センサーの市場は5年後には365億3000万ドルに達するという勢いです。
自動車は、駐車や安全のために、これらのカメラやセンサーを必要としており、これらのない自動車産業の未来は考えられません。
技術の進歩とそれに伴うプライバシーのリスクを受け入れるか、カメラの数が少ない車を買うかというジレンマが私たちにある。
後者の方がプライバシーの面では安全かもしれないが、その代わり利便性が落ちるかもしれない。
しかし、自動運転車という技術進歩の結果が盛んになっても、プライバシーへのリスクを最小化する方法はあるのです。
少なくとも、車を購入する前にメーカーのプライバシーポリシーを調べ、メーカーが提供する既存のプライバシーオプションを活用することは可能です。
例えば、テスラでは車のタッチスクリーンからデータの共有をオプトアウトすることができます（オプトアウトによってデータの収集が実際に停止されることを期待するしかありませんが、それは別の問題です）。
また、テスラがあなたについてすでに知っていることを知るには、お使いのテスラアカウントに関連する情報のコピーを要求することもできます。
