L'histoire de mèmetisation des vidéos privées par les employés de Tesla et pourquoi c'est important

'Le respect pour votre vie privée dès le premier jour' : c'est l'une des premières lignes de l'avis de confidentialité de Tesla destiné aux clients. Le constructeur de voitures électriques y affirme que "votre vie privée est et sera toujours extrêmement importante pour nous "* Bien qu'ils aient promis de respecter votre vie privée dès l'achat de la voiture, Tesla n'ont apparemment pas tenu leur parole. Dans un rapport récent, Reuters a révélé que des vidéos et des photos privées provenant des caméras des voitures des clients ont été partagées et parfois tournés en mème par les employés de Tesla dans des chats de groupe.

Cette pratique s'est répandue de 2019 à au moins 2022, a rapporté Reuters, citant des entretiens avec neuf anciens employés qui ont décidé de tout révéler. Les images, allant de dérangeantes à profondément intimes, provenaient de plusieurs caméras intégrées dans les modèles de Tesla.

Des caméras uniquement, s'il vous plaît

Au fil des ans, Tesla s'est progressivement appuyée de plus en plus sur les caméras pour soutenir les fonctions d'auto-conduite de la voiture, tout en retirant d'autres capteurs. Tesla a d'abord retiré les radars de ses véhicules, bien qu'il soit possible qu'elle les réintroduise, et l'année dernière, elle s'est débarrassée des capteurs à ultrasons en faveur du système "Tesla Vision", qui ne comporte que des caméras.

Ce système repose sur 8 caméras placées stratégiquement autour de la voiture : trois à l'avant, deux tournées vers l'avant et deux tournées vers l'arrière sur les côtés, et une à l'arrière. Ces caméras utilisent l'intelligence artificielle pour traiter et interpréter les images en temps réel, ce qui permet à la voiture de voir et de comprendre son environnement. Certaines Teslas sont également équipées d'une caméra orientée vers le conducteur et montée au-dessus de la lunette arrière. La "caméra d'habitacle" surveille le conducteur et émet un signal sonore si vous ne gardez pas les yeux sur la route et les mains sur le volant.

Tesla assure ses clients que leur vie privée est protégée et qu'elle n'accède pas aux images ou aux vidéos de la caméra de l'habitacle ou de toute autre caméra et ne les partage pas sans consentement préalable. Mais même si vous optez pour un tel partage de données, Tesla affirme qu'elle n'utilise les données qu'à trois fins spécifiques : pour communiquer avec vous, pour vous fournir des services tels que des mises à jour automatiques et pour améliorer ses produits et services (inutile de dire qu'il n'est pas question d'utiliser les données des clients pour s'amuser).

Les caméras étant la principale source d'information du système Autopilot de Tesla (par exemple, le système Active Driving Assist de Ford est alimenté par des données provenant à la fois de caméras et d'un capteur radar), il est essentiel qu'elles puissent détecter les objets avec précision. C'est là que le travail des étiqueteurs de données humains entre en jeu, et que les problèmes commencent.

Des mèmes autour des mésaventures

Le fonctionnement de l'intelligence artificielle peut ressembler à de la magie, mais elle repose toujours en grande partie sur la contribution humaine. Pour apprendre aux systèmes d'IA à repérer des objets sur la route, tels que les voitures, les panneaux de signalisation, les piétons et les voies, Tesla emploie des centaines d'étiqueteurs humains. Tesla n'est pas le seul à le faire ; d'autres constructeurs automobiles font également appel aux services d'étiqueteurs internes et externes pour annoter les vidéos et les images, qui sont ensuite utilisées pour enseigner les algorithmes de la voiture auto-conduite.

Au départ, Tesla a confié les tâches d'étiquetage des données à une entreprise appelée Sama (anciennement Samasource). Basée à San Francisco avec des centres au Kenya et en Ouganda, elle compte General Motors et Ford parmi ses clients. Cependant, au fil du temps, Tesla est apparemment devenue insatisfaite de la qualité de l'étiquetage qu'elle obtenait des sous-traitants et a mis en place un service interne d'étiquetage des données qui a grandi jusqu'à employer 1 000 personnes.

Un ancien employé du laboratoire de données de Tesla a déclaré à Reuters qu'il lui arrivait de voir des "choses scandaleuses", y compris des "scènes d'intimité". Un autre ancien employé a déclaré qu'il était au courant de "beaucoup de choses que je ne voudrais pas que quelqu'un voie dans ma vie "*.

Pour pimenter leur routine ennuyeuse ou montrer leur excitation, certains travailleurs ne pouvaient apparemment pas résister à l'envie de partager les images "cool" qu'ils voyaient avec leurs collègues dans les chats de groupe. Selon les témoignages des anciens employés, ce comportement n'était qu'occasionnellement désapprouvé et était généralement considéré comme un exemple d'amusement et d'engagement. "Les personnes promues à des postes de direction partageaient beaucoup de ces images et gagnaient en notoriété grâce à leur sens de l'humour", a déclaré un ancien étiqueteur à l'agence Reuters. Parfois, les travailleurs embellissaient les captures d'écran à l'aide de photoshop - en d'autres termes, l'ambiance typique d'un bureau, sauf qu'il s'agissait de moments privés de quelqu'un d'autre utilisés pour l'amusement en interne.

Les types de contenus partagés dans les chats de groupe et individuels allaient de l'inoffensif, comme des photos de chiens ou de voitures uniques (y compris, semble-t-il, le véhicule submersible d'Elon Musk), au plus inquiétant, comme des personnes tombant, des personnes forcées de monter dans des voitures et des voitures percutant des bicyclettes.

‘Données anonymes’… ou pas vraiment ?

Quand ce sont vos données qui sont collectées (et potentiellement divulguées), c'est peut-être même un peu rassurant de savoir qu'elles ne peuvent pas être retracées jusqu'à vous. C'est ce que promet la politique de confidentialité de Tesla. Elle se lit comme suit : "Pour protéger votre vie privée, les données personnelles ne sont pas enregistrées du tout, sont soumises à des techniques de préservation de la confidentialité ou sont supprimées de tous les rapports avant d'être envoyées à Tesla." Rassurant, n'est-ce pas ?

Pourtant, selon Reuters, les personnes chargées de l'étiquetage des données ont utilisé un programme qui leur permettait de visualiser l'emplacement des enregistrements sur Google Maps. Cela pourrait potentiellement conduire à une réidentification, par exemple lorsque l'enregistrement est effectué dans votre allée. Et ça, ce n'est plus si rassurant, hein ?

‘Un spectacle de mauvais goût’

Tesla, qui n'a plus de service de relations publiques depuis 2020, est restée très discrète sur ces allégations. En revanche, les propriétaires de Tesla, inquiets de la possible utilisation abusive de leurs données personnelles, se sont montrés plus virulents. L'un d'entre eux, Henry Yeh, résident de San Francisco et propriétaire d'une Model Y, a poursuivi Tesla en Californie pour avoir capturé "des vidéos et des images hautement invasives des propriétaires de voitures " et les avoir partagées pour le "divertissement de mauvais goût et diffamatoire des employés de Tesla, et peut-être de personnes extérieures à l'entreprise ".

Yeh souhaite que son action en justice représente tous les clients concernés. Il accuse Tesla d'être "immorale, contraire à l'éthique, sans scrupules ou très préjudiciable aux consommateurs". Il affirme également que Tesla a rompu son contrat avec les clients n'ayant pas préservé l'anonymat des enregistrements, car le système utilisé par les employés aurait pu révéler l'emplacement des enregistrements.

Pourquoi le 'memegate' de Tesla pourrait être plus qu'un simple accident

Interrogés par Reuters sur ce qui s'est passé, certains anciens employés de Tesla ont déclaré que la manière dont les informations privées des clients ont été traitées n'était pas correcte. "Pour être honnête, il s'agissait d'une violation de la vie privée. J'ai toujours dit en plaisantant que je n'achèterais jamais de Tesla après avoir vu comment ils traitaient certaines de ces personnes ", a déclaré un ancien employé.

Mais deux autres ex-employés ont déclaré que ce n'était pas grave, suggérant, selon Reuters, que "les gens avaient depuis longtemps abandonné toute idée raisonnable de préserver la confidentialité de leurs données personnelles "*.

Cette dernière déclaration fait écho à l'attitude à l'égard de la vie privée exprimée par nul autre que le PDG de Tesla, Elon Musk. Lors d'une interview avec le podcasteur Joe Rogan, Musk a remis en question l'importance de la vie privée dans le monde moderne, qui sera bientôt dominé par l'IA. Je pense qu'il n'y a pas grand-chose qui est gardé privé par les gens et qui soit vraiment pertinent. Ce qui intéresse les autres. Quand on pense que les autres s'en préoccupent, ils ne s'en préoccupent pas vraiment. Et, certainement, les gouvernements ne s'en soucient pas " Musk a déclaré à Rogan en 2018.

Pourquoi Musk et Cie se trompent

Ce que Musk semble dire, c'est que personne ne se soucie de vos données privées, que ce n'est pas quelque chose qui devrait vous faire perdre le sommeil. Mais les pratiques de sa propre entreprise trahissent une autre vérité : les gens, occasionnellement, s'en soucient. Dans le cas de Tesla, les employés utilisaient des vidéos et des photos privées pour briser la routine. De toute façon, vous ne voudriez pas que cela se produise avec vos données, mais que se passerait-il si quelqu'un d'autre avait un motif funeste ? Quelqu'un pourrait utiliser ces données à des fins de chantage ou pour préparer un cambriolage. Et si vous êtes une personnalité publique, comme une célébrité ou un homme politique, vos données privées peuvent être à l'origine de votre perte si elles tombent entre de mauvaises mains.

Les employés peuvent ne pas avoir d'intentions malveillantes (comme les étiqueteurs de données tiers engagés par le fabricant d'aspirateurs iRobot qui ont divulgué les images intimes de leurs propriétaires à Facebook et Discord), mais les victimes de l'utilisation abusive des données peuvent quand même souffrir énormément. L'environnement de travail du département d'étiquetage de Tesla, tel que décrit par Reuters, ressemble étrangement à l'éthique de travail (ou à l'absence d'éthique) de la NSA, décrite par Edward Snowden.

Les risques pour la vie privée que vous ne pouvez pas éviter, mais que vous pouvez réduire

Le cas de Tesla n'est pas unique. Tant que les entreprises devront embaucher des humains pour passer au crible les données brutes pour affiner les algorithmes d'IA, des cas comme celui de Tesla ne manqueront pas de se produire. Les humains sont le maillon faible lorsqu'il s'agit de protéger les données : il y a toujours un risque pour un employé d'utiliser les données à son propre avantage ou de les divulguer. C'est ce qui s'est passé avec Google, par exemple, dont les partenaires ont divulgué à un site d'information plus de 1 000 enregistrements audio de conversations de clients avec l'assistant Google - le site d'information a ensuite réussi à identifier certaines des personnes figurant dans les clips vocaux.

Nous entrons dans l'ère de l'IA, il y a donc tout à parier que si nous ne résolvons pas ce problème d'une manière ou d'une autre dans les plus brefs délais, il y aura de plus en plus de possibilités de dérapage. En ce qui concerne l'industrie automobile, la plupart des voitures modernes sont déjà truffées de capteurs et de caméras qui reposent sur l'IA. Le marché mondial des caméras automobiles devrait atteindre 69 milliards de dollars d'ici à 2030, tandis que celui des capteurs automobiles devrait atteindre 36,53 milliards de dollars dans cinq ans. Les voitures ont besoin de ces caméras et de ces capteurs pour se conduire elles-mêmes, pour se garer et pour assurer leur sécurité, et il est impossible d'imaginer l'avenir de l'industrie automobile sans eux.

Nous sommes donc face à un dilemme : accepter les avancées technologiques et les risques pour la vie privée qui en découlent, ou acheter une voiture qui ne soit pas équipée d'autant de caméras. Cette dernière option serait probablement plus sûre en termes de protection de la vie privée, mais elle pourrait aussi être moins pratique. Mais même si nous succombons aux fruits du progrès technologique - les voitures plus ou moins autonomes - il existe encore des moyens de minimiser les risques pour la vie privée.

Pour le moins, vous pouvez étudier les politiques de confidentialité des constructeurs avant d'acheter une voiture et tirer parti des options de confidentialité existantes qu'ils proposent. Par exemple, Tesla vous permet de refuser le partage de données par l'intermédiaire de l'écran tactile de votre voiture (on ne peut qu'espérer que votre refus mettra réellement fin à la collecte de données, mais c'est un autre problème). Et pour savoir ce que Tesla sait déjà sur vous, vous pouvez demander une copie des informations associées à votre compte Tesla - être informé, c'est être armé.