L'histoire d'un aspirateur robot qui a divulgué des photos intimes

Même si vous n'êtes pas un geek, vous avez probablement quelques appareils "intelligents" à la maison. L'aspirateur, le meilleur ami de toute ménagère moderne, est probablement l'un d'entre eux. Un aspirateur robot peut balayer les sols, ramasser la poussière, les poils d'animaux - mais aussi vos données.

Les politiques de confidentialité de la plupart des assistants ronronnants stipulent que le fabricant peut collecter des informations vous concernant pour améliorer ses produits et services, à condition que vous acceptiez. Mais qui ne souhaite pas que son aspirateur évolue pour éviter les crottes de chien, évite les fils électriques et réalise d'autres tours de passe-passe, comme ne pas rester coincé sous le lit ? Et qui lit la politique de confidentialité avant de cliquer sur "accepter" ? En outre, on peut avoir l'impression qu'un algorithme impartial traitera les données collectées ou, à tout le moins, que ces données resteront chez le fabricant et ne seront pas répandues sur Internet - il n'y a donc pas lieu de s'inquiéter.

iSpy: comment un aspirateur robot a divulgué des photos intimes

Mais cette hypothèse n'est que partiellement vraie. Si l'IA est en passe de remplacer les humains, elle n'en est pas encore là. Le MIT Technology Review a révélé le mois dernier que le principal fabricant d'aspirateurs robots, iRobot, avait engagé des sous-traitants tiers pour passer au crible et étiqueter les données brutes collectées par la version de développement de son robot Roomba série j7. iRobot a partagé ces données avec une startup appelée Scale AI, qui les a à son tour partagées avec des sous-traitants indépendants du Venezuela, qui les ont à leur tour partagées sur... Facebook et Discord.

Ces travailleurs peu payés ont été chargés d'étiqueter les meubles et autres objets que les caméras du Roomba ont capturés. La majorité des 15 images obtenues par le MIT Technology Review à partir de groupes de médias sociaux privés étaient assez inoffensives : elles montraient des portes, des étagères, des armoires de cuisine, des lumières, des comptoirs, etc. Mais plusieurs photos étaient bien plus accablantes. Une série d'images prises sous différents angles montrait une femme assise sur un siège de toilettes - sur certaines des photos, son visage est clairement visible. Une autre image montrait un enfant vautré sur le sol et fixant directement l'appareil photo, son visage n'étant pas non plus flou.

La fuite a déclenché un jeu de reproches. iRobot a accusé Scale AI d'avoir violé le contrat en permettant la publication des images. Scale AI, pour sa part, a accusé les travailleurs vénézuéliens de violer leur contrat.

On pourrait arguer qu'iRobot a été victime d'un mauvais sous-traitant. En effet, si les étiqueteurs n'avaient pas fait la gaffe de poster les photos sur les médias sociaux, rien n'aurait été révélé. Mais le problème est bien plus profond que celui d'une bande de travailleurs qui n'ont pas encore compris le concept de la vie privée - il s'agit de savoir combien de données les entreprises technologiques glanent sur nous et avec qui elles les partagent.

Le problème du consentement

Pour sa défense, iRobot a affirmé que le modèle qui a capturé les images compromettantes n'était pas vendu en magasin, mais qu'il était uniquement distribué à des "collecteurs et employés rémunérés ". Selon iRobot, ces personnes avaient toutes consenti à ce que leurs données, y compris les vidéos, soient utilisées pour l'entraînement de l'IA. iRobot n'a toutefois pas précisé si les volontaires savaient que leurs données intimes seraient vues par d'autres humains. Le formulaire de consentement mentionnait seulement que les données seraient partagées avec des "fournisseurs de services ", selon la MIT Review.

iRobot a admis avoir partagé les données visuelles recueillies par ses aspirateurs - plus de 2 millions d'images au total - avec de multiples sous-traitants et pas seulement avec Scale AI. Selon iRobot, avant de remettre les données, elle filtre les images où un utilisateur est nu ou autrement compromis. L'entreprise n'a toutefois pas précisé pourquoi l'image d'une femme sur les toilettes n'a pas été supprimée.

Qu'est-ce que votre aspirateur sait sur vous

iRobot affirme qu'elle n'espionne pas les consommateurs ordinaires. Mais, techniquement, rien ne l'empêche de collecter de grandes quantités d'informations précises sur le domicile d'utilisateurs peu méfiants.

Tout d'abord, les aspirateurs robots collectent ces données lorsqu'ils cartographient votre maison - ce qui implique de dessiner un plan détaillé de toutes les pièces de votre maison lors du nettoyage initial. Ce plan aide le robot à comprendre la disposition des pièces afin qu'il ne nettoie pas deux fois le même endroit et ne se heurte pas à des coins. Plus la technologie de cartographie est avancée, plus la carte est précise et plus le nettoyage est efficace. Dans le cas du modèle j7 d'iRobot, l'aspirateur peut collecter ces données grâce à une caméra frontale alimentée par l'IA, ce qui représente un progrès par rapport à la technologie de cartographie basée sur un gyroscope et un accéléromètre utilisée par les modèles moins chers. Le fait d'être équipé d'une caméra ne donne pas seulement à un aspirateur robot un avantage sur ses concurrents aveugles, mais comporte également des risques évidents en matière de vie privée - puisqu'il est désormais capable de voir ce qui se passe et de prendre des photos.

Ainsi, le modèle Roomba j7+ d'iRobot peut reconnaître et prendre lui-même des photos de déchets et de câbles d'animaux domestiques et les partager avec une application pour smartphone, si vous l'acceptez. Vous pouvez également choisir de partager vos données avec iRobot ; dans ce cas, les images seront cryptées et envoyées à l'entreprise, où des employés les examineront. En ce qui concerne les images de personnes, le logiciel de l'aspirateur est censé éteindre automatiquement la caméra si une personne ou une photo d'une personne se trouve dans son champ de vision. Mais, comme nous l'avons vu dans le rapport du MIT Review, les dispositifs de protection ne fonctionnent pas toujours.

Photo: YoonJae Baik/Unsplash

De plus, comme le dit le dicton, l'appétit (pour les données) vient en mangeant, ou plutôt en aspirant et en passant la serpillère dans ce cas.

La technologie existante permet aux robots aspirateurs d'obtenir une foule d'informations précieuses sur votre vie, qui peuvent être utiles à des tiers, comme les publicitaires. Et il ne s'agit pas seulement de la taille de votre maison, du fait que vous ayez deux ou une chambre à coucher, ou du fait que vous ayez un animal de compagnie qui fait ses besoins partout - bien que ce soit déjà, peut-être, plus que ce que vous voulez que des étrangers découvrent. L'aspirateur peut également obtenir des informations sur vos habitudes quotidiennes. Grâce à iRobot OS, un système d'exploitation basé sur le cloud pour les aspirateurs robots, vous pouvez configurer l'aspirateur iRobot de sorte qu'il commence automatiquement à nettoyer lorsque vous quittez la maison et s'arrête à votre retour. Le robot peut également être associé à des assistants vocaux tels qu'Amazon Alexa, Apple Siri et Google Assistant afin qu'il réponde à vos commandes vocales.

Le système d'exploitation d'iRobot étant basé sur le cloud, toutes ces informations peuvent potentiellement être consultées par des employés malhonnêtes ou partagées avec des tiers, comme les forces de l'ordre. Et la quantité d'informations que les robots aspirateurs peuvent accumuler est tout simplement impressionnante. Colin Angle, PDG d'iRobot, a déclaré au Verge en mai que les aspirateurs j7 ont jusqu'à présent détecté plus de 43 millions d'objets dans les maisons des gens et appris à identifier et à éviter 80 objets individuels. Cela signifie essentiellement que le fabricant est assis sur un trésor de données. La question est de savoir s'il va l'ouvrir et pour qui ?

Amazon et iRobot — un mariage fait dans l'enfer de la vie privée ?

Ce n'est peut-être pas une coïncidence si l'amélioration du système de navigation d'iRobot et la refonte de son logiciel basé sur le cloud ont suscité l'intérêt d'Amazon. En août de cette année, les deux sociétés ont signé un accord de fusion, selon lequel Amazon paiera 1,7 milliard de dollars pour iRobot. L'opération, qui doit encore être approuvée par les autorités réglementaires, a déclenché une tempête de protestations.

Un certain nombre d'organisations de protection de la vie privée, dont l'Electronic Frontier Foundation, ont exhorté le régulateur américain à faire échouer l'acquisition, arguant que le mélange potentiel des données d'Amazon et d'iRobot mettrait "en péril la vie privée des consommateurs ".

"Connecter les appareils iRobot au système domestique Amazon, déjà intrusif, incite à collecter davantage de données à partir d'un plus grand nombre d'appareils domestiques connectés, ce qui pourrait inclure des détails privés sur nos habitudes et notre santé qui mettraient en danger les droits de l'homme et la sécurité " était écrit dans la lettre.

En fait, iRobot a envisagé l'idée de partager des données avec Big Tech bien avant de se contenter d'Amazon. En 2017, le PDG d'iRobot, M. Angle, a déclaré que son entreprise pourrait partager les cartes des maisons des clients gratuitement avec des entreprises comme Amazon, Apple et Google, avec le consentement des clients, à l'avenir.

Il faut noter que l'acquisition imminente d'iRobot par Amazon ne fait que s'inscrire dans une tendance plus large et plutôt inquiétante.

L'année dernière, Google a acheté la société de suivi de la condition physique Fitbit pour 2,1 milliards de dollars, ce qui a suscité des préoccupations similaires en matière de protection de la vie privée. En fin de compte, Google a accepté de stocker les données de Fitbit séparément et de ne pas les utiliser pour les publicités Google pendant au moins 10 ans afin que l'opération d'acquisition soit acceptée par la Commission européenne. C'est à vous de décider si vous devez faire confiance à Google sur ce point, mais l'histoire montre que ses promesses en matière de protection de la vie privée ne sont pas gravées dans la pierre.

Les capteurs s'améliorent, les problèmes de confidentialité s'aggravent

À l'instar des robots aspirateurs à caméra, il existe également des robots à laser qui utilisent un laser invisible tournant pour glaner des informations détaillées sur la taille des pièces et des obstacles. Cette technologie de pointe, appelée LiDAR (Light Detection and Ranging), est considérée comme la "référence en matière de navigation pour aspirateurs " . Les robots à laser ont tendance à être plus précis que leurs homologues à caméra et sont généralement beaucoup plus rapides. Et bien qu'ils ne puissent pas capturer autant de données visuelles, ils représentent également une menace pour la vie privée, bien que de nature différente.

Des chercheurs ont découvert que les appareils qui utilisent le LIDAR peuvent être piratés pour collecter des données audio dans les maisons. Même s'ils ne sont pas équipés de microphones, ces aspirateurs robots peuvent être détournés "pour espionner les conversations et potentiellement révéler des informations privées ", concluent les chercheurs de l'Université du Maryland et de Singapour. Dans l'article intitulé Spying with Your Robot Vacuum Cleaner : Eavesdropping via Lidar Sensors, les chercheurs décrivent comment ils ont utilisé un aspirateur Xiaomi Roborock pour enregistrer avec succès des paroles et de la musique avec une précision de plus de 90 %.

Photo: Elena Mozhvilo/ Unsplash

On peut supposer que les capteurs s'amélioreront avec le temps, car la demande de précision et d'efficacité lors du nettoyage ne fera qu'augmenter. Qui voudrait que son aspirateur trébuche sur un cordon, heurte la gamelle d'un chien ou éparpille ses déchets ? Cela signifie que la capacité des aspirateurs à collecter des données dans les maisons va également augmenter. Par ailleurs, pour plus de précision, les fabricants pourraient envisager d'installer plusieurs caméras à la fois (par exemple au plafond et à l'avant), ou d'utiliser à la fois un laser et une caméra pour la navigation - cela leur permettra potentiellement de collecter encore plus de données.

Comment équilibrer les risques

Les appareils connectés à Internet représentent une menace sérieuse pour la vie privée, et les aspirateurs robotisés ne font pas exception. Le fait est que, contrairement aux assistants vocaux et aux sonnettes intelligentes, qui sont des appareils fixes, les aspirateurs peuvent se déplacer et, dans certains cas, prendre des photos de l'intérieur de votre maison. Ce qui les rend encore plus dangereux du point de vue de la vie privée.

Même si les fabricants peuvent vous assurer qu'ils prennent toutes les précautions nécessaires pour ne pas laisser fuir les informations confidentielles des utilisateurs, les protections peuvent échouer, comme nous l'avons vu dans le cas du Roomba. C'est pourquoi le choix est souvent entre la vie privée, la sécurité, d'une part, et la commodité, d'autre part.

L'option la plus respectueuse de la vie privée consistera à "abrutir" votre maison intelligente et à remplacer un aspirateur robot par un bon vieil aspirateur à fil que vous devrez brancher manuellement sur une prise et faire glisser sur le sol. Bien qu'elle soit respectueuse de la vie privée et rentable, cette option ne permet pas de gagner du temps ou de l'argent. Et si vous êtes prêt à sacrifier une partie de votre vie privée et de votre sécurité au profit de la commodité, vous devez être conscient des risques et suivre quelques règles de base :

• Optez pour des fournisseurs dignes de confiance offrant un service après-vente, afin que vos données soient moins exposées à un risque potentiel d'oubli.

• Lisez la politique de confidentialité et les conditions d'utilisation des services et cochez soigneusement les paramètres de confidentialité. Bien que certaines fonctions puissent ne pas fonctionner si vous n'acceptez pas un certain degré de partage des données, n'acceptez pas de partager plus de données que nécessaire pour le fonctionnement de votre appareil.

• Nous recommandons généralement d'utiliser le filtrage DNS pour bloquer l'accès aux serveurs publicitaires et aux sites de suivi. Cependant, lorsque la collecte de données fait partie des fonctionnalités de base de l'appareil, elle ne peut pas être restreinte sans compromettre le fonctionnement de cet appareil - cela est vrai non seulement pour les aspirateurs, mais aussi pour d'autres appareils IoT, tels que les enceintes intelligentes.