Digest AdGuard : fuite de données par ChatGPT, la France légalise la surveillance par aide de IA, etc.

Dans cette édition du condensé d'actualités d'AdGuard : ChatGPT expose les données personnelles, Instagram ajoute encore plus de publicités, une entreprise financée par la CIA gère les dossiers des patients, la France est sur le point d'autoriser la surveillance basée sur l'IA, un autre État américain obtient sa propre loi sur la protection de la vie privée, tandis que la police se tourne de plus en plus vers la technologie de reconnaissance faciale.

ChatGPT divulgue des chats et des informations de paiement dans le cadre de la première grande fuite de données

ChatGPT, un chatbot à intelligence artificielle très populaire, a subi sa première violation de données personnelles. La violation a révélé les titres de chat de certains utilisateurs et les messages initiaux de leurs conversations avec le chatbot à d'autres utilisateurs, qui ont pu les voir dans leur propre historique de chat. En outre, certaines informations relatives au paiement d'environ 1,2 % des utilisateurs actifs de ChatGPT Plus ont pu être exposées. Ces informations auraient pu inclure le nom complet de l'utilisateur, son adresse électronique, les quatre derniers chiffres de son numéro de carte bancaire et sa date d'expiration.

OpenAI, la société à l'origine de ChatGPT, a attribué la fuite à un bogue dans une bibliothèque open-source qu'elle utilise pour ChatGPT. Dans un communiqué, OpenAI a déclaré que le bogue avait été corrigé depuis et qu'il n'y avait "pas de risque permanent pour les données des utilisateurs ".

La première atteinte à la confidentialité par ChatGPT s'est produite assez rapidement, mais elle n'aurait pas dû être une grande surprise. La protection de la vie privée est un aspect que les développeurs d'outils d'intelligence artificielle ont mis en arrière-plan en entraînant leurs modèles sur des données, y compris des contenus protégés par des droits d'auteur, récupérés sur l'ensemble de l'internet. En fait, vous ne devez pas vous attendre à une grande protection de la vie privée lorsque vous utilisez ChatGPT : Les conditions d'utilisation d'OpenAI indiquent ouvertement qu'elle peut utiliser vos messages et vos images pour améliorer ses services, quoi que cela puisse signifier.

Instagram vous offre quelque chose que personne n'a demandé : plus de publicités

Depuis qu'il a commencé à afficher des publicités en 2013, Instagram semble s'être donné pour mission d'insérer autant de publicités que possible dans votre fil d'actualité. Cette tendance se poursuivra en 2023, car Instagram vient d'introduire deux nouveaux types de publicités : des publicités qui apparaissent lorsque vous recherchez quelque chose et des publicités qui vous rappellent des produits que vous avez déjà consultés.

Les "annonces de recherche" apparaîtront dans votre fil d'actualité après tout clic sur des publications à partir des résultats de recherche. Ce format publicitaire en est encore à ses débuts et devrait être disponible dans le monde entier au cours des prochains mois. Les "publicités de rappel" promettent d'être moins intrusives, car vous devez choisir d'y participer pour recevoir des notifications sur le début d'un événement annoncé.

Ce n'est un secret pour personne que nous ne sommes pas les plus grands fans de publicités, surtout lorsqu'il s'agit d'Instagram, une plateforme qui est déjà sursaturée de publicités et de posts "sponsorisés". Le nouveau placement des publicités sera-t-il la goutte d'eau qui fera déborder le vase ? C'est peu probable, mais cela pourrait accélérer la migration des utilisateurs souffrant de "lassitude à l'égard des publicités" vers d'autres plateformes plus propres telles que BeReal.

Les hôpitaux britanniques auraient reçu l'ordre de partager des données avec une société américaine de technologie d'espionnage

Palantir, une société d'extraction de données ayant des liens avec la CIA, aurait été engagée pour collecter et traiter des "informations confidentielles sur les patients " des hôpitaux publics britanniques, OpenDemocracy a rapporté. Selon un document interne cité par la publication, des centaines d'hôpitaux ont reçu l'ordre de commencer à télécharger les dossiers des patients dans une base de données gérée par Palantir. Cette base de données utilise le logiciel Foundry de Palantir, qui intègre des données provenant de différentes sources et aide à les analyser.

Palantir a déjà travaillé pour le NHS : en 2020, elle était responsable du déploiement du vaccin Covid-19. Depuis, l'entreprise américaine a obtenu des dizaines de millions de dollars de contrats avec le gouvernement britannique et vise un nouveau contrat de 580 millions de dollars pour la construction d'une base de données du NHS.

Le gouvernement britannique a assuré que Palantir n'aurait pas accès aux informations susceptibles d'exposer l'identité des personnes, car celles-ci seraient "masquées" par pseudo-anonymisation. Il s'agit d'une méthode dans laquelle les informations qui peuvent être utilisées pour identifier les personnes sont séparées du reste des données. Toutefois, cette méthode n'est pas infaillible, car les informations "masquées" peuvent être à nouveau fusionnées avec les données connues, ce qui crée un risque sérieux pour la vie privée et la sécurité. Et le fait que ces données soient traitées par Palantir, une société connue pour son travail avec la police et le FBI, rend la situation encore plus inquiétante.

Liberté, égalité, surveillance: La France légalise un système de surveillance alimenté par l'IA

La France s'est rapprochée de la légalisation de l'utilisation de l'IA pour la surveillance, devenant ainsi le premier pays de l'UE à le faire. Les deux chambres du Parlement français ont approuvé à une écrasante majorité le projet de loi qui autorise l'utilisation de logiciels d'IA pour surveiller les personnes pendant les Jeux olympiques et paralympiques qui se tiendront à Paris l'année prochaine.

La mesure est censée être temporaire, mais comme le dit l'adage, rien n'est plus permanent qu'un programme gouvernemental temporaire. Les partisans du projet de loi affirment que le mélange de caméras et d'intelligence artificielle est nécessaire pour mettre fin aux bousculades et aux attentats. Le gouvernement français affirme que la surveillance n'impliquerait pas de reconnaissance faciale. Cependant, les critiques affirment qu'elle impliquerait nécessairement la collecte et le traitement d'autres données biométriques, y compris l'apparence, la posture, les gestes et la démarche, qui suffiraient à identifier une personne. Les organisations de défense des libertés civiles affirment que le système proposé pourrait conduire à une "attaque en règle contre les droits à la vie privée, à la protestation et à la liberté de réunion ".

En effet, la loi risque de mettre la France sur une pente glissante vers un véritable État de surveillance et de l'éloigner encore plus du Pays des Droits de l'Homme, son légendaire surnom. En outre, cela pourrait constituer un dangereux précédent pour le reste de l'UE.

La police américaine s'appuie de plus en plus sur la technologie de reconnaissance faciale

Si vous avez besoin d'un exemple de ce que cette pente glissante peut entraîner, ne cherchez pas plus loin que les États-Unis, où la police a effectué près d'un million de recherches dans une base de données compilée par Clearview AI, une société américaine spécialisée dans la reconnaissance faciale. C'est le PDG de Clearview, Hoan Ton-That, qui l'a révélé. Il a déclaré que l'entreprise a maintenant récupéré 30 milliards d'images sur l'internet et les a placées dans une base de données qui peut être consultée par la police. Les images ont été recueillies à l'insu des utilisateurs et sans leur consentement.

L'année dernière, Clearview AI s'est vu interdire de vendre son logiciel aux entreprises privées et aux particuliers américains, mais pas aux services de police. Certains États et villes des États-Unis ont pris les choses en main et ont interdit ou fortement limité l'utilisation de la technologie de reconnaissance faciale par la police. D'autres ne l'ont pas fait. Ainsi, la police de Miami a déclaré à la BBC qu'elle utilisait la reconnaissance faciale pour "tous" les types de crimes.

La manière dont Clearview collecte les données biométriques sans que les personnes en soient conscientes ou y consentent constitue une violation de la vie privée. Des millions de personnes risquent ainsi de voir leurs données personnelles utilisées à mauvais escient. En tant qu'entreprise privée, Clearview opère sous le sceau du secret, de sorte que l'on peut également s'interroger sur la précision de son algorithme. On sait que l'IA de reconnaissance faciale peut avoir des préjugés raciaux et provoquer de fausses arrestations. L'IA a de nombreuses utilisations positives, mais la mise en place d'un État de surveillance n'en fait pas partie. Afin d'empêcher l'utilisation de l'IA à ces fins, il est nécessaire de renforcer la réglementation.

Un autre État américain dispose désormais d'une loi complète sur la confidentialité des données

Pour ne pas terminer notre digest sur une mauvaise note, voici une bonne nouvelle : l'Iowa vient de devenir le sixième État américain et le premier du Midwest à adopter une loi complète sur la protection de la vie privée. Cette loi permet aux habitants de l'État de mieux contrôler leurs informations personnelles, notamment en leur donnant le droit de refuser la vente de leurs données personnelles et leur utilisation à des fins de publicité ciblée.

La loi vise à combler le vide laissé par l'absence de législation fédérale américaine en matière de protection de la vie privée. Elle entrera en vigueur en 2025 et s'appliquera aux entreprises qui traitent les données personnelles d'au moins 100 000 habitants de l'Iowa au cours d'une année, ou qui tirent plus de 50 % de leurs revenus de la vente de données personnelles et traitent en même temps les données d'au moins 25 000 consommateurs dans l'État. En adoptant cette loi, l'Iowa suit les traces de la Californie, du Colorado, du Connecticut, de l'Utah et de la Virginie, qui ont tous adopté une législation similaire.

Si la nouvelle loi constitue un grand pas en avant en termes de protection de la vie privée dans l'État, le simple fait que l'Iowa ne soit que le sixième État sur 50 à disposer d'une telle loi reflète le piètre état de la protection de la vie privée dans l'ensemble des États-Unis. Une loi fédérale sur la protection de la vie privée est attendue depuis longtemps, et il faut espérer qu'elle arrivera le plus tôt possible.