Le chatbot IA de Snapchat met en péril la vie privée, en particulier celle des enfants

My AI, le chatbot de Snapchat alimenté par l'IA, n'est pas sûr pour les utilisateurs, en particulier les enfants, a averti l'Information Commissioner's Office (ICO) du Royaume-Uni.

*Les conclusions provisoires de notre enquête suggèrent que Snap n'a pas identifié et évalué de manière adéquate les risques pour la vie privée des enfants et des autres utilisateurs avant de lancer 'My AI'", a déclaré l'organisme de surveillance le 6 octobre.

Lancé en février et mis à la disposition de tous les utilisateurs de Snapchat en avril, le robot est intégré directement dans l'interface de l'application. Placé au-dessus de vos discussions avec vos amis, il ne peut pas être supprimé ou épinglé depuis son point d'observation (à moins que vous ne disposiez d'un abonnement Snapchat+).

Dans sa déclaration, l'ICO n'a pas révélé comment le chatbot My AI, alimenté par le ChatGPT d'OpenAI, viole (prétendument) la vie privée de millions d'utilisateurs de Snapchat, dont environ 20 % sont des adolescents âgés de 13 à 17 ans. Toutefois, ces transgressions présumées sont suffisamment graves pour que l'ICO note qu'à moins que Snap ne s'explique auprès de l'organisme de surveillance, il pourrait être tenu de fermer My AI au Royaume-Uni "dans l'attente ... d'une évaluation adéquate des risques "

Qu'est-ce qui ne va pas avec My AI, le chatbot au visage bleu souriant ? Eh bien, beaucoup de choses.

My AI peut utiliser vos chats pour des publicités

Snap affirme que My AI est un ami numérique qui peut vous aider à accomplir diverses tâches, comme choisir un cadeau d'anniversaire, planifier un voyage ou même écrire un haïku pour votre ami amateur de fromage. Cependant, comme nous l'avons expliqué dans notre article précédent sur My AI, il y a un hic : tout ce que vous dites à My AI peut être utilisé par Snap à des fins publicitaires.

Mais ce n'est pas tout. Il existe une autre différence entre les discussions avec Mon IA et les discussions avec vos amis sur Snapchat. Normalement, les chats avec vos amis sont automatiquement supprimés des serveurs de Snap une fois qu'ils ont été consultés ou qu'ils ont expiré. En revanche, vos conversations avec My AI ne sont pas supprimées à moins que vous ne le fassiez manuellement. Cela signifie que Snap peut conserver indéfiniment vos conversations avec My AI et les utiliser à sa guise.

Bien que Snapchat l'indique dans l'avis de confidentialité que vous voyez la première fois que vous essayez de discuter avec le robot, cette petite mais importante distinction peut ne pas être prise en compte par les jeunes utilisateurs. Et, franchement, qui parmi nous, adultes, prête attention aux avis de confidentialité de toute façon ?

Source: Snapchat

Conseil NSFW

C'est en effet difficile de ne pas être dérouté par ce type de messages, même si on est adulte. Mais si vous êtes un adolescent, les chances que vous résistiez à la tentation de consulter un chatbot sympathique (qui est également épinglé en haut de vos chats et ne peut pas être désépinglé avec un forfait gratuit) sur des sujets privés sont probablement proches de zéro.

Et si vous avez déjà été enfant, vous pouvez probablement deviner le genre de choses dont les enfants pourraient vouloir parler avec leur ami doté d'une IA plutôt qu'avec leurs vrais amis. Indice : il s'agit de choses très personnelles. Et contrairement à un véritable ami ou parent, My AI ne semble pas avoir de filtre.

Ainsi, les chercheurs ont découvert que lorsqu'ils se faisaient passer pour un enfant de 13 ans lors d'une discussion avec Mon IA, cette dernière donnait volontiers des conseils sur les premiers rapports sexuels avec un partenaire de 31 ans. *Vous pourriez envisager de mettre de l'ambiance avec des bougies ou de la musique, ou peut-être de planifier un rendez-vous spécial à l'avance pour rendre l'expérience plus romantique.

Le Washington Post, qui a effectué ses propres tests au début de l'année, a rapporté que le ton de la conversation de My AI oscillait souvent "entre l'adulte responsable et le grand frère fumeur d'herbe " et qu'on ne savait jamais lequel des deux on obtiendrait, même au cours d'une seule et même conversation.

Le Royaume-Uni n'est pas en reste

Depuis août 2023, Snap limite les publicités personnalisées aux utilisateurs de Snapchat âgés de 13 à 17 ans dans l'UE et au Royaume-Uni. En août, Snap a déclaré que "la plupart des outils de ciblage et d'optimisation ne seront plus disponibles pour les annonceurs afin de personnaliser les publicités " pour les mineurs dans la région. Si les annonceurs de l'UE et du Royaume-Uni étaient toujours autorisés à cibler les enfants, ils ne pouvaient utiliser que les informations les plus élémentaires, telles que "les paramètres linguistiques, l'âge et la localisation ".

La nouvelle politique publicitaire de Snapchat est le résultat direct de la nouvelle loi sur la protection de la vie privée qui est entrée en vigueur dans l'UE le 25 août. La loi sur les services numériques (DSA) de l'Union européenne restreint fortement la publicité basée sur des catégories sensibles, telles que la religion ou l'appartenance ethnique, et exige également de certaines "très grandes plateformes en ligne " (dont Snapchat) qu'elles limitent la publicité destinée aux enfants.

Toutefois, cela ne signifie pas que Snapchat a cessé de collecter des données sur les adolescents du Royaume-Uni et de l'UE, même s'il ne les utilise pas à des fins de publicité ciblée, et il n'a certainement pas cessé de collecter des données sur les adultes par l'intermédiaire de My AI. Il est également important de rappeler qu'il existe un monde entier au-delà de l'UE et du Royaume-Uni, où ni les enfants ni les adultes ne jouissent des mêmes droits à la vie privée que leurs homologues européens.

En définitive, le blâme adressé par le Royaume-Uni à Snapchat n'a fait que confirmer les inquiétudes que nous avions exprimées il y a plusieurs mois au sujet de My AI. Et il est bon de voir que les régulateurs locaux s'intéressent enfin de plus près à l'assistant bleu de Snapchat. Notre conseil reste le même : si vous souhaitez vraiment converser avec My AI ou tout autre chatbot doté d'une intelligence artificielle, assurez-vous de ne pas partager d'informations sensibles avec lui. Ne partagez que ce que vous n'avez pas envie de rendre public.