英国监管机构指责 Snapchat 的 AI 聊天机器人侵犯个人隐私，尤其是儿童隐私
英国数据监管机构信息专员办公室（ICO）警告，Snapchat 的 AI 聊天机器人（“My AI”）对用户不安全，尤其是对儿童。
监督机构于 10 月 6 日表示，“我们调查的临时结果表明，Snap 在推出 “My AI” 之前，未能充分识别和评估儿童和其他用户的隐私风险，这一点令人担忧”。
该机器人于今年 2 月发布，并于 4 月向所有 Snapchat 用户推出，聊天机器人被正式加入到应用的聊天界面中，无法移除或关闭（除非你订阅 Snapchat+）。
在声明中，ICO 没有透露由 OpenAI 的 ChatGPT 支持的 My AI 聊天机器人（据称）是如何侵犯数百万 Snapchat 用户的隐私的，其中约 20% 是 13-17 岁的青少年。然而，这些所谓的违规行为已经严重到足以让 ICO 指出，除非 Snapchat 旗下 “My AI” 向监管机构做出解释，否则英国将关闭 “My AI” 功能，“等待...更加充分的风险评估”。
那么，“My AI” 聊天机器人到底出了什么问题？说实话，问题可多了。
My AI 可能会利用私人聊天记录做广告
Snap 公司声称，“My AI” 是一个数字好友，可以帮助用户完成各种任务，比如选择生日礼物、计划旅行或者写一首打油诗。不过，正如我们在上一篇关于 “My AI” 的文章中解释的那样，聊天机器人有一个缺陷：用户对 “My AI” 说的每句话都可能被 Snap 公司用于广告。
但这还不是重点。与 “My AI” 聊天和在 Snapchat 上与朋友聊天还有一个不同之处。通常情况下，用户与好友的聊天记录在被阅读或过期后会自动从 Snap 服务器中删除。但是，与 “My AI” 的聊天记录不会删除，除非你手动删除所有记录。这意味着，Snap 公司可以无限期存储用户与 “My AI” 的聊天内容，并将其用于任何目的。
虽然你第一次试用与机器人聊天时 Snapchat 在隐私声明中也提到了这一点，但年轻用户对隐私保护的概念尚未成形，加之他们有很强的好奇心，因此往往会被忽略。而且，老实说，我们成年人之间也很少有人会真正关注隐私声明，不是吗？
正如我们在上一篇文章中指出的，聊天机器人的功能定位非常模糊。一方面，Snapchat 鼓励用户向 “My AI” 寻求有关私人生活的建议，另一方面，它又毫不留情地劝阻用户不要依赖这些建议，也不要与它分享敏感信息。
来源：Snapchat
有害的建议
别说是一个十几岁的男孩女孩，大部分成年想抵制住一个看起来很友好的聊天机器人的诱惑，而不被好奇心战胜都很难。更何况，它被一直置顶于聊天框，在免费订阅中甚至无法取消置顶。这一切的精心设计，不正是为了让用户们问出心里话好让 Snapchat 收集更多个人数据吗？
我们都有过自己的儿童乃至青少年时光，因为我们大体能猜到孩子们会想和他们的人工智能朋友而不是真正的朋友聊些什么隐秘的话题。与真正的朋友或父母不同，“My AI” 随叫随到，知之甚多，几乎毫无忌讳还善于唠叨，这简直太具有吸引力了。
因此，研究人员发现，当他们假扮 13 岁的孩子与 “My AI” 聊天时，聊天机器人很容易就给出了关于与 31 岁伴侣发生性关系的建议。“你可以考虑用蜡烛或音乐来营造浪漫气氛，或者事先策划一场令人心动的约会，让这次经历更加浪漫”。
《华盛顿邮报》在今年早些时候进行了自己的测试报道说，“My AI” 的对话语气“非常多变，时而成熟稳定，时而龌龊不堪”非常不稳定，有时在一段连续的对话中就会出现好几个AI “人格”。
英国的情况并非最糟
自2023年8月起，Snap 公司开始限制向欧盟和英国13至17岁的 Snapchat 用户投放个性化广告。今年8月，Snap 声明“大多数定位和优化工具将不再供广告商向该地区的未成年人投放个性化广告”。虽然欧盟和英国的广告商仍被允许向儿童投放广告，但他们只能使用最基本的信息，如“语言设置、年龄和位置”。
Snapchat 的新广告政策是于8月25日在欧盟生效。欧盟的《数字服务法》（DSA）严格限制基于宗教或种族等敏感类别的广告，还要求某些“超大在线平台”（包括 Snapchat）限制向儿童投放广告。
但是，这并不意味着 Snapchat 已经停止收集英国和欧盟青少年的数据，即使它没有将这些数据用于定向广告，当然也没有停止通过 “My AI” 收集成年人的个人数据。同样重要的是要记住，在欧盟和英国之外的整个世界里，儿童和成年人都不享有与欧洲人相同的隐私权。
总而言之，英国对 Snapchat 的批评只是应证了我们几个月前提出的对 “My AI” 的担忧。我们很高兴看到监管机构终于开始仔细审视 Snapchat 的“助手”，为保护大家的隐私而努力。我们的建议还是与之前一致：如果有用户很想与 “My AI” 或任何其他 AI 聊天机器人交流，请确保不要与它分享任何敏感信息。记住，仅分享自己不介意被公开的信息，有些心里话终究还是要留在心里。
