菜单
中文 (简体)

回不去了:三星 ChatGPT 惨败凸显了人工智能的隐私问题

据韩国媒体《Economist》报道,三星起初对采用人工智能驱动的聊天机器人持谨慎态度,担心有泄露内部信息的危险,如商业机密(真有道理)。然而,在 ChatGPT 火爆全球的时候,三星决定加入 AI 聊天机器人的行列,并为其在工作场所的使用打开了绿灯,以便员工能够保持对技术改进的关注。当时,该公司向计划使用 ChatGPT 的员工发出通知,在向 AI 助手投喂数据时,“注意内部信息的安全,不要输入私人信息”。

这一通知显然被置若罔闻,因为在接下来的20天内,不是一位,而是三位公司的工程师透露了似乎是三星的敏感企业数据,可能让 OpenAI 及其竞争对手了解到其技术。

在第一个案例中,一位三星员工发现了半导体工厂测量数据库下载程序源代码中的一个错误,并询问 ChatGPT 能否提供解决方案。在第二个案例中,一位员工使用 ChatGPT 来优化一个识别产量和缺陷芯片的程序的测试顺序。在第三个案例中,一位员工首先用手机记录了公司的内部会议,然后用语音识别应用程序转录,并将其输入 ChatGPT… 以生成会议记录。这三人现在都面临着纪律调查。

有用户可能认为,三星在泄露事故后要立即禁止 ChatGPT 的使用,但事实并非如此。相反,三星公司让员工多了解人工智能的隐私风险,向员工解释道,无论你向 ChatGPT 输入什么内容,其都最终都会传送到 OpenAI 的外部服务器上。这意味着,一旦员工泄露秘密,就没有回头路了,没有办法检索输入的数据。三星还制定相关保护措施,对每位员工上传到 ChatGPT 的数据量设置上限,并警告说,如果再次发生泄露数据的事件,公司将永远禁止 ChatGPT。

传给 ChatGPT 的消息可撤回不了

三星不是第一个,而只是其员工喜欢与 OpenAI 的聊天机器人讨论敏感问题的最新受害者。其他公司也在摸索这条路。

Amazon 在1月份就限制了 ChatGPT 的访问,警告员工不要向聊天机器人输入任何机密资料,例如代码,因为该公司发现 ChatGPT 的回复中生成了与 Amazon 内部数据“密切匹配”的回答。另一家美国零售巨头 Walmart 在发现 ChatGPT 的活动“给公司带来风险”后,最初将其封锁,但后来开放使用并发布了一系列准则,包括员工应“避免输入任何敏感、保密或专有信息”。

一些金融服务公司已经在工作场所完全禁止了 ChatGPT。美国银行将 ChatGPT 添加到其不允许用于商业用途的未经授权的应用程序列表中。其他阻止访问聊天工具的金融机构包括JPMorgan Chase、Citigroup Inc、Goldman Sachs、Deutsche Bank 和 Wells Fargo。后者告诉 《Bloomberg》,这符合标准的第三方软件限制,该公司将"继续评估安全和有效的方式"来使用新技术。

银行业在应对与 ChatGPT 相关的风险方面最为积极,这也是可以理解的:银行处理大量敏感的客户信息,并受到高度监管。但其实各种其他行业也面临同样的风险。一旦你给了聊天机器人一条信息,不管是一段私人代码还是董事会会议的记录,都要意识到,这个内容不再是一个秘密,而是公共分享的资料。

OpenAI 的使用条款暗示,在与聊天机器人互动时,用户不应该有任何隐私的期望,并要求用户负责不泄露个人信息。特别是,OpenAI 表示,公司可以查看并使用 ChatGPT 对话来训练人工智能,但不能帮助用户从聊天记录中删除特定的记录

这意味着,如果你在 ChatGPT 输入关于自己或公司的机密信息,其他人有可能向 ChatGPT 索取并占有这些数据。在三星的案例中,该公司的竞争对手可以尝试审问聊天机器人,了解公司员工允许泄露的信息。

OpenAI 确实允许了用户禁止个人数据被用于人工智能训练,为此用户需要填写一份特殊的表格。然而,如果你已经与 ChatGPT 分享了一些数据,而你又后悔分享这些数据,那么现在可能已经太晚了。你可能要考虑删除自己的账户,因为只有在这种情况下,你的聊天记录才能被永久删除。OpenAI 声称,删除数据的过程可能需要30天,而且删除后你将无法恢复账户。

但之后会发生什么是个大问题,因为用户通常不知道他们的信息是如何被用来训练算法的,也无法验证这些信息是否已经被删除。虽然理论上有可能让一个系统忘记它所学到的东西,但这个过程被认为是非常复杂的,尤其是因为它需要确定特定数据点对训练过的模型的影响。虽然在对生成性人工智能的安全和隐私影响的日益关注中,有关于所谓的机器学习的研究,但这是最需要努力的领域。普遍的观点似乎是要从头开始重新训练整个模型,这在实践中是不可行的。

因此,如果我们不能确定我们交给 ChatGPT 的信息会消失,即使在我们使用了所有可用的选项之后,最好还是不要把我们或我们公司的内部秘密交给 AI 助手。谁知道他们最终会传送哪里。正如 OpenAI 自己所说:“请不要分享敏感信息”。这是值得牢记于心的。

喜欢这篇文章吗?

AdGuard Windows版

Windows 版 AdGuard 不只是广告拦截程序,它是集成所有让您享受最佳网络体验的主要功能的多用途工具。其可拦截广告和危险网站,加速网页加载速度,并且保护儿童的在线安全。
用户评论: 16341
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款
阅读更多

AdGuard Mac版

Mac 版 AdGuard 是一款独一无二的专为 MacOS 设计的广告拦截程序。除了保护用户免受浏览器和应用程序里恼人广告的侵扰外,应用程序还能保护用户免受跟踪、网络钓鱼和诈骗。
用户评论: 16341
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款
阅读更多

AdGuard Android版

安卓版的 AdGuard 是一个用于安卓设备的完美解决方案。与其他大多数广告拦截器不同,AdGuard 不需要 Root 权限,提供广泛的应用程序管理选项。
用户评论: 16341
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款

AdGuard iOS版

最先进的用于 Safari 浏览器的广告拦截程序。它让用户忘记弹出广告、加快页面加载速度并保护用户的个人数据。手动阻止元素的工具和高度可定制的设置可帮助用户根据自己的确切需求定制过滤。
用户评论: 16341
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款

AdGuard 浏览器扩展

AdGuard 是快速的、小内存的广告拦截扩展,可高效拦截所有网页上的各种广告!选择所需的 AdGuard 浏览器扩展,您可进行无广告、快速、安全的浏览。
用户评论: 16341
4.7分(满分5分)

AdGuard Safari 版

由于 Apple 开始强制要求开发者使用其新的 SDK,面向 Safari 提供的广告拦截扩展正面临一段艰难时光。AdGuard 扩展正致力于将高质量广告拦截功能重新带给 Safari 用户。
用户评论: 16341
4.7分(满分5分)
App Store
下载
下载本程序表示您接受 许可协议 的条款

AdGuard Home

AdGuard Home 是一款全网广告拦截与反跟踪软件。在您将其安装完毕后,它将保护您所有家用设备,同时您不再需要安装任何客户端软件。随着物联网与连接设备的兴起,掌控您自己的整个网络环境变得越来越重要。
用户评论: 16341
4.7分(满分5分)

AdGuard 内容拦截程序

AdGuard 内容拦截器可消除那些支持内容拦截器技术的移动浏览器内的各种广告 —— 具体为 Samsung Internet 和 Yandex.Browser。虽然 AdGuard 内容拦截器相比于 AdGuard 安卓版受更多限制,但其不仅是免费的,而且也易于安装。 还提供较高的广告拦截品质。
用户评论: 16341
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款
阅读更多

AdGuard 助手

AdGuard 桌面应用 的配套浏览器扩展。它为浏览器提供了访问自定义元素阻止,将网站列入白名单或发送报告等功能
用户评论: 16341
4.7分(满分5分)
Chrome的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Firefox的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Edge的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Opera的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Yandex的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Safari的助手 是您当前的浏览器吗?
如果找不到浏览器,请尝试旧版助手。旧版助手是在AdGuard扩展程序设置中可以找到的。

AdGuard Temp Mail β

免费的临时电子邮件地址生成器,保持匿名性并保护个人隐私。你的主收件箱中不会出现垃圾邮件!
用户评论: 16341
4.7分(满分5分)

AdGuard Android TV 版

Android TV版 AdGuard 是唯一一款能拦截广告、保护隐私并充当智能电视防火墙的应用程序。获取网络威胁警告,使用安全 DNS,并受益于加密流量。有了安全性和零广告的使用体验,用户就可以尽情享受最喜爱的节目了!
用户评论: 16341
4.7分(满分5分)
已开始下载 AdGuard 点击箭头指示的文件开始安装 AdGuard。 选择“打开”并点击“确定”,然后稍作等待直至文件加载完毕。在已经打开的窗口中,将 AdGuard 图标拖拽至“Applications”文件夹内即可完成安装。感谢您选择 AdGuard! 选择“打开”并点击“确定”,然后稍作等待直至文件下载完毕。然后,在打开的窗口中点击“安装”即可。感谢您选择 AdGuard!
将 AdGuard 安装到移动设备上