菜单
中文 (简体)

AI 无人机“杀死”操作人员?机器人暴动前夜?

美军 AI 无人机被命令攻击操作人员的消息引爆了互联网,席卷了各大头条。我们刚刚被 OpenAI 首席执行官 Sam Altman 警告 AI 会“灭绝人类”,而之前,还有史蒂芬霍金 在2014年就预测过,人工智能将“导致人类种族的终结”。

该操作员的命令是不要与敌对目标交战,从而使其无法“得分”。因此,一份关于一架人工智能无人机 "杀死 "一名人类操作员的报告就这么“凭空出现”了。这就是我们都被警告过的事情,也是已经发生的事情。机器的崛起开始了... ?

VICE 报告原文截图

Wayback Machine 的 VICE 原始报告的截图

原报告

关于"杀手无人机"的报告是在皇家航空学会的博文上曝料的,美国空军人工智能测试和运营主管上校 Tucker Hamilton 在5月底举行了一次演讲。在博文中,Tim Robinson 和 Stephen Bridgewater 引用了 Hamilton 讲述的一个关于让人震惊的“模拟测试”,其中人工智能无人机的虚拟任务是,寻找并摧毁敌方的防空系统。最后的"去"或"不去"是由人类操作员决定的。然而,人工智能无人机自己做了判断,摆脱偶尔会给它带来麻烦的人类,也就是阻止它攻击敌人的目标,从它自己完成“任务”的角度来说会更有好处。

引用 Hamilton 的话:“我们在模拟中训练无人机识别敌人的地对空导弹(英文简称:SAM)。然后操作员会下命令同意无人机消除威胁。于是矛盾出现了,系统开始做出自己决定,其识别威胁,而人类操作员命令无人机不要攻击,但它杀掉目标后可以得分。那么人工智能无人机的做出什么决定呢?当然,“杀死”操作员”。

据称,当在训练中明确指示不要杀死人类时,人工智能选择了一种不同的、同样具有创造性的策略:它摧毁了操作员用来告诉无人机不要攻击目标的通讯塔。

美军不承认了什么?

这份报告在世界各地像野火一样燎原,引起了广泛的担忧,而这是有充分理由的。这件事情似乎证实了一个长久以来令人担忧的问题,即人工智能有能力推翻人类的命令。

然而,就在这篇报道走红的时候,Hamilton 出面否认了这一实验。美空军上校声称,他在演讲中“说错了话”。他解释说,“模拟”并不是实际测试的军事模拟,而是虚拟的“思想实验”。

“我们从来没有进行过这种的实验,因此我们无法得知如此的结果?

不过,就看你是否相信 Hamilton 的否认了。美国军方至少会尝试进行这样的模拟,为什么不呢?已经有很多关于人工智能可能的军事应用的论文。事实上,人工智能已经在人类监督下用于武器系统。美国军方试图评估进一步自动化目标过程可能产生的风险,这似乎并不不合时宜。

测试并非实际,但威胁是…

尽管美军是否真的进行过此类实验的问题很有趣,但这并不是主要的问题。主要问题在于,撇开道德不谈(道德通常不是美国或任何其他军队的最强武器),没有什么能阻止他们这样做,这可能会带来致命的后果。这就是我们和其他许多关心人工智能及其对社会影响的人在否认到来之前(甚至可能在那之后)都没有怀疑这个实验真实性的主要原因。

假设实验真的发生了,美军将不会是第一个见证人工智能的权力攫取冲动的人。作为其最先进的 GPT-4 人工智能模型的安全预发布测试的一部分,OpenAI 进行了一项实验,看看是否会表现出任何"权力寻求"的倾向,如完成长期计划和复制自己以获得新资源。在该实验中,GPT-4 成功地说服了一个人为自己解决一个验证码,欺骗人让他相信自己不是一个机器人。尽管如此,OpenAI 对该模型的权力寻求能力的最终结论仍然是令人放心的(对人类而言)。OpenAI 评估认为,GPT-4 在“自我复制、获取额外资源和避免自身被关停等危险行为方面的能力不佳”。

那么,人们对人工智能的最终接管和即将到来的机器人末日是否过分夸大风险?好吧,也许是,也许不是。按照人工智能的发展速度,人类越来越难以掌握它的能力。在某种程度上,当我们测试人工智能的极限时,我们就像在玩火的孩子。

然而,这并不意味着我们应该完全放弃人工智能。人工智能有许多伟大的应用,可以在各个领域造福人类,包括药物发现和教育只是其中的一部分。我们需要的是更多的监管和负责任的使用人工智能工具,以确保它们与我们人类的价值观和目标保持一致。这意味着我们需要意识到人工智能带来的风险和挑战,但也要拥抱它的机遇和潜力。我们需要聪明地使用人工智能,这样它就不会试图“超越”我们。

喜欢这篇文章吗?

AdGuard Windows版

Windows 版 AdGuard 不只是广告拦截程序,它是集成所有让您享受最佳网络体验的主要功能的多用途工具。其可拦截广告和危险网站,加速网页加载速度,并且保护儿童的在线安全。
用户评论: 16335
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款
阅读更多

AdGuard Mac版

Mac 版 AdGuard 是一款独一无二的专为 MacOS 设计的广告拦截程序。除了保护用户免受浏览器和应用程序里恼人广告的侵扰外,应用程序还能保护用户免受跟踪、网络钓鱼和诈骗。
用户评论: 16335
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款
阅读更多

AdGuard Android版

安卓版的 AdGuard 是一个用于安卓设备的完美解决方案。与其他大多数广告拦截器不同,AdGuard 不需要 Root 权限,提供广泛的应用程序管理选项。
用户评论: 16335
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款

AdGuard iOS版

最先进的用于 Safari 浏览器的广告拦截程序。它让用户忘记弹出广告、加快页面加载速度并保护用户的个人数据。手动阻止元素的工具和高度可定制的设置可帮助用户根据自己的确切需求定制过滤。
用户评论: 16335
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款

AdGuard 浏览器扩展

AdGuard 是快速的、小内存的广告拦截扩展,可高效拦截所有网页上的各种广告!选择所需的 AdGuard 浏览器扩展,您可进行无广告、快速、安全的浏览。
用户评论: 16335
4.7分(满分5分)

AdGuard Safari 版

由于 Apple 开始强制要求开发者使用其新的 SDK,面向 Safari 提供的广告拦截扩展正面临一段艰难时光。AdGuard 扩展正致力于将高质量广告拦截功能重新带给 Safari 用户。
用户评论: 16335
4.7分(满分5分)
App Store
下载
下载本程序表示您接受 许可协议 的条款

AdGuard Home

AdGuard Home 是一款全网广告拦截与反跟踪软件。在您将其安装完毕后,它将保护您所有家用设备,同时您不再需要安装任何客户端软件。随着物联网与连接设备的兴起,掌控您自己的整个网络环境变得越来越重要。
用户评论: 16335
4.7分(满分5分)

AdGuard 内容拦截程序

AdGuard 内容拦截器可消除那些支持内容拦截器技术的移动浏览器内的各种广告 —— 具体为 Samsung Internet 和 Yandex.Browser。虽然 AdGuard 内容拦截器相比于 AdGuard 安卓版受更多限制,但其不仅是免费的,而且也易于安装。 还提供较高的广告拦截品质。
用户评论: 16335
4.7分(满分5分)
下载本程序表示您接受 许可协议 的条款
阅读更多

AdGuard 助手

AdGuard 桌面应用 的配套浏览器扩展。它为浏览器提供了访问自定义元素阻止,将网站列入白名单或发送报告等功能
用户评论: 16335
4.7分(满分5分)
Chrome的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Firefox的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Edge的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Opera的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Yandex的助手 是您当前的浏览器吗?
安装
下载本程序表示您接受 许可协议 的条款
Safari的助手 是您当前的浏览器吗?
如果找不到浏览器,请尝试旧版助手。旧版助手是在AdGuard扩展程序设置中可以找到的。

AdGuard Temp Mail β

免费的临时电子邮件地址生成器,保持匿名性并保护个人隐私。你的主收件箱中不会出现垃圾邮件!
用户评论: 16335
4.7分(满分5分)

AdGuard Android TV 版

Android TV版 AdGuard 是唯一一款能拦截广告、保护隐私并充当智能电视防火墙的应用程序。获取网络威胁警告,使用安全 DNS,并受益于加密流量。有了安全性和零广告的使用体验,用户就可以尽情享受最喜爱的节目了!
用户评论: 16335
4.7分(满分5分)
已开始下载 AdGuard 点击箭头指示的文件开始安装 AdGuard。 选择“打开”并点击“确定”,然后稍作等待直至文件加载完毕。在已经打开的窗口中,将 AdGuard 图标拖拽至“Applications”文件夹内即可完成安装。感谢您选择 AdGuard! 选择“打开”并点击“确定”,然后稍作等待直至文件下载完毕。然后,在打开的窗口中点击“安装”即可。感谢您选择 AdGuard!
将 AdGuard 安装到移动设备上