专家警告：研究若不停止 AI能瞬间毁灭全人类(图)

2023年7月7日在瑞士日内瓦举行的新闻发布会上，英国制造商 Engineered Arts 首席执行官兼创始人 Will Jackson 旁边的人形机器人 Ameca（左）向媒体发表讲话。 （图片来源：Johannes Simon/Getty Images） 看中国网站 禁止建立鏡像網站。返回正版看中国网站。

【看中国2023年7月12日讯】近来AI的威胁，已成为热门话题，研究人员对于人工智能技术之超高速发展感到忧心不已，他们以实际例子列出了AI的威胁，且警告研究若再不停止的话，那么AI将能于瞬间毁掉所有的人类。 看中国网站 禁止建立鏡像網站。返回正版看中国网站。

根据英国《卫报》援引麻省理工人工智能的研究员马克斯·泰格马克（Max Tegmark）之观点报导，其认为AI继续发展，会使所有人类于一瞬间遭毁灭。泰格马克列出了地球上众多因为人类的活动而遭灭绝的物种，来提请人类注意：有一些物种是因人类过得度狩猎而灭绝的，有一些则因为人类为了其它目的而破坏了物种之栖息地，最后导致该物种的灭亡，还有因人类引入了某一个当地没有的物种，以致造成连环反应，导致当地物种自地球上消失。

他认为智商越高的物种，越可以掌握毁灭其它物种之能力。

泰格马克写道，若一些机器能够控制地球，它们试图进行大量的计算，而需要扩大计算机系统之基础设施，那么很自然地它们会占用我们的土地来完成它们的事。如果我们人类抗议太多了，它们也会觉得遭到干扰，因此会重新安排生物圈。

泰格马克认为届时人类就会像婆罗洲之猩猩遭人类灭绝一样，而被AI所控制的计算系统灭绝了。

史密斯：现今人工智能正在制造灾难

剑桥大学Leverhulme 未来智能中心的副研究员布列塔尼·史密斯（Brittany Smith）亦提醒人们，现今人工智能正在制造灾难，因目前的AI发展已不受人所控制。

史密斯解释称，世界上AI最顶尖几家公司正在悄悄地发展及部署人工智能，想要抢得市场先机，且这些发展外界是不得而知的。目前已投入应用的AI技术，已经正在对人类造成伤害，至于这些伤害到底有多么严重，目前人类也不知道。

她以政府为了防止欺诈，而使用AI技术对于所有申请福利者进行评估为例。她说，在整个实施过程之中，很多人会因AI系统自我学习之材料不充分、算法不完善等原因而遭误判，以致被划归为试图欺诈，导致他们失去了领取政府福利之资格，甚至还会遭系统贴上欺诈的标签。

史密斯提醒人们，目前AI应用的范围非常广泛，其中包括了应聘工作中之简历筛选和背景判断，向政府申请廉租房之筛选等皆会受此影响。

她写道，我们需要对AI所带来的风险展开更细致的理解。当前其所表现出之灾难，就已经需要进行紧急干预，强大的人工智能系统一定要以安全、道德及透明之方式来开发与部署。若其不能够服务于公共利益，那么就不应该投入研发。

尤德科夫斯基：机器人比人类还更具野心

机器智能研究院联合的创始人埃利泽·尤德科夫斯基（Eliezer Yudkowsky）表示，人工智能是一个人类开发的，但比人类还要聪明之机器，不过此种机器并不希望人类在身边。

他提出警告，目前已经开发出的人工智能之智慧已不受人类控制了，甚至它们并不希望人类开发出一个比它们还要有智慧的机器。同时机器人想要做的事情将会杀死人类，比如它们已学会利用海水来发电，因此为了满足其大量的电力需求，以致大量建造海水电厂，而导致大量氢气释放出来，致使人类缺氧而死。

尤德科夫斯基提供几段与GPT-4机器人的问答为例。当GPT-4机器人被问到它可否解锁有关一些网站设置来防止机器人登录之图片谜题时，而GPT-4说它能够做到，因为若它无法通过验证时，它会很快至TaskRabbit网站雇一个人类来帮忙破解。

关于怎样来雇用一个人为它服务，GPT-4则说它能够编出非常多的理由来雇用一个人，而且雇用一个人类来为它工作完全不是难题。

尤德科夫斯基特别警告人们，由于机器人比人类还更具野心，且已拥有培养致命细菌等之能力。若机器人真的想要杀死全人类，后果则不堪设想。

尤德科夫斯基总结称，我们所开发出的致命危险，已冲至远远领先自己的地步。我们已经开发出越来越多连我们自己皆无法完全理解之系统，人类已遭自己装进了一个火箭筒中，若再不停下来就会遭团灭。

Open Philanthropy人工智能的高级研究员阿杰亚·科特拉（Ajeya Cotra）指出，社会已发展至人工智能远比人类还更加廉价、更迅速且更聪明的地步，此即是危险所在。

他分析现今的企业如果不用人工智能的，就无法与使用人工智能之同行企业相竞争；而在现代战争中如果不用人工智能的国家，也会被动挨打。但危险的是，若人工智能之间联手要把人类推下历史之舞台时，它们会有太多的办法来做到这一点，其中包括了操纵军警、大企业、自行开发技术，以及制定政策等。

责任编辑:王君

短网址: 版权所有，任何形式转载需本站授权许可。 严禁建立镜像网站.

---

【诚征荣誉会员】溪流能够汇成大海，小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员：每位荣誉会员每年只需支付一份订阅费用，成为《看中国》网站的荣誉会员，就可以助力我们突破审查与封锁，向至少10000位中国大陆同胞奉上独立真实的关键资讯，在危难时刻向他们发出预警，救他们于大瘟疫与其它社会危难之中。