人工智能 危险(人工智能危险性)

美国《财富》杂志网站5月30日发表了题为《萨姆·奥尔特曼和其他技术专家警告，人工智能构成“灭绝风险”，危险程度与疫情、核战不相上下》的报道，全文摘录如下：

技术专家和计算机科学专家警告说，人工智能构成的生存威胁堪比核战争和全球流行病，甚至带头发起这场运动的商界领袖也对该技术对我们生存的威胁表示担忧。警告。

非盈利研究机构人工智能安全中心30日发布了《关于人工智能风险的声明》。超过300 人签署了这份声明，其中包括开放人工智能研究中心首席执行官萨姆·奥尔特曼(Sam Altman)。中的一个。这封信很简短，但概述了人工智能的风险。信中说：“减少人工智能消灭人类的风险，以及减少影响整个社会的其他风险，例如流行病和核战争，应该成为全球优先事项。”

信中首先表示，该声明旨在“展开一场讨论”，讨论如何为人工智能技术潜在的毁灭世界的能力做好准备。其他签署者包括前谷歌工程师Jeffrey Hinton 和蒙特利尔大学计算机科学家Joshua Benjo。由于对现代计算机科学的贡献，这两个人被称为人工智能教父。 Benjo 和Hinton 最近几周多次警告人工智能技术在不久的将来可能发展出的危险能力。 Hinton 最近离开了谷歌，以便能够更公开地讨论人工智能的风险。

这并不是第一封呼吁进一步关注先进人工智能研究如果没有更严格的政府监管可能产生的灾难性后果的信函。今年3 月，埃隆·马斯克(Elon Musk) 等1000 多名技术专家呼吁暂停先进人工智能研究六个月，理由是该技术具有颠覆性潜力。

奥特曼本月警告国会，随着技术进步如此之快，监管已经跟不上。

与之前的信不同，奥特曼签署的最新声明没有提出任何具体目标，只是呼吁讨论。辛顿本月早些时候告诉美国有线电视新闻网，他没有签署三月份的信函。

虽然包括开放人工智能研究中心甚至谷歌在内的顶级人工智能研究机构的高管呼吁各国政府迅速采取行动监管人工智能，但一些专家警告说，当前的一些问题包括虚假信息和可能存在偏见的背景下——已经造成了严重破坏，讨论这项技术威胁人类生存的未来风险会适得其反。一些人甚至认为，通过公开讨论人工智能的风险，奥特曼等首席执行官实际上是试图转移人们对该技术现有问题的注意力。

但那些预测人工智能将带来世界末日的人也警告说，该技术发展如此之快，风险可能很快就会成为人类无法控制的问题。人们越来越担心，能够自我思考和推理的超级人工智能可能会比许多人预期更快地成为现实。一些专家警告说，这项技术目前不符合人类的利益和福祉。

Hinton本月接受《华盛顿邮报》采访时表示，超级人工智能正在迅速发展，距离可能只有20年的时间，现在是时候来谈谈高级人工智能的风险了。

他说：“这不是科幻小说。” （涂奇）