“时间不多了”：新公开信呼吁禁止超级人工智能的开发

(SeaPRwire) –   一份呼吁禁止开发超智能AI的公开信于周三公布，获得了700多位名人、AI科学家、宗教领袖和政策制定者的签名。

签署者包括五位诺贝尔奖获得者；两位所谓的“AI教父”；Apple联合创始人史蒂夫·沃兹尼亚克；特朗普总统的亲密盟友史蒂夫·班农；教皇顾问保罗·贝南蒂；甚至还有苏塞克斯公爵和公爵夫人哈里和梅根。

公开信全文如下：

“我们呼吁禁止超智能的开发，除非满足以下条件方可解除禁令：

1. 广泛的科学共识认为其将是安全且可控的，并且
2. 获得公众的强烈支持。”

这封信由Future of Life Institute（一个在2023年发布过另一封呼吁暂停开发强大AI系统六个月的非营利组织）协调并发布。尽管那封信广为流传，但并未实现其目标。

组织者表示，他们决定发起一项新活动，更具体地关注超智能，因为他们相信这项技术——他们将其定义为在所有有用任务上都能超越人类表现的系统——可能在短短一到两年内出现。“时间所剩无几，”FLI执行董事安东尼·阿吉雷在接受《时代》杂志采访时说。他表示，唯一可能阻止AI公司冲向超智能的因素，“是社会各阶层普遍认识到这并非我们所愿。”

与这封信一同发布的调查显示，64%的美国人认为超智能“不应在被证明安全可控之前开发”，只有5%的人认为应尽快开发。“少数非常富有的公司正在构建这些，而绝大多数人宁愿选择另一条道路，”阿吉雷说。

演员约瑟夫·戈登-莱维特和斯蒂芬·弗莱、说唱歌手will.i.am以及作家尤瓦尔·赫拉利也在这封信上签名。奥巴马政府的国家安全顾问苏珊·赖斯也签名了。OpenAI的一名在职员工——该公司被其CEO萨姆·奥尔特曼定义为“超智能研究公司”——技术人员利奥·高也签名了。阿吉雷预计随着这项运动的展开，会有更多人签名。“这些信念已经存在，”他说。“我们所缺乏的是人们敢于大声说出自己的信念。”

“AI的未来应该服务于人类，而不是取代人类，”苏塞克斯公爵哈里王子在附随其签名的信息中说。“我相信进步的真正考验将不在于我们前进的速度，而在于我们引导的智慧。没有第二次机会。”

约瑟夫·戈登-莱维特的签名附带了这样一条信息：“是的，我们希望有特定的AI工具来帮助治疗疾病、加强国家安全等。但AI也需要模仿人类、诱导我们的孩子、把我们都变成‘瘾君子’，并赚取数十亿美元来投放广告吗？大多数人都不希望那样。但这正是那些大型科技公司谈论构建‘超智能’时的意思。”

这份声明力求简洁，以吸引广泛而多样的签署者。但为了实现有意义的改变，阿吉雷认为监管是必要的。“许多危害来自于公司目前所受的扭曲激励结构，”他说，并指出美国和中国的公司正在竞争成为第一个创造超智能的国家。

“无论快慢，在我们开发出超智能之后，机器将掌管一切，”阿吉雷说。“这对人类是好是坏，我们真的不知道。但这并非我们想要贸然进行的实验。”