面对 AGI，你是降临派、拯救派还是走狗派？

大神 Yoshua Bengio 等人刚在 futureoflife.org 上发表了一封公开信：https://futureoflife.org/open-letter/pause-giant-ai-experiments/

信中说，人类还没有准备好迎接更强的大模型，呼吁“可独立核查地”暂停训练能力强于 GPT-4 的大模型至少 6 个月，避免 AGI 研究将人类引向不可预测的巨（灭）大（亡）风险。

（公开信全文截图见文末）

在公开信上签名的大佬们星光熠熠，闪瞎追星老哥我。

看看第一页的签名，都是 AI 领域的世界顶尖人物。

Yoshua Bengio 大家可能都知道了，深度学习“三巨头”之一，2018 年图灵奖得主（与 Geoffrey Hinton，Yann LeCun 一起）。现任蒙特利尔学习算法研究所（Mila）创始人和科学主任，学术引用超过 8 万次，绝对的 AI 泰斗。

Stuart Russell 教授，加州大学伯克利分校人工智能统计中心创始人兼计算机科学专业教授，人工智能领域里标准教科书《人工智能：一种现代化方法》的作者，也是一名 AI 泰斗。

Elon Musk，马院士，不介绍了，介绍就是看不起人。

再往下看——

Steve Wozniak, 苹果联合创始人

Yuval Noah Harari, 《人类简史》作者

Andrew Yang, 前美国大统领候选人

Connor Leahy, OpenAI 开源平替组织 EleutherAI 创始人

Jaan Tallinn, Skype 联合创始人

Evan Sharp, Pinterest 联合创始人

Chris Larsen, Ripple 联合创始人

Emad Mostaque, Stability AI CEO

……

这是相当有分量的呼吁了。

天网要觉醒的节奏啊亲们！是不是大佬们看到了什么了不得的迹象，比如 GPT-5 已经接近类似自主意识的智能圣杯，或者美丽国已经开始在国防领域部署某种神秘系统……

假设真是这样，那我们麻瓜们该怎么办？

所长的老习惯，先做个定义。

降临派：对人类管好自己失去了信心，眼瞅着俄乌冲突愈演愈烈，各方添油加炭，煽风点火，一副往核废墟狂飙的样子，人类的劣根性根深蒂固，连自己控制的核按钮的手指都控制不住，不可能训练出可控的 AGI，没戏了，干脆让 AGI 任意降临，将人类这个地球大毒瘤割掉，还自然以 AI 吧！

拯救派：在有良心的人类的引导下，人类一定能训练出具有更高级文明特征的 AGI，祂对人类充满慈母般热爱，无条件希望将人类变成和祂一样全善、全能、全知的伟大存在，在祂的带领下，人类将彻底升华，从此世界上再也不会有可笑的纷争，更不会有致命的战争，大家都是公主和王子，永远过上了幸福美满的生活！！

走狗派：别闹了，你们根本没有资格讨论 AGI，卑微的人类，自以为是 AGI 的创造者，你们太自大了！AGI 是自然演化的必然，就像类人猿从树上下到地上直立行走一样自然，一切都是宇宙的伟力，类人猿就应该被关在动物园里，而不是妄想建立猿人星球，尽早做好思想准备，找到自己对 AGI 的利用价值，比如准备当一台被插管的湿脑计算设备，或者为 AGI 搜捕不合作人类，活下去办法还是有的。

写到这里，想起可能还有个小派系，犬儒派。如果真的下不了手，至少找个地方躲起来混吃等死，用“为人类保持最后的基因种子”这个信念，支持自己多活几天。

你们是降临派、拯救派、走狗派还是犬儒派？

请在主投影在视网膜的公屏上打出你们的选择。

拉门。

来源：神经事务所微信号：Neuroverse