今天简英互联网的热搜：一封呼吁暂停训练AI至少半年时间的公开信

@阑夕:今天简英互联网的热搜：一封呼吁暂停训练AI至少半年时间的公开信。

futureoflife.org/open-letter/pause-giant-ai-experiments

信的内容没什么新意，无非是AI太TM不可控了胡说八道的能力助长假新闻之类，然后要求停止GPT-4以上级别的产品开发，腾出6个月来制定监管制度。

比较显眼的是联合签名的几个人，马斯克签这个当然不意外，还有Yoshua Bengio，这是AI界的大佬，顶级专家，行业里门生如云，还有Yuval Noah Harari，以色列网红历史学家，「人类简史」系列畅销书的作者，再就是Steve Wozniak，苹果联合创始人，好吧他掺合这个也不意外。

这个事情在Reddit和Twitter上都还吵得挺凶的，支持者认为对于AI的恐慌是合理的，因为它的训练效率太高了，机器的智力水平每天都在膨胀，天知道OpenAI是不是在创造一个弗兰肯斯坦的怪物，反对者则贴出了爱迪生指示人画的交流电害死人的宣传海报，认为这不过是一种莫须有的指控，是别有用心的势力在误导不明真相的群众。

历史上由外部力量强制叫停技术（非军事性）发展的例子不多，1974年美国国家科学院把基因工程实验暂停了一年可能算是其中之一，当时因为有实验室给细菌添加了可以抵抗抗生素的的DNA片段，引起了学术界的担忧，最后的成果是第2年举办了Asilomar会议，拟定了一份风险评估清单，并强调了研究过程的透明度。

总的来说，公开信写得比较温和，也反复申明不是反对AI，甚至期待人类迎接一个繁荣且漫长的「AI之夏」，只是担心AI在不可预测的黑盒里发展会让人类毫无准备的进入「AI之秋」。

嘛，考虑到未来AI统治地球的可能性，作为幸存派的一员，我要严正表示既不支持更不赞成这封公开信，立此存照，日月可鉴。