马斯克:「我一直告诉你们我是外星人,但没人信呐。」
没有人会质疑马斯克探索 AI 技术的决心,但我们总是好奇他实现目标的方法。
今天,马斯克又搞出了一个大新闻。他在推特上宣布:成立了一家 xAI 公司,宗旨是「了解宇宙的真实本质」。
这不禁令人感叹,怀揣火星移民梦的马斯克将目光投向了更广泛的宇宙万物。
这个看起来颇为神秘的 xAI 公司由马斯克领导,包括他在内共有 12 位创始成员。此外,AI 安全中心(Center for AI Safety)主任亨德里克斯担任了该团队的顾问。
今年 4 月,马斯克将推特并入了其成立的「X Corp.」,表达出了他想要打造万能应用程序的愿景。此次,xAI 在命名上有异曲同工之处,但独立于 X Corp 运作,并将与推特、特斯拉等其他公司紧密合作。这家公司,显然就是之前马斯克一直宣称的,OpenAI 的对手。
网站链接:https://x.ai/
宇宙包罗万象,需要解决的问题何止千万。xAI 发表了第一条推文,「最根本的尚未解答的问题是什么?」
马斯克的回答引用了其偶像、科幻作家道格拉斯・亚当斯的话,「一旦你问对了问题,那么答案往往是最简单的部分。」
他还煞有介事地分解起了「2023 年 7 月 12 日」中的数字,表示 7+12+23=42,并认为 42 是生命和宇宙万物终极问题的答案。的确,官宣成立的日期也是在致敬。
马斯克继续,「我经常想知道当人类从一个细胞发展到大约 35 万亿个细胞时,意识从哪里开始的。假如标准模型是正确的,那么夸克和轻子在开始后的 138 亿年后就会变得有意识,这里假设不存在有感知能力的外星人。顺便一问,外星人在哪?」
最后,马斯克又说,「我一直告诉人们我是外星人,但没人信呐。」
对于马斯克的 xAI 到底要做什么?有人(推特用户 @atroyn)做了看起来靠谱的推测。
在他的观点中,xAI 可能会从第一性原理解决 AI for Math 问题(马斯克关于 42 的解读似乎也验证了这点),包括改进核心理论以能构建非常好的数学推理机、进一步改进推理机理论以构建更好的推理机、实现泛化。
他接着说到,关于 AI for Math,最近在这个方向上的工作有很多。比如陶哲轩利用 LLM 解题、证明数学定理等。他认为,这里的核心涉及一个最基本的问题,即宇宙是可解释的吗?也即人类认知是否可能完全保真地建模和理解宇宙。
人们今天拥有的模型是完美的「经验主义者」,它们虽然可以创建世界的高保真度模型,但它们的方式是人类无法解释的。同样,现有的自动定理求解器可以证明定理,但由于机械性质,它们无法提供任何线索或「直觉」来改进人类推理。
最后他表示,宇宙的恐怖之处在于人类认知非常有限,而宇宙是无法解释的。在这种情况下,我们能够构建对宇宙进行建模的系统,但永远不能理解它们,因为正在建模的东西在根本上无法解释。
不管怎样,对于 xAI,人们还是迫不及待想看看未来会发生什么。
本周五,xAI 也将举行线上活动,团队成员将回答人们的提问,其中会包括公司的发展方向。
多位华人联合创始人
综上所述,有关 xAI 这个科研机构的信息我们算是知道了一些,但是不多,或许我们可以在目前的人员配置上寻找一些线索。在 xAI 的创始团队中除了马斯克,有很多曾在 DeepMind、OpenAI、谷歌、微软、特斯拉、多伦多大学等公司和机构的 AI 研究者。目前公布的 12 位成员里华人就有 5 位,占比超过四成,其中不乏我们熟悉的面孔。
让我们按上图的顺序看(这也是他们加入 xAI 的先后顺序)。
吴宇怀(Yuhuai “Tony” Wu)来自 Google AI,曾在 Christian Szegedy 领导的 N2Formal 团队中工作。在此之前,他于多伦多大学获得博士学位,导师为 Roger Grosse 与 Jimmy Ba,随后在斯坦福大学与 Percy Liang 和 Jay McClelland 共同完成了博士后研究。
吴宇怀曾在机器之心组织的线上分享中介绍,他立志于创造一个善于推理的人工智能,用于解决所有数学难题。此前,他的部分研究被《Quanta Magazine》、《纽约时报》报道。
多伦多大学计算机科学助理教授 Jimmy Ba 因为 ICLR 2015 论文《Adam: A Method for Stochastic Optimization》而被人们所熟知。他博士毕业于多伦多大学,师从 Geoffrey Hinton、Brendan Frey 和 Ruslan Salakhutdinov。Jimmy Ba 是现任 CIFAR AI 主席(因加入 xAI 学术休假),他曾在 2016 年获得 Facebook 机器学习研究生奖学金。
Jimmy Ba 的长期研究目标是构建具有类似人类效率和适应性的通用问题解决机器,其研究兴趣集中于深度神经网络的高效学习算法的开发。
杨格(Greg Yang)曾任微软雷蒙德研究院的研究员,此前参与过微软与 OpenAI 在大模型上的合作。他本科、硕士毕业于哈佛大学数学系。2018 年还曾获得本科生数学领域最高荣誉 Morgan Prize。
在 xAI 官宣成立后,杨格表示:「开发大型神经网络的『万物理论』将是将人工智能提升到新水平的核心。另一方面,这种 AI 将使每个人都能以此前难以想象的方式理解我们的数学宇宙。」
张国栋(Guodong Zhang)是多伦多大学博士,曾获 2022 年苹果博士奖学金,导师是 Roger Grosse。他本科毕业于浙江大学信息工程专业,当前的研究兴趣是开发智能机器,以高效、持续地从数据和实验中学习,并对决策进行自主推理。这个研究方向也被称为最小化问题或博弈,通常使用优化算法、概率推理或均衡计算来解决。
张国栋的研究目标是设计出能够更快训练、更好泛化、并提供良好校准不确定性的算法和模型。
戴子航(Zihang Dai)曾任谷歌大脑研究科学家。在 2019 年,卡耐基梅隆大学著名的预训练模型 XLNet 中,戴子航与现清华叉院助理教授杨植麟并列为共同一作。戴子航博士毕业于 CMU,曾接受 Ruslan Salakhutdinov、Quoc Le 等人的指导。
还有 Igor Babuschkin,他是 DeepMind 星际争霸 AI 模型 AlphaStar 登上《Nature》那篇论文的主要作者之一。看起来,xAI 团队中有的人深入数学基础,有的人探索 AI 前沿,也有的人引领了模型优化的方向。
xAI 表示,这些研究者对 AI 领域有过很大贡献,其中包括 Adam 优化器、批归一化、层归一化和对抗性示例的发现,并领导了一些最大突破的开发,包括 AlphaStar、AlphaCode、Inception、Minerva、GPT-3.5 和 GPT-4。
在马斯克的宣布之后,这些成员也开始在社交网络中为 xAI 招人。看起来,又一场抢人大战已经开始了。
对于 xAI 的成立,人们纷纷持欢迎态度,毕竟面对通用人工智能这个大目标,我们要做的还有很多,现在又有了全球首富的支持。英伟达 AI 研究 科学家 Jim Fan 表示,xAI 是人工智能领域最新的重量级选手。
仅从马斯克体系的角度来说就有如下几个优势:
推特上有大量多模态数据,包括对话文本、图像和不断增长的长视频。xAI 是唯一一家能够直接合法访问如此庞语料库的人工智能公司(众所周知,现在推特限制每天阅读条数了)。
特斯拉 FSD 团队拥有多年构建 Dojo 等大型训练集群的经验,更不用说用于机器感知的大量高质量特斯拉车队数据。
具身智能是大模型未来的重要方向,Tesla Bot 有机会成为 xAI 大脑的物理体现。
这样一群人,背靠丰富的资源能够做出什么大事?我们都很期待。
来源:机器之心