，”新智元报道。
编辑:跑桃子
【新智元简介】GPT 5号还在秘密训练中！DeepMind的联合创始人在最近的一次采访中透露，在未来三年内，影响力模型将比目前的GPT-4大1000倍。
最近，DeepMind的联合创始人、现任Inflection AI首席执行官穆斯塔法·苏莱曼(Mustafa Suleyman)在接受采访时抛出了一个重磅炸弹:
OpenAI正在秘密训练GPT 5号。
我觉得我们都直接说出来会更好。这就是我们公开我们计算总量的原因。
未来18个月，影响力AI训练的模型将比目前前沿模型大100倍。未来三年，影响力的模型会比现在大1000倍。
事实上，山姆·奥特曼之前已经否定了训练GPT-5的想法。
对此，网友表示，OpenAI可能给它起了新名字，所以说GPT-5没有经过训练。
就像当时推出代码解释器一样，很多人觉得它的能力不是GPT-4模型，而是GPT-4.5。
此外，在采访中，苏莱曼还透露了很多他在DeepMind和影响力AI工作的内部信息，包括谷歌当时收购DeepMind以及随后的抓马，这在一定程度上解释了DeepMind相比OpenAI为什么“起得早，却赶了个晚集”。
他还认为开源模式可能会增加AI给人类带来的不稳定性和伤害。
AI安全最大的威胁不是大语言模型，而是未来可能出现的自主agent。
采访全文
当被问及AI未来是否有可能成为具有自主进化能力的智能体时，苏莱曼认为:
在短期内，这种智能体出现的可能性不大——一种可以自主运行、设定自己的目标、识别环境中的新信息和新奖励信号、学会将其用作自我监控并随时间更新其权重的人工智能智能体。
但是这种具有自我进化能力的AI是大家不应该忽视的，因为如果一个AI技术真的表现出这种能力，可能会有很大的潜在风险。
至少据他所知，无论是Inspirationai还是DeepMind都没有朝这个方向前进。
影响力人工智能不是一家AGI公司。他们想做的是做一个非常有用的私人助理。这款助手在充分获取用户个人信息的前提下，为用户提供高度定制化的AI服务。
模型训练军备竞赛会加剧AI的风险吗？
他的公司Influence AI正在建造世界上最大的超级计算机之一，他认为在未来18个月内，他们可能会进行一次比制造GPT-4的语言模型训练规模大10倍或100倍的训练。
当被问及这种军备竞赛训练模式是否会增加人工智能的风险时，他回答道:
100次训练仍然会产生一个聊天机器人，可以理解为更好的GPT-4。虽然它会成为一个更令人印象深刻的模型，但它并不危险——因为它缺乏自主性，无法改造物理世界和其他使模型本身变得危险的基本元素。
仅仅生产一个非常好、更好的GPT-4并不危险；为了让它变得危险，我们需要添加其他能力，比如让模型自我迭代，自我设定目标等等。
那大概是五年、十年、十五年、二十年后。
苏莱曼认为山姆·奥特曼最近说他们没有训练GPT-5，可能没有说实话。(加油。我不知道。我想我们最好都直说。)
他希望所有拥有大规模计算能力的公司都能尽可能透明，这也是他们公开自己拥有的计算总量的原因。
他们正在训练一个比GPT-4更大的模型。目前，他们有6000架H100模型正在接受训练。
到12月，22，000辆H100全面投入使用。从现在开始，每个月增加1000到2000个H100。
他认为Google DeepMind应该做同样的事情，公开训练Gemini收到了多少FLOPS。
AI培训成本会有怎样的变化？
从计算成本的角度来看，未来AI训练的规模不可能达到训练一个模型100亿美元的成本，除非真的有人花三年时间训练一个模型，因为栈越多，模型越大，时间越长。
虽然花的成本越高，可能带来的能力越强，但这不是一个没有上限的数学问题，需要考虑很多实际情况。
但由于计算能力的成本随着芯片计算能力的迭代在降低，未来可能会出现训练某个模型的成本，相当于2022年要花100亿美元在训练上。
但是因为芯片的计算能力会提升2-3倍，所以训练这样规模的成本会远远小于现在看起来的。
比如开源社区的Llama2或者Falcon等模型，现在只有15亿个参数或者20亿个参数，而他们获得了GPT-3 1750亿个参数的参数能力。
开源视图
Suleyman一直在一家闭源技术公司工作，他对开源模式的价值和可能的风险有非常不同的看法。
首先，他认为在未来5年内，开源模式将始终落后于前沿的闭源模式3-5年。
而且开源模式会增加AI带来的社会风险。
如果每个人都能无限制地接触到最新的模式，就会出现一种现象——“权力的迅速扩散。”
以栗子为例，就像新媒体平台让每个人都可以发挥完整报纸的功能，拥有数百万粉丝，甚至影响整个世界。
对尖端模型的无限制访问将扩大这种力量，因为在未来三年内，人类可以训练出比现有模型大1000倍的模型。
即使是影响力AI，也能在未来18个月内获得比最先进模型多100倍的计算能力。
开源的大模式将这种力量放到每个人手中，相当于给了每个人一个潜在的大规模不稳定和破坏性的工具。
到时候，我们会尽量避免这些工具可能带来的破坏性后果。有人做了一个巧妙的比喻——涂试图用手去抓雨来阻止雨。
他曾向监管部门解释，AI技术将降低未来许多潜在危险化合物或武器的开发门槛。
在实际制作这些东西时，AI可以提供很多帮助——例如，在实验室遇到技术挑战时，告诉从哪里获得工具，等等。但确实可以通过将这些内容从前期训练中删除，并对模型进行对齐，来有效降低这样的风险。
总之，要让利用大模能力干坏事的人尽可能难做。
但是，如果所有的模型都尽可能开源，未来面对越来越有能力的模型，会暴露出更多类似的风险。
所以，虽然开源模式对很多人来说确实是一件好事，可以让大家获得模型，进行各种尝试，带来技术的创新和提高，但是也要看到开源的风险，因为不是每个人都是善良友好的。
虽然我说的话可能会被很多人解读为我做的事和开源社区有利益冲突，所以很多人可能会生气，但我还是想表达一下我的观点。
他还强调，他发表这番言论并不是为了攻击开源社区:
“虽然我说的话可能会被很多人解读为我做的事情和开源社区有利益冲突，所以很多人可能会生气，但我还是想表达自己的观点，希望得到人们的支持。」
在Google和DeepMind期间抓马
在DeepMind的10年里，他花了大量时间试图将更多的外部监督融入到构建AI技术的过程中。
这是一个相当痛苦的过程。虽然他认为谷歌的出发点是好的，但它的运作方式仍然和传统的官僚机构一样。
我们在成立谷歌的伦理委员会时，计划有9名独立成员，这是在开发敏感技术的过程中进行外部监督的重要措施。
然而，由于任命了一名保守派，而她过去曾发表过一些有争议的言论，许多网民在推特和其他场合抵制她，还抵制了其他几名支持她的成员，要求他们退出该委员会。
这是一个彻底的悲剧，非常令人沮丧。我们花了两年时间成立这个委员会，这是对我们正在开发的非常敏感的技术进行外部审查的第一步。
不幸的是，一周之内，9个成员中有3个辞职了，最后她也辞职了，然后我们就失去了一半的委员。
然后公司反过来说:“为什么要招人限制自己？这纯粹是浪费时间。」
其实在收购DeepMind的时候，我们就提出了收购条件，就是要有一个伦理和安全委员会。
我们计划将DeepMind打造成继道德与安全委员会之后的一家全球利益公司:一家所有利益相关者在决策时都能发表意见的公司。
它是由担保有限责任公司设立的公司。然后，我们计划制定一个章程，为AGI的发展设定相关的伦理安全目标；这使我们能够将大部分收入用于科学和社会使命。
这是一个非常有创意和实验性的结构。但当Alphabet看到伦理委员会成立时发生的事情时，他们变得胆怯了。他们说，“这太疯狂了。同样的事情也会发生在你的全球利益公司身上。你干嘛这样？」
最终，我们将DeepMind并入了谷歌。从某种程度上来说，DeepMind从来都不是独立的——当然，它完全从属于Google now。
谷歌的下一代大模型双子星
The Information报道称，谷歌的多模态人工智能模型Gemini即将面世，直接针对OpenAI的GPT-4。
事实上，在今年的谷歌I/O大会上，肖邦已经向公众宣布谷歌正在开发下一代机型Gemini。
有传言称，该模型将至少有1万亿个参数，数万个谷歌TPU AI芯片将用于训练。
与OpenAI类似，Google使用GPT-4方法来构建模型，该模型由几个具有特定能力的人工智能专家模型组成。
简而言之，双子座也是混合专家模式(MoE)。
这也可能意味着谷歌想要为Gemini提供不同的参数大小，因为从性价比的角度来看，这是一个不错的选择。
除了生成图像和文本，Gemini还被训练从YouTube视频中转录数据，还可以生成简单的视频，类似于RunwayML Gen-2。
此外，与吟游诗人相比，双子座的编码能力也有了显著提升。
Gemini推出后，谷歌还计划逐步将其整合到自己的产品线中，包括升级Bard、谷歌Office Family Bucket、谷歌云等。
事实上，在Gemini之前，DeepMind就有一个代号为“Goodall”的模型，它是基于未公布的模型花栗鼠开发的，可以媲美ChatGPT。
然而，在GPT-4诞生后，谷歌最终放弃了这一型号的开发。
据说至少有20名高管参与了Gemini的研发，为首的是DeepMind创始人戴密斯·哈萨比斯和谷歌创始人谢尔盖·布林(Sergey Brin)。
还有数百名由Google DeepMind组成的员工，包括前Google brain负责人杰夫·迪恩(Jeff Dean)等等。
戴密斯·哈萨比斯之前在接受采访时表示，双子座将结合AlphaGo类型系统的一些优势和大型模型惊人的语言能力。
如你所见，谷歌已经在全力备战，只等双子星开启反击之路。
参考资料:
https://80000 hours . org/podcast/episodes/Mustafa-suleyman-getting-Washington-and-silicon-valley-to-tame-ai/
https://Twitter . com/AISafetyMemes/status/1697960264740606331 "