DeepMind的联合创始人，Inflection AI的创始人，Mustafa Suleyman接管了MIT科技评论对他进行了一次线上专访，在专访中，他抛出不雅观点：

现阶段的天生式AI只是一个技能阶段，接下来会进入交互式AI的时期：AI将会成为能够根据每个用户的不同任务需求去调用其他软件和人来完成事情的机器人。

他创办的公司——Inflection AI的目标，不仅仅是一个谈天佑手，而是想要通过AI让天下上的绝大多数人得到更加平等的资源和信息。

末了，他还呼吁政府要积极的对AI进行监管，并认为将AI在现有制度下进行监管不难实现。

大概与Suleyman有相似意见的人并不少，但与大多数人不同的是，是一个估值数十亿美元的公司——Inflection AI的领导者。

这个公司拥有来自DeepMind、Meta和OpenAI的顶级人才，并且通过与英伟达的互助拥有环球最大的专业AI硬件算力储备。

我们正处于AI技能的三波浪潮中的第二波

在Sulyman看来，第一波AI浪潮是关于分类（Classification）的。
深度学习表明，人类可以演习打算机对各种类型的输入数据进行分类：图像、***、音频、措辞。

现在处于第二波浪潮，天生式AI之中，输入数据并天生新数据。

第三波浪潮将是交互式AI。
他一贯认为对话是未来的交互界面。
用户不仅仅是点击按钮和键入笔墨，用户会与AI进行直接的对话。

这些AI将能够自主采纳行动。
只须要给它一个一样平常性的、结局的目标，AI将利用所有工具来实现这个目标。

它们会与其他人对话，与其他AI对话。
这便是他将要用Pi来实现的东西。

这是技能能力的巨大升级。
这是技能史上一个影响非常、非常深远的时候，他认为许多人都低估了技能的潜力。

AI技能现在依然还是静态的。
它基本上是按照你见告它的办法去干事。

但技能将变得有生命力。
如果用户给予AI充分的自由，AI就能去利用这种自由去采纳行动。

这确实是人类历史上一个质的飞跃，我们正在创建具有这种智能体能力的工具。

人类将始终是主导者。
人类须要确定AI不能超越边界的限定，并确保这些边界从实际代码到与其他AI或人类的互动，再到创造技能的公司的动机和勉励，都能供应可证明的安全性。

从前经历对自己代价不雅观和创业的影响

当被问到他分歧凡响的职业经历和传统的「硅谷风」截然不同，而这些经历对付他在硅谷创业有什么影响时，Suleyma回答到：

他一贯对权力、政治等方面很感兴趣。
他以为人类基本原则是妥协的产物。
依赖的是不同的、相互冲突的力量之间持续不断的协商才能达成的一种动态平衡。

虽然人类在不断地办理问题——但是人类依然会被自身的偏见和认知盲区所限定。

民间组织、地方政府、中心政府、国际组织等等——都会受到自身的限定而没有办法高效的，不犯错的运作。

想象一下，如果人类不会犯缺点，将会涌现什么情形？

他以为人类有可能构建出真正反响自身利益的AI，并终极更同等、更公正地代表所有人做出更好的利弊权衡。

（1984年，Sulyman出生于伦敦北部，父亲是叙利亚人，母亲是英国人。
他在穷苦中终年夜，16岁时，父母分居，两人都移居国外，留下他和弟弟自谋生路。

Sulyman上的是伊丽莎白女王学校(Barnet的一所男子文法学校)。
大概在那个时候，他通过他最好的朋友，认识了DeepMind的联合创始人Demis Hassabis。
Sulyman说，他和Demis Hassabis常常谈论他们将如何影响天下。

后来他被牛津大学录取，学习哲学和神学，但一年后就退学了。

之后与他的大学朋友Mohammed Mamdani一起创办了穆斯林青年帮助热线，这是一项电话咨询做事。
该组织后来成为英国最大的穆斯林生理康健支持做事机构。

随后，Sulyman在伦敦市长Ken Livingstone部下担当人权政策官员，之后创办了Reos Partners，这是一家「系统性变革」咨询公司，利用办理冲突的方法来办理社会问题。

作为一名会谈代表和调度人，Suleyman曾为联合国、荷兰政府和天下自然基金会等一系列的客户事情。
）

Suleyma说，离开DeepMind后，他已经财务自由了。
不须要去创业或者写书赢利来养活自己。

钱从来都不是事情的动力。
钱是事情的副产品。

对他来说，事情的目标从来没有变过，便是如何让天下变得更好，以及如何以一种康健、令人满意的办法推动天下提高。

纵然在2009年那时，当他开始考虑进入科技行业时，他就看到了AI技能代表了一种在世界上供应做事的公正和准确的办法。

（Suleyman与Hasabiss共同创立了人工智能公司DeepMind Technologies，担当首席产品官。
DeepMind于2014年被谷歌收购，他成为DeepMind运用人工智能的卖力人。

2022年1月，Suleyman离开谷歌，加入Greylock Partners，担当风险合资人。

2022年3月，Suleyman与Greylock的Reid Hoffman共同创立了AI实验室Inflection AI。

该公司成立的目标是利用「人工智能帮助人类与打算机对话」，从谷歌和Meta等公司招募了前员工，并在第一轮融资中筹集了2.25亿美元。

随后在今年7月，得到了来自微软、英伟达、比尔·盖茨和LinkedIn创始人Reid Hoffman的15亿美元投资。

Inflection AI拿到融资之后，立时就购买了代价13亿美元的英伟达H100 GPU，搭建了天下上最大的GPU集群之一。

今年早些时候，他发布了一款名为Pi的ChatGPT竞品。
他还与作家和研究员Michael Bhaskar合著了一本关于AI未来的书，名为《即将到来的浪潮：技能、权力和21世纪最大的困境》。
）

如何看待技能的负面影响

他认为过于纠结于谁是乐不雅观主义还是悲观主义没有太大的意义。
这是有偏见的看待事物的办法。
他只想镇静地剖析利益和寻衅。

站在他的态度上，可以非常清晰地看到，随着大型措辞模型规模的进一步提升，它们变得更易掌握。

以是两年前，当时的不雅观点——他当时就认为是缺点的——是「哦，它们只会产生有毒的、反刍的、有偏见的、种族主义的内容。
」

但是这些情形都只是暂时的。
人们忽略了技能不断地进展，没有真正理解技能向前发展的轨迹。

现在Pi这样的模型，非常的可控。
Inflection AI 可以不让Pi产生种族主义、同性恋歧视、性别歧视——任何形式的有毒内容。

能让它谢绝教用户制造生物或化学武器，或者鼓励用户去砸邻居的窗户。

至于如何实现，Suleyma不想透露过多的技能细节，但是他说，请放心大胆地去实验！
Pi已经上线了，用户可以考试测验所有可能的攻击办法。

针对Pi的任何越狱、提示黑客攻击或任何事情都不起浸染。
这便是一个客不雅观事实。

Inflection AI有天下上最强大的团队，在过去三四年里创造了所有最大的措辞模型。

这是一个非常出色的团队，在一个非常高效的环境中事情，拥有大量的打算资源。

他们一开始就把安全作为第一优先事变，因此，Pi没有像其他公司的模型那样那么「火辣」。

看看Character.ai。
（Character是一个谈天机器人，用户可以为其设计不同的「角色」，并在线分享给其他人谈天。
做链接） 它的功能紧张用来创造天马行空的角色，但是Inflection AI一开始就以为这不是一个好的方向——他们不会做这样的功能。

Pi会非常尊重你。
如果你开始抱怨你社区的移民抢了你的事情，Pi不会责怪你，不会对你指手画脚。

Pi会关心地讯问并给你供应措辞和生理上的支持。
它会试图理解用户这种感情从何而来，并温和地鼓励你去同情别人。
这些都是我思考了20年的代价不雅观。

但被问到如果开源这些技能能让天下变得更好的话，为什么不开源。

Sulyman强调，自己毕竟在经营公司，得挣钱养活大家，之前买了英伟达13亿的GPU，得赢利知足投资者对回报的哀求。

现在开源生态系统正在发达发展，做得相称不错，开源社区也创造类似的方法。
Suleyman只假设他们最多领先六个月。

AI监管如何有效进行

对他而言，开拓AI递归自我改进的技能须要被监管起来，小型AI在没有你的监督下去更新自己的代码是危险的，大概这乃至该当是一个须要容许的行为。

或许须要像处理炭疽或核材料一样，有专门的机制来监管这种行为。

他还认为，对付AI的恐怖是完备没有必要的。
AI监管完备可以落脚在现在的监管框架之内。
AI只是管理体系的另一个组成部分。

人类在规范超繁芜事物方面做得非常出色。
联邦航空管理局为例：我们都已经习气乘坐这些铝制管道在四万英尺的高空翱翔，而这是有史以来最安全的交通办法之一。
这便是监管成功的例子。

或者汽车：每一个组件都经受了极限的压力测试，而用户必须有驾照才能驾驶它。

有些行业——比如航空公司——一开始就很好地自我规制。
由于他们知道，如果他们没有做好安全事情，大家都会害怕，他们就会失落去买卖。

参考资料：

https://www.technologyreview.com/2023/09/15/1079624/deepmind-inflection-generative-ai-whats-next-mustafa-suleyman/