刁孝力：

在圆桌谈论环节，欢迎各位高朋提出自己的不雅观点，有更多的火花碰撞。
本日谈论的话题是AI和机器人，第一个问题想请各位高朋谈论，近日前OpenAI的首席科学家Ilya（伊尔亚·苏茨凯弗）宣告了他的SSI（“安全超级智能”）新的创业项目，旨在推动安全、超级智能的发展，结合各位的专业背景和研究领域，如何看待SSI的出身以及可能带来的影响？同时，在确保人工智能安全与推动科技创新之间，我们该当如何找到最佳的平衡点？

很多人喊我“祖师爷”，以是我必须要证明一下“祖师爷”多大年纪了，我今年81岁。
AI是我这二十年特殊关注的一个领域，我个人的不雅观察是，中国在AI方面的人才大大多于西方。
比如说现在AI的顶级会议，70%的论文作者是中国人。
从事AI行业，中国有很大的潜力。
但是这几年大模型的发展方面，我认为现在已经有所掉队了，紧张是在芯片以及很多系统的开拓方面。
2023年美国有160个大模型出来，中国只有16个。
以是我们的AI发展还有很长的一段路要走。

我做超级电脑、数据中央、云打算等事情很多年。
我们的超级电脑、云打算都有相称的技能存在，但是现在好多地方被“卡脖子”。
未来，在打算机的系统开拓、AI算力的开拓方面，我们也会面临很大的限定。
我想分享一下不雅观察人工智能发展的三个角度：

一是天生式AI是当下人工智能家当发展的主流。
通过大模型，它能够看、能够听、能够讲，这些感知的东西能够发展得很好。
AI发展有两大主流：一个是感知，一个是认知。
我认为中国在感知方面发展得很快，感知AI的能力发展得比较快；但是认知的能力发展比较慢，大模型表现出我们在认知能力上还须要大量的提升。

第二，深度学习、机器学习赋能大措辞模型，对教诲办法重塑的推动。
各位都知道现在AI紧张的课程是深度学习、机器学习。
出了大模型往后，学习的办法完备变了，它不是传统的在大学里面看几本书学点知识就行了，往后就变成机器可以帮你学习。
因此，机器能做的事情不要去做，要做机器不能做的事情。
大模型时期最主要的是学习怎么提问。
把这个问题输入到大模型里面，它就能帮你找出须要的答案，懂得提问的办法很主要。
以是未来不只是学习，学“问”也很主要，要懂得问问题。

第三，是在认知方面不能推崇“唯AI论”，以AI为唯一的办理方案。
AI的发展，现在机器的某些水平基本上跟人相称，但是在情绪、意识层面它还差得很远。
以是并不是说AI已经到了尽头，还有很大的空间可以发展。
中国政府最近宣告将在人工智能方面投入3000多亿公民币，我以为这还不足，OpenAI准备建造的一个大的系统，要投入100亿美金。
我们要把钱花在刀刃上，这样才能够往前走一步。

刚才“祖师爷”提到AI还是在一个感知和认知的过渡期，我认为这是人类的黄金机会，必须在感知与认知的过渡期把“盾”建好，要不然在人工智能认知能力存在之后，我们还没有这个“盾”，人类就会面临灭亡。

AI很多东西目前还办理不了，这个“目前”是一个很主要的字眼，留给我们的韶光还有多少，我们并不知道。
有很多鄙视AI的不雅观点认为，这东西不是智能。
这么多年的从业履历见告我，我们很难预测科技发展的趋势，包括OpenAI的爆发也就短短两年旁边的韶光，顺便抬起了英伟达这家公司，这完备没法预测。
我们可能只有5年旁边的机会，在AI还没发展成强认知的机器，或者强AI的时候，去把监管或者安全性做起来。

回归到问题的本原，也回归到郑教授讲的“矛”和“盾”，Ilya的公司是从技能的角度办理安全性的问题。
故意思的问题是，美国自称自由天下，他们无论是“矛”还是“盾”，都是节制在私营经济的手上，政府的浸染是什么？我真的不敢预测，由于AI跟水电煤一样是一个根本架构，如果它都节制在私营经济的手上，末了会演化成什么，政府存在的意义又是什么？

AI在中国的发展还有点不一样，电力行业基本是国企，通信行业基本也是国企。
通信这一块还好，但是AI节制在私人企业，它的好处和坏处是什么，须要更多思考。

刁孝力：

感激三位高朋的分享。
接下来这个问题是给郑教授的。
叨教您如何看待中国在环球人工智能和机器人技能竞争中的地位，以及在当下的竞争格局下，中国可以采纳什么样的政策，以保持其未来潜在的更好竞争上风？

这是一个非常繁芜的问题，据我理解，现在的很多人，对AI是什么都还没搞清楚。
这是很糟糕的。
还有人乃至说AI是不是美国人的阴谋？还有这种奇怪的想法。

之前美国《纽约时报》揭橥了一篇文章讲，美国现在是“新浮士德文明”的发源地。
“新浮士德文明”有两块地带，一个是从硅谷到得克萨斯这个狭长的地带，还有一块从波士顿到纽约。
这样看来，中国也有两块地带，一块是粤港澳大湾区，这一块的人工智能研究是非常不错的，喷鼻香港的研究能力很强，深圳、广州又有很强的制造业，人工智能发展可以有很强的运用处景；还有一块，在从杭州到上海、苏州的长三角地区崛起。
刚才黄铠老师说，我们的人才很多，研究论文很多，但是我们的研究是为了研究而研究。
在这一点上我们须要看到，美国的很多研究是强调转化的，而我们的研究能够转化成产品的少之又少。
以是我们的研究数量比研究质量要高。
在大学里面，很多实验室卷模型、买芯片，他们紧张是为了写学术文章，而不是为了运用。
美国考虑运用的，而我们只是为了写文章，对此我感到很担忧。
人工智能一定要向年轻人倾斜。
一个国家的资源如果向年轻人倾斜，它是有希望的。

开放很主要。
AI须要大量的数据，但现在没有什么数据，并且在大量的摧残浪费蹂躏数据，尤其缺少高质量的数据。
去年在《中国科学院院刊》我们做了一期关于如何超过“中等技能陷阱”的谈论，现在中国在人工智能方面，还是一个中等技能的水平，美国远远领先我们。
如果有一个好的政策，我们很快能发展起来，乃至有些地方还可以超越美国，比如人脸识别、声纹识别等等，中国在做“盾”方面做得很不错，但是在天生式人工智能发展方面要对症下药。

中国的企业哲学和美国的企业哲学不一样，美国的企业哲学是一个新的技能涌现时政治不会提前参与，也不会用道德去判断，等它成长起来往后，过一段韶光它再去评估，是不是对公共利益有负面的浸染，然后再去建立监管的制度。
我们儒家社会是道德化的，“小宝宝”还没生出来，就给他很多的“笼子”，这是很不好的。
我们也不要学欧盟，近代以来欧盟曾是创新的象征，但现在欧盟的规则、规制太多了，它的企业没法发展。
如果我们连续开放的话，发展的机会是非常大的，乃至在制造业领域超过美国。
美国很多制造业的运用处景已经没有了，只能在全天下去找。
而我们的运用处景是非常丰富的。

刁孝力：

接下来的问题是给黄铠教授的，作为打算机体系的构造和并行处理领域的先驱，您是如何看待这些技能在推动当古人工智能和智能机器人发展中的浸染？这些技能未来可能会有哪些打破点？未来打算机科学领域该当如何适应人工智能的发展，以培养出更多符合时期需求的人才？

这个问题非常好。
我从事教诲事情，创造自从大模型出来了往后，机器可以取代很多老师的事情。
程序员也可能大规模地减少，由于一个算法给了人工智能，它就能自动写出代码，速率比人工快多了。
以是我认为社会生态系统已经变了，大家心里要有准备。
马斯克和李开复认为，未来可能高达50%的人都要失落业。
AI会带来大量的失落业，这是各位要思考的问题，也是前海国际事务研究院要研究的核心问题。

我认为大学的教诲要改，上学期我教大模型的课程，给学生出题目，他们不在我的教科书里面找，都上ChatGPT里面找，他把我给他的问题说得更详细一点，然后GPT就帮他写了答案出来，比我的书写得还好。
教诲往后会有很大的变革，各位要有生理准备。

我认为中国有希望。
由于中国的人力资源和中国政府看到的方向，在AI方面是潜力最大的，虽然中国的芯片、光刻机被“卡脖子”，乃至OpenAI的大模型也要限定中国人利用，但是我认为中国的潜力还是最大的，可能三五年的韶光我们就有机会遇上。

刁孝力：

感谢黄铠教授的分享。
接下来给刘少山博士的问题，作为具身智能中央的主任，您认为在当下具身智能在实际运用中详细的寻衅和机遇分别是哪些？由于今年更多是属于具身智能的元年，您认为这个行业是不是会有更多的泡沫？

关于黄铠教授提到码农大规模减少的问题，我们有深刻体会。
2019年我开始写代码，当时OpenAI出了一个很粗版的东西，我创造它的代码写得比我好。
过去20年是技能的时期，未来20年可能是一个人文的时期。
作为具身智能的元年，我国须要加大投入。
这个投资不可少，一旦少了，我们就完备掉队了。

同时，也有很多机遇。
未来，具身智能的运用广泛。
包括黄教授刚才说的沙场机器人，除了军事之外，各行各业都会利用机器人，扫地机器人在中国一年的出货量是几百万台，现在的渗透率还比较低，等到它的功能进一步完善之后，渗透率会进一步提升。
当然，也面临详细的寻衅，包括数据、算力、繁芜的软件栈等方面。
我们经历过几波技能大潮的影响，每个时期开始的寻衅基本都是差不多的，大家把力量整合，后续就会很顺，以是我们预期这个周期有点像当年的PC（个人电脑）和Mobile computing（移动打算），末了也是人手一台或几台，能做事到各行各业。

刁孝力：

这个问题是给郑永年教授的。
在推动人工智能技能发展的过程中，您认为政府和政策制订者该当如何制订及如何履行有效的政策，以确保技能创新与伦理道德的平衡？同时这一过程中，各利益干系者该当如何参与并互助，以实现公正和可持续的发展？

我认为Policy participation（政策参与）确实很主要，但是中国和美国在这方面完备不一样。
美国是一个开放的系统，就看谁的钱多。
我以为美国不好的地方在于过于成本主导，先发展，不讲伦理。
以前亚当·斯密讲成本追求self interest（自我利益），但为终极导向公共利益。
我以为只有一半是精确的，如果没有人追求利益的话，就没有财富；但是财富出来了，不见得就符合所有公众年夜众的利益。
美国现在很麻烦，经济、科技都在发达发展，但是它的社会碰着了近代以来最严重的危急。
社会分解已经到了什么程度？里根革命往后，美国以前有70%的中产阶层，现在一起下滑到不敷50%。
奥巴马执政8年，美国的中产阶层以每年一个百分点的比例缩小，为特朗普的崛起打下了社会根本。
可以说，美国的经济根本和上层建筑已经完备脱节了。

回到人工智能领域，我以为中国过于安全主导，太恐怖人工智能，以是总是做“盾”。
如果这个Perception（不雅观点）不改变，我们的人工智能就发展不起来。
Perception（不雅观点）改变了往后才能发展起来。
不发展是最大的不屈安，如果美国有，欧洲没有、日本没有，我们也没有，往后全天下都是美国的奴隶，吃什么、用什么，都是美国的人工智能见告我们。
以是我们还是要强调发展。

刁孝力：

感谢郑教授的分享。
下一个问题想请教黄铠教授，在过去的进程中，您有没有看到政策对技能的影响，包括在政策的影响下，大家是如何协作的？

这个问题很大，我考试测验回答个中一部分问题。
我们大家要改变一个心态，往后不管从事哪一行，一定要建立一个新的观点叫做Group intelligence（群智），它强调的是什么？举个例子，华为曾经说过，往后的工厂里面多数是机器，一个人要管理130个机器，以是一定要理解机器的性能、脾气、各个方面，包括人和机器、许多人与许多机器的互动，这是一个大问题。

去年国务院成立了数据管理局，这是新的机制，它要办理很多数据干系的Legal issue（法律问题），办理Responsibility（职责）和Accountability（卖力制）。
比如说工厂里面人和机器事情，机器插到人的手里，人受伤的问题。
国家数据管理局要定很多Legal regulation（法规），还有Price，怎么样来决定数据的代价，这个Price很主要。
由于数据往后便是一个Resource（资源），是一个财源，如果你不定出规矩出来，将来的问题很大。

刚才讲具身智能，我们往后能不能有一个机器人总统？在美国，机器人是不是会比较公道一点？

有一段新闻说，有情面愿跟机器人谈恋爱、结婚，我不敢想象。
要回答这个问题，须要很多的规矩。
人和机器相处要有规矩，人与人相处本身就有很多社会上定的规矩，人与机器相处，出了事件之后谁卖力，要建立这样的规矩体系。
美国很担心AI将来在社会造成这样的问题。
这个问题确实是存在的。
全天下恐怕各国也要折衷，例如联合国有一个特殊的项目要谈论这个方面的问题。
AI的管理现在是最须要发展的。

刁孝力：

感谢黄铠教授关于Group intelligence（群智）的分享，同时也感谢郑教授补充提问。
少山博士，您是怎么看待我们前面提到的在当下这样一个技能创新的关键时点，各方利益互助者该当如何携手，实现可持续和公正的发展？

我还是从HKS（肯尼迪学院）的角度来说一下这个事。
我们在肯尼迪学院看到的第一个事情，是传播一套政治哲学，根据我自己粗浅的认识，便是所谓的成本主义哲学，它是工业革命带来的。
而AI时期可能会衍生一套新的政治哲学。

在肯尼迪学院上课，一个班切成两半，一半是国际学生，一半是本土学生。
本土学生可能是在白宫事情等系统编制内的人士。
国际的学生，我们班有一个同学是在厄瓜多尔卖喷鼻香蕉的，去年选上总统。
肯尼迪学院的政治哲学会影响全天下不同地方的人。
早期也有中国很多系统编制内的人去肯尼迪学习。
AI时期会不会产生一套新的政治哲学，这套政治哲学是否能影响全天下？我以为肯尼迪学院最厉害的是这两个点。
这个时期又给予了在中国衍生这么一个机构的机会，特殊期待郑教授带领的公共政策学院能承担这个职责。

不雅观众提问：

随着AI的发展，可能会带来能源花费和碳排放。
叨教黄铠教授，您怎么看AI背后的环境问题，以及中美人工智能在管理层面是互助还是竞争？

各位该当听过“西电东送”这个说法，现在由于Computing power（算力）方面，要在最便宜的地方去建立大的数据中央，比如说在宁夏培植大数据中央，就比在深圳便宜很多。
以是现在有一个新的做法叫“东数西算”，在中国的算力放在西部，作为云数据中央，这是一个大的研究领域。
据我理解，清华大学现在就有好几个项目在做“东数西算”的运用。

说到电力，我就想到英伟达的总裁想在中国台湾设立一个大的打算中央，结果电力不足。
没有电怎么做这个打算中央呢？我们目前在考虑绿色数据中央、减碳的Computing（运算）、电力资源的自助、Chip（芯片）的发展，以及Software（软件）生态环境的建立。

机器人这一块，上海张江是一个大的AI中央。
深圳显然有实力在智能机器人方面发挥得更好，我们有大疆、比亚迪，他们都用了很多AI。
我在海内坐电动汽车，觉得美国比我们差很远。
在海内开车是可以跟汽车语音掌握的。
从AI在生活上的运用来说，海内运用的层面比西方多很多。
这一点你们出国往后就会有很明显的体验。
我认为中国要追上前辈，只须要几年韶光。

不雅观众提问：

AI是不是可以让人类最靠近共产主义的工具？想问一下郑永年教授，您怎么看AI在社会资源分配大将来带来的影响？

人工智能是人工喂出来的，以是我认为至少目前很难达到共产主义。
共产主义是不偏幸、大家平等，但AI很难做到公道，由于它只是一个工具。
如果它变成了人造上帝，有巨大的认知能力，那是有可能的，但是在目前还看不到它能做到比较中立的情形。
如果能中立的话，我以为它可以当总统。
但是它现在还做不到中立，就成为了民主党的AI或共和党的AI。

关于投资，美国是成本主导的，有足够的成本筹集的渠道。
现在在中国，人工智能的门槛已经很高了，除了腾讯、阿里、华为这些大公司，一样平常的小公司起步比较难。

如果大量的数据节制在私企手里，到底会产生什么样的后果，政府也须要考虑。
从这几个成分来说，很大规模的投入会来自于政府。
以是就我理解，私人领域对付这种大规模的投资，政府还是会有顾虑，以是，末了还是要国家来投资。
但是就像黄教授刚才说的，国家投资3000亿元公民币根本不中用，美国一个模型就要投资100亿美金，以是资金缺口还是很大的。

不雅观众提问：

我想向郑教授请教一个问题，怎么发挥举国系统编制，更好地推动人工智能的发展？目前政府还有哪些可以做的，能够发挥大家的协力，一起来更好地推动我们国家人工智能的发展？

人才是最主要的。
现在的家当是人才、技能和家当结合。
中美之间的竞争便是人的竞争，中国的人才虽然很多，但是美国是用全天下的人才。
现在回顾历史，冷战期间，美国吸引的便是全天下的人才，包括把苏联的人才吸引到美国之后，跟苏联竞争。
本日也是一样，美国用全天下的人才，包括中国的人才，来跟中国竞争。
以是我们现在须要考虑如何竞争，便是要在世界范围内的人才。

我补充回答一点。
在中国来说，最须要AI的领域是医疗康健领域，这是最主要的领域，也是最有机会的领域。
往后看病找机器帮你看，用大模型帮你诊断。
我上学期教大模型课的时候，给学生举了好多例子，你得了什么病，你把身体的数据输入进去往后，它比你找几个年夜夫会诊往后判断的更准。
以是我认为医疗是最主要的领域。
其余一个领域是聪慧城市，我们的交通管理、旅游等等，完备可以利用很多AI的技能，这是一个非常有前景的领域。

不雅观众提问：

一个机器人走进千家万户到底还要多久？是不是我们低估了物理天下自动化的难度？

从大模型的角度看，可以给你供应一点证据。
比如刚才说到的医疗领域，在美国现在已经发展到什么程度？所有医学院的学生毕业，要先在医疗康健大模型里面通过考试，然后去演习的时候才能打仗到Real situation。
以是这个大的模型，我认为会在每个小的领域都建立起来，它不一定是通用的，它会聚焦在专业运用需求。
医疗康健是一个大的领域，但是还有很多其他的领域，比如汽车工业，刚才我讲到自动驾驶，这是会实现的。
往后你上了车，根本不用自己开，它自己会开。
我最开始不相信这个事情，最近我得到了表面很多证据，尤其是马斯克的特斯拉智驾系统出来往后，它可以让无人驾驶比有人驾驶，在很多方面更有效。
当然，你会碰着法律的问题。
比如说一个中国的工程师在美国，他用了特斯拉的自动驾驶软件，开车的时候玩手机，结果出了车祸。
当然这个事情是个别的案例，整体来说这个别系已经相称不错了。

我大略回答一下这两个问题，第一是否物理限定很强，比想象中难？答案是肯定的，确实是这样。
第二，还要多久？这个就超乎我们想象，确实不知道，但我们作为一个科研单位，要为社会创造希望，我们会为这个事情去努力，详细须要多久，毕竟它涉及到物理限定，这个也不好说。

刁孝力：

补充回答，去年3月份我在硅谷参访了Figure AI（美国一家机器人公司）。
它作为具身智能机器人前几家的公司，在这个领域有非常大的发展。
同时，我也引荐了Figure AI的技能专家与某教诲公司创始人磋商具身机器人在未来潜在的落地运用。
教诲公司的诉求是，他当下的教诲业务是在学习领域，以是问Figure AI的人形机器人是不是可以在学生的家庭场景落地？那位科学家的回答是否定的，并且所需的韶光可能还会更长。

专门叨教郑教授两个问题，一个是中国怎么有可能超越美国，第二个是在技能限定的情形下，中国有没有其它的方法超越美国？

这是两个层面的问题，第一是技能层面的问题。
美国现在很多方面还是很前辈的，我们也要意识到中国真正的发展也就这几十年的韶光。
美国从1870年代之后便是天下上最大经济体，尤其是二战往后，它所有的科技方面都是Dominate（拥有压倒性上风）的，知识的积累水平远远超过我们。
但是中国发展的也很快，从日本、韩国、新加坡的履历来看，一个国家开始都是运用技能，等二、三十年积累下来往后，它会转向“0到1”的原创。
现在很多领域碰着的困难，便是由于事先准备不敷。
企业家都认为这个天下性市场是存在的，自己做还不如买，跟美国关系好的时候，什么都可以买。
并不是中国做不出来，只是形成了路径依赖。
然而，美国人要脱钩了，才焦急。
当然这几年的技能进步迅速，例如华为的芯片。
这个技能跟美国可能有一点差异，但是它的事理是相同的，不可能用两套技能，不可能有中国物理学、美国物理学。
科学只能有一个别系。

第二，是从政策的层面去看，我们要制订一套更有效的政策。
我一贯说我们要单边开放，美国、欧洲向我们开放，我们自然也要向他们开放。
中国在宋朝往后掉队便是由于不开放，只要有一个开放的基本思想，美国人封杀不了。
比如说5G，它作为一个idea（思想），是一个土耳其教授的学术理论，这个尖真个思想封杀不了，是人类共同所有的，没有任何一个政府能封杀。
美国政府封杀的是运用技能这一端，中国人能把5G这个idea（思想）找来，这是永久可以找到的，美国封杀不了我们。
除非中国自己封闭起来，不跟别人交往。

技能的转化方面，我们非常有能力，以是也不用悲观，只是说须要花很大的精力去做。
作为一个大国，开放是非常须要的，我们一贯在推动单边开放，现在只是签证单边开放了。
要考虑做更多领域的开放。
为什么成本现在不到中国来？由于成本在中国是不赢利的，如果成本有30%的利润，谁听特朗普、拜登的话？他冒着再大的风险也要来。
以是我们要使得美国的成本、华尔街profitable（受益），这一点是主要的。

封建时期核心资产是“地”，成本主义时期“成本”是核心资产，在AI时期，我认为“能源”是最核心的资源，由于能源转化算力，算力转化智能，谁掌握了能源，谁就有最核心的“矛”。
但是这个会不会形成新的阶级，我不敢判断。

经济学是算GDP的。
GDP很大略，我自己做饭、洗衣服，太太给我理发，这是不创造GDP的。
我帮你洗衣服，你给我做饭，或者到表面去理发，这就会创造GDP。
以是农业社会GDP低，工业社会GDP高。
现在人工智能时期来临，会不会减少人与人之间的交往？这个有可能。
但是经济是存在的。
和人类交往多少不干系。
在AI时期怎么统计经济，这是一个大的问题。

从社会阶层来看更故意思。
农业社会把每个人绑定在地皮上，以是它比较均匀没有太多的大富大贵。
工业时期财富开始集中，有城乡差别。
人工智能可能带来更高度的集中。
就像马斯克所说的，AI制造大量的财富，你就去消费就行了。
大家都不用思考了，AI都准备好了。
以是我认为大学要改革，要学会问问题，技能性的东西交给人工智能。
21世纪必须回答的一个问题：人类的意义在哪里？这是哲学问题，乃至是宗教问题。

主持人：

非常感谢本日各位高朋带着从技能、教诲、商业、政策等等丰富的角度来思考和理解本日这个话题。
人工智能和机器人对社会发展和经济的影响，首先一定要发展，第二必须要开放。
虽然可能面临着大量的寻衅，这个寻衅有来自外部的，有内生的，但是我们也看到了希望，只不过这个希望的韶光须要多久？我不知道，但是至少我们开始了这样的对话，而且有我们本日在场所有的不雅观众提出的问题，实在就像多棱镜一样，也帮我们这些专业的从业者，从不同的角度，也能更加丰富、更深刻地理解他们在做的奇迹，而且有可能让更多在座的人共同参与这份奇迹，我以为便是我们做这样一件事情的意义。
非常感谢大家的参与和支持，期待我们下一次活动再见面。