我们知道人工智能发展到去年的11月30号，发生了一个比较主要的事情，ChatGPT的推出，在不到一周的韶光里达到了100万用户，不到两个月的韶光达到1亿用户。
ChatGPT最初涌现的时候，给人们带来的超乎意想好的体验，使得大家对这件事产生了好的困惑，盛赞者有之，担忧者有之，不屑者也有之。
刚才王娟谈到的，一批名人主见把它先停下来，由于它可能对我们会有威胁。
那么对付天生式的AI，到底成熟不成熟，能不能用？风险在哪里？是干事的帮手还是作弊的枪手？是该当按下加速键还是按下停息键，对它到底怎么看？这些我想谈谈我自己的意见，不对的地方请大家示正。

首先我们来看一个事实，天生式的人工智能它已经来了，我们从这边看到我昨天问文心一言科学本色是什么意思？科学本色与科学遍及什么关系？还是挺靠谱的一个回答。
那边是美国有关部门做的一个统计，分别按照不同的区域，比如亚太地区，我们看到常规性利用人工智能的，包括在事情中利用，在事情之余利用，在事情和事情之余都利用这三类人加在一起超过41%，同样在北美也超过41%，如果加上偶尔利用就更大了。
从不同的行业来看，金融部门用得最多，技能、媒体也是用得最多的，等等，男性比女性要用得更多一些。
年轻人81年往后出生的年轻人也用得非常多。
在任何时候都用的是5%，在事情上用的22%，事情以外24%，加起来超过一半的利用。
而且这个是在迅速的发展之中，这是基本的事实。
不是说你一些人主见停下来就可以停下来。

从趋势上来看，从人类呕心沥血到男耕女织，从马车到汽车到火车，从人工的生产线到自动化的生产线，从算盘得手摇的打算机，到大型打算机，所有技能进步，没听说过有人反对，其他的都有人反对，蒸汽机涌现的时候工人们去砸发明者的家，但是都打磨技能的进步。
用中心政治局学习的时候总布告的话来讲，从社会发展史看，人类经历的农业革命、工业革命、正在经历信息革命，工业革命拓展了人类体力，而信息革命则增强了人类脑力，这次信息革命引领的力量是人工智能。
我们知道现在人类创造工具正在从体力到脑力帮助我们人类，我们从体力来讲，我们最早为什么要有铁锹？是由于它比我们手强。
以是我们人类用自己创造的工具超越我们人类自身的能力，这不是现在才有的事，历来便是这样，但是过去紧张是替代我们的体力劳动，增强拓展人类能力。
本日我们必须认识到，信息革命便是拓展我们脑力，如果不愿意拓展的话，不是跟人工智能为难刁难，是跟全体信息化为难刁难。
现在实际上人工智能帮助我们从低级的脑力劳动解放出来，从这个意义上去看，我们该当拥抱生产力的进步。

第一个问题，什么是天生式人工智能？这个天生式人工智能是相对付判别式的人工智能而言的，我们最早打仗人工智能，图像识别，这是猫还是狗，是做判别的。
人工智能跟判别不同，是天生的，可以根据自然措辞绘画中的提示或者提问来自动天生出一个答案，和搜索不一样，搜索是利用关键词把大略的网页推给你，它是在这些网页演习的根本上来天生一个新的内容。
天生内容可以用人类思维的所有符号来呈现，可以用自然措辞文本来呈现，可以用图像来呈现，可以用***，可以用音乐，可以用软件的代码，这便是我们现在说的所谓人工通用智能的观点，所谓通用指的不是一种形式而是多种形式的。
现在人家叫通用人工智能，我自己翻译该当认为人工通用智能。
现在我们中文翻译成了GAI，人工放在前头是强调人工的主要，所有这些东西是人工制造的。

我们现在仅在中国，到昨天为止的统计148种已经公开了的各种天生式的大模型，这是比较范例的一些。
快速的产品迭代给我们供应了知识产品的半成品，这个观点非常主要，不是直接给我们提出终极的知识产品，我们利用者只管即便明白，如果让它写文章的话，它给我们供应了一个初稿。
要在这个稿子上经由反复地加工和勾引，才能形成终极产品。
如果我们大略地把它当作终产品，依赖它的话，不是它的错，是利用者的错。

我们现在做一个例子，昨天刚刚结束的在天津举办的全国的职业技能大赛，我让它先容一下职业技能大赛，请先容一下第二届职业技能大赛。
答：是人力资源和社会保障部主理的，天津市公民政府承办的职业技能大赛，是中国历史上规模最大、项目最多等等等等。
看出来觉得怎么样？很畅通，也挺靠谱。
仔细看一看，有错。
四类职业分类是六类，这是基本事实缺点。
而且六类里面有两大赛道，一个是天下的选拔赛，一个是中国的佳构赛，这六类是对天下选拔赛的，而且这里列举四类，有两类没列举的，正好是今年特殊突出的两类，创意与时尚、信息与通讯。
说它欠佳，叫最受欢迎的十大绝技等等。
这些反响出，如果我们仔细考虑的话，我们就须要在半成品的根本上指出它的缺点，见告它不是四类它会改成六类，你列出各种，它会给你列出来，以是你会勾引它补充信息，迭代改进，末了帮你形成很好的先容。

下面这个问题它到底是怎么事情的？为什么从半成品我们可以一步步勾引它？大体上来分，第一步是解题，便是解你提问的题是什么意思。
把提示语里面的词语分成小的token，根据以前所演习的模型里头，看你这些词语的模式和它演习的模式跟哪些词语同时涌现的概率特殊高，它把同时涌现的那些东西做成它可能的答案，它估计在高下文里概率最高的时候下一个词该当是什么词，这样编出一个答案来。
在这个根本上它把这套词语转换成可读的文本，如果你要的是画，它根据你的意思画出来。
或者你还可以进一步提示它，工笔画的，或者是写意的，都可以按照你的提问的提示来给你转换成一个可读的文本，这个文本不限于文本。
然后要做一件事，便是过滤，对可读的文本经由一个护栏内容过滤，叫作代价对齐，比如说你现在让它造一个关于某人的谣言，是不可以的。
它一看造谣这事不干，它会见告你，我是一个人工智能工具，我不可能从事不实信息之类的，这叫代价过滤。

我们还要做一个迭代，迭代以上部分，更换掉一些词的时候，看它的概率是不是能够提高，如果概率提高的话就会把这个词更换过来，直至末了的相应完成。
末了是润色，比如在答案的开头加上当然，是的，对不起，这样人类常用的词，让你听起来可读性更强、更自然。
这便是它基本的天生过程，但这里最主要的步骤在于它把提示词以及跟提示词干系的概率识别出来，找到哪些是问，哪些是可能的答，反复地做这个，这是它非常关键的一步。

以是这里头就变成了一个提示工程非常主要的一个工程，精确提示，勾引它给出你所须要的精确回答。
这是非常主要的一步。
你现在去找招聘的网站，包括微软招聘，这个变成新的事情，你乃至可以请将来提示师按照你的意图帮你去做这样的事情，这便是天生式人工智能它的提示和结果的非常密切的关系，由于它是根据你提示的那些token去判断你的观点模式，然后用输出和你的输入求得联合概率最高，这样天生的结论，以是你提示的内容比较丰富，用语比较准确是非常主要的。
并不是大略地随便一问，它就能得到一个好的答案。

实在我们说到天生式人工智能，这不是本日才有的，从上个世纪50年代就有拿打算机编歌，就有让它做翻译，经由这么多年的发展从小规模的专家知识，到浅层次的机器学习到深度的机器学习到大模型，我们溘然创造只有在大模型的时候，人工智能的能力发生了一次突变，这次突变很多人叫作呈现，至于为什么说呈现，现在还没有说那么清楚，但是我们确定看到了确实是大模型造成这样的结果，这个模型参数的突变发生在哪里？我们这里看到，从ChatGPT3到1750亿参数和以前比较，大幅度提升。
我们现在常用的ChatGPT便是在ChatGPT3.5的根本上出来的，今年的3月尾OpenAI又发布了ChatGPT4，听说它比这个又提高了100倍，达到了100万的量级。
我们在网上做了一个搜索，这个是我们看到从ChatGPT1是1.2亿的参数，用了40T的数据来进行演习。
到ChatGPT2，15亿的参数，还是40T的演习数据。
但是到了ChatGPT3，溘然涨成了1750亿的参数和万亿量级的数据来进行演习。
这是一个突变。
我们从3到4，又是一个突变。
数据量的大突变来自这里。
为什么要用这么大的数？仿照的是一个脑，我们人工的神经网络，我们每一个小圆圈是一个神经元，每一条线是一个突触，把这些神经元给连接起来，在这个连接过程中，每一个神经元所做的功能都是一样的，连接后面一个神经元得到所有前面神经元给它的输出变成输入，这个输入是一个加和，但是加权的加和，权是不知道的，我们演习决定这个权重，我们用已知图、文本来进行演习，决定权重。
如果我们知道一个一元二次方程的通解，我们知道通解上有几个参数，我们用试根法，用几个数据试，结果对了往后就把参数定下来，我们知道任意繁芜的参数可以用复列，可以展成多项函数，我们知道所有的函数，我们不知道系数，我们用序列的办法是可以把所有的信息量给演习出来的。
我用这个作为一个不太准确的类最近看，我们用大量的已知的输入和输出，来演习这个模型的时候可以决定演习所有的参数，人工智能在事情的时候，并不须要再像打算机一样到存储器里面存储影象，它像我们大脑一样，所有的知识都存储在这些参数上面。
以是参数的大小是非常主要的。

演习出这么多的参数就须要非常高的数据，我们用10的9次方Byte做一个数据，我们实际上不仅要看到参数大，要演习这些参数的数据更大，以是大数据的数据依赖性是非常严重的，而这些数据所须要的算力也是不得了，据宣布ChatGPT3的演习用了1200万美元，不是公司公布的，网上报的。
ChatGPT4比ChatGPT3大了100倍，数据量和参数量都明显提高了，会用多少钱？可想而知，是非常贵的。
以是我们现在就须要非常大的算力，这里展示的是彭城实验室的彭城云脑，是我们国家第一个百亿亿级的，18次方的算力平台，利用的是华为芯片，是中国自主的算力平台，天下上也是比较主要的。
像文心一言最从前夜模型都是在这里面演习出来的。
没有这样的算力，没有这样的数据是出不来这样的大模型的。

为什么它一定要大呢？我们来看，由于我们要仿照人脑，我们知道比较小的做脑科学研究的是果蝇，有25万神经元，1000万突触。
而我们人类有860亿神经元，有150万亿的突触连接这些神经元。
我们人类的影象在这些突触里面，以是我们现在神经元网络便是靠这些东西。

我们来看从猕猴、恒河猴，这是猩猩、黑猩猩到人类，突触和神经元越来越多，这便是我们说为什么要大，小了是弗成的，是记不住这么多知识，也不能形成这种逻辑的。
但是光靠大也是弗成的。
我们看这个。
非洲大象，比人类多得多，但不比人类聪明，以是仅仅靠参数多并不能办理所有的问题。

从ChatGPT里面，我们从tokeneization等等，有一系列的技能，这些技能不是本日才有的，大约在2018年就涌现的，但是这些技能组合在一起涌现ChatGPT3是综合的运用，这里特殊要提到一下word embedding，它是怎么懂这个word，比如说一个苹果树，它并不知道什么是苹果树，它是把它变成一个矢量，这个矢量有好几位，多元的一个矢量，每一位表达，比如说它是动物还是植物，它是人造物还是自然物，是长在树上的植物，还是地底下的植物，每一个01代表它的性子，这时候它就会把树和花，在多维矢量比较靠近的东西聚焦在一类，会把狗、猫、鼠变成一类，把跳跃、跑步等动作变成一类，这些实际上是所谓的语义表达，我们知道语义表达首先要多维，其余语义是多义的，比如我们讲英文bank，是河岸还是银行？看高下文，高下文越长含义越准确，这就须要大数据，须要非常长的token，这便是我们本日碰着的一些问题。
以是你用比较长的提问，随意马虎让它理解你到底问什么样的东西。
所有这些，越长的句子越能够帮助它把握精确的含义。

末了我们还要给它做一个输出过滤，这些技能都不仅仅靠大得到的，还有一个非常主要的，便是人工反馈，我跟人工智能讲一个问题，我可以反馈你说得不对，彷佛是六类，他立时会见告你，确实是六类，你让它再重写等等，它会越来越准确。
人类反馈可以把人类的知识和代价不雅观输入到里面，这是非常主要的进步。

我们还须要关注，现在有了预演习大模型往后，我们人工智能的事情不是从数据开始来演习模型，我们可以已经开放的演习好的预演习大模型开始，再利用自己标准的数据，包括我们的知识，来做模型的微调，这样一来我们全体预演习的模型将会变成智能社会的一种根本举动步伐，变成公共做事，这样就降落了我们人工智能运用的门槛。
由于大模型须要大量的数据，须要大量的算力，这不是小公司能够有的。
但是我们小公司有我们特定做事的特天命据，我们有特定的标准和知识，在这个根本上使得我们智能化的速率将会加快。

还有一个认识是特殊主要的，刚才我们谈到的，天生式的内容是基于概率来的，它理解了输入的概率组成了一个句子是输出，输入和输出联合分布最高的便是它选择的那个结果，所以是基于概率的，那么好，既然是基于概率的不可能100%精确的。
比如让它写清华校歌第一段，它编了一个，胡编了一个。
现在已经有改进，这是我大概一个月之前做的。
由于这些词，你比如说百年、清华、学子、书喷鼻香、校园，确实跟清华有关系，它把它组合起来挺高，这是基于的概率，如果我们给它更多的输入，比如1931年写词的，可能会更好。

我们要利用天生式人工智能作为它的利用者是须要一定的能力和本色的，刚才顾雁峰在致辞中讲到的人工智能的本色是我们当前社会科学本色一个方面。
我们首先要干事实的核阅，我们要做逻辑的核阅，做伦理的实事，做美学的核阅，才能把这个工具用好。

我们的问题便是，既然出错，那么它的风险是什么？这是OpenAI说的，不是我们说的。
只管ChatGPT4在今年5月份，功能强大，但是它有类似于早期ChatGPT模型的局限性。
最主要的是它仍旧不是完备可靠的，它会产生幻觉，并涌现推理缺点。
在利用措辞模型输出时，尤其在高风险的高下文中应格外小心地利用精确的协议程序，比如人工审查、以额外的高下文浸染根本来进行核阅，或者完成避免高风险下的运用。
举个例子，你比如让它写一个主题教诲的总结，它不给你写。
末了给你过滤掉。

以是要和特定场合相匹配，这个就见告我们，对它是不可完备信赖的，它给我们供应的是一个半成品，我们须要节制必要的知识和能力，去完成它终极的结果。

这里是它的技能瓶颈，分辨率不足高，对数据的依赖，泛化的能力，等等。
从社会角度来讲，人们担心它产生内容是否符合我们人类代价不雅观，公正、原谅、平等、保护我们的隐私，不透露企业国家个人的机密，而且不至于引起更大的发展差距。
我们知道如果说我们过去发展的差距来讲，是两类造成的，一类是资源的差距，一类是能力的差距，现在随着太阳能相比拟较均匀的资源，更多表示在能力的差距，数据能力表示在滥用，比如造谣。
怎么办？深度创新、完善管理。
这里包括要夯实它的科学知识，实现算法的可阐明。
实现它的风险可预测，可评估。
第二是还要加强隐私的打算，让数据安全地流动。
第三要发展类脑打算，来减少数据的依赖。
末了要实现数据+知识双驱动的人工智能，现在我们基本上是一个数据驱动的人工智能，通过数据和知识来嵌入人类的代价不雅观，末了我们要完善技能标准，让这些技能标准不仅仅写在纸上，而且是可考验，可认证的。

从管理上来讲，我们要贯彻UNESCO提出来人工智能伦理建议，履行以伦理为根本的管理，这是非常主要的理念。
我们管理的根本在守住人类的伦理共同的代价不雅观，我们改革创新的精神来实现有利于人工智能生产力发展的促进式的管理。
我们知道人工智能是新的生产力，新的生产力要有新的生产关系跟它相匹配。
我们要发展基于风险分类的管理，比如说李开复讲，我们让它去先写小说，写科幻故事，害处也不是很大。
如果让它写政府事情报告，让它做十五五方案，那该当会出很大的错。
我们要发展针对利用者、开拓者、做事者、管理者的全员管理，这是我们非常主要的不雅观点。
我们研究院提出来的。
我们现在对天生式人工智能不仅对它的模型，演习的数据要做规范，我们对它利用者也须要基本的规范。
我们要发展人工智能国际互助。
这里面大略展示一下，UNESCO关于人工智能的四个环节，第一个原则是符合你的目的就够了，不是要为了技能而要技能。
特殊提出来了认识和素养，认识和素养是利用者的认识和素养，而不是人工智能工具的认识和素养。

末了我们得出一些结论，这个生产力已经来了，怕没有用的，主动演习、驾而驭之。
现在我们非常主要的，这种利用人工智能的能力是我们这个时期应有的能力应有的本色。

第二条，我们不能阻挡它的发展，但是我们可以勾引它的发展。
现在要为人工智能立心，使之为人类做事。

第三要推动人工智能的深度创新，特殊是要在有效、安全、可信，光说些道德条款是没有用的，道德信条是主要的，但这些信条是要通过技能手段落地的。
以是当前我们要推动天生式人工智能从谈天到变成产品，向这个方向发展，以上是我初步的想法。
感激各位！