编者按

2023年2月21日，中邦交际部正式发布《环球安全倡议观点文件》，呼吁“加强人工智能等新兴科技领域国际安全管理，预防和管控潜在安全风险”。
在中国式当代化进程中，人工智能的技能改造是助推我国科技创新的主要力量之一。
作为最具代表性的颠覆性技能，人工智能在给人类社会带来潜在巨大发展红利的同时，其不愿定性也会带来诸多环球性寻衅，引发重大的伦理关怀。
***总布告高度关注人工智能等新兴科技的发展，强调要加快提升“人工智能安全等领域的管理能力”，“塑造科技向善的文化理念，让科技更好匆匆进人类福祉”。
为此，本版特组织几位青年学者环绕人工智能的伦理寻衅与科学应对展开谈论，并约请专家予以点评，以期引发学界的更多关注，为推动人工智能康健发展贡献聪慧。

与谈人

彭家锋中国公民大学哲学院博士生

虞昊华东师范大学政治与国际关系学院博士生

邓玉龙南京师范大学哲学系博士生

主持人

刘永谋中国公民大学哲学院教授、国家发展与计策研究院研究员

1.机遇与寻衅并存的人工智能

主持人：新技能革命朝阳东升，以人工智能等为代表的新兴科技快速发展，大大拓展了韶光、空间和人们的认知范围，人类正在进入一个“人机物”相领悟的万物智能互联时期。
请详细谈谈人工智能给人类社会发展带来什么样的机遇？

彭家锋：人工智能、大数据、物联网、云打算等智能技能发达兴起，对人类社会的方方面面产生深刻影响，推动全体社会逐步迈入智能社会。
在此过程中，存在许多重大历史机遇须要我们把握。
就技能管理而言，人工智能作为一种管理技能，正在助推社会管理的管理理念、管理办法、管理效能等方面的变革，将传统技能管理提升至智能化新阶段，呈现出“智能管理的综合”趋势。
智能管理将全面提升社会公共管理的智能化水平，紧张呈现出四个方面的特色：一是管理领悟化，即促进各种智能技能与其他管理技能相互领悟，大幅度提升智能社会的管理水平；二是管理数据化，即以日益增长的海量数据为根本，通过对数据映射出来的“数字天下”进行社司帐算，实现管理目标；三是管理精准化，即发挥智能技能强大的感知能力、传输能力和打算能力，将传统的粗放管理转变为精准管理；四是管理算法化，即不断完善智能决策系统，考试测验将程序化的算法决策扩展到更多的决策活动中，从而提高决策质量。

虞昊：人工智能有助于反思人类社会得以建立与发展的根本。
随着剖析式AI向着天生式AI不断演化，尤其是天生式AI初步展现出判别问题、剖析情绪、展开对话、创作内容等越来越具有人类特色的功能，原来属于人类的领域正被人工智能以另一套由“0”与“1”构成的打算机措辞逐步侵蚀。
这既是对人类社会的冲击，也势必会在更加平等的开放性框架中增强人类的主体性，促进人类社会进一步发展。

邓玉龙：总体来说，以人工智能为代表的新科技发展，显著提升了社会生产力。
例如，天生式AI不但能完成传统AI的剖析、判断事情，还能进一步学习并完成剖析式AI无法从事的创造性事情。
从人机交互的角度来看，人工智能也促进了生产关系的高效发展。
详细表现在：一是刺激劳动形态的转化。
人工智能高效承担大量的根本机器性劳动，人类劳动则向高阶的创造性劳动转化，由此引发社会层面的劳动构造转型、升级，并且以人工智能为中介，社会范围内的劳动整合、折衷能力也实现升级。
二是促进劳动场域的重构。
随着劳动形态的转化和劳动的社会化扩展，人工智能将劳动从固定场域中解放出来，人类劳动的灵巧性增加。
比较于创造性劳动，机器性劳动更加受到空间和韶光的制约，而在人工智能从技能层面替代更低边际本钱的根本性劳动之后，人类劳动空间和韶光的自由性实现跃迁。
三是对主体的发展提出了更高哀求，尤其是对主体适应社会发展提出了更高哀求。
人工智能技能的发展对人类传统的知识构造提出寻衅，哀求人类更新原有的知识构造以适应社会发展须要，也对教诲提出更高哀求，教诲模式和教诲内容须要更契合科技发展的水平，培养更加全面发展的人才。

主持人：人工智能的一系列产物在给人们带来生活便利的同时，也一定程度上引起大家对其可能引发的伦理寻衅的当心。
一些人关注人工智能的风险问题，对人工智能的推进有些焦虑。
如何看待这种当心和焦虑？

虞昊：人工智能的风险以及由此带来的焦虑，是完备可以理解的。
但我们无法返回一个没有人工智能的天下，人工智能已然深度参与人类社会，试图遏制人工智能的推进只能是螳臂当车。
同时我们对人工智能的发展也不能放任不管，忽略乃至于压制人工智能的推进只能是掩耳盗铃。
因此，我们该当正视这种焦虑，在发展人工智能的过程中探求办理方案，在人工智能带来的风险中寻求危中之机。

邓玉龙：我们应精确看待这种焦虑。
要看到，焦虑有其积极的意义，它表示人类的忧患意识，催生对人工智能风险的预见性思考，提醒我们把稳焦虑背后人工智能技能发展存在的问题。
精确对待焦虑有助于积极采纳方法戒备风险，辩证剖析焦虑中先见性的思考，通过社会管理模式的升级化解风险问题。
同时，仅有焦虑和恐怖是不足的，更主要的是积极办理人工智能发展带来的社会问题。
从劳动的角度看，人工智能确实会取代部分人类劳动，推动劳动构造转型升级，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的寻衅。
但是我们也该当理性认识到，人工智能不是对人类劳动能力的完备替代，而是对劳动者提出了更高的哀求，哀求劳动者节制科学知识，将技能的发展内化为自身能力，在更具创造性的劳动中实现自身代价。

彭家锋：任何技能的发明利用，不可避免地伴随着这样或那样的风险。
人工智能技能自然也不例外，在其运用过程中，同样引发了诸如隐私透露、算法歧视、法律任务等风险问题。
因此，关注人工智能的风险问题，并由此对人工智能的推进产生焦虑，具有一定理论依据和现实根本。
但更应该复苏地认识到，人工智能的某些干系风险可以提前得到规避，并不一定会发生；即便真的发生，也仍可不断寻求化解风险的有效手段。
以个人隐私滥用风险为例，在管理过程中，虽然不可避免地会涉及个人数据网络和剖析处理，但可以通过建立完全的规范和监管体系来保护个人隐私，降落滥用风险。

2.人工智能科技竞争的“伦理赛道”

主持人：***总布告在以***办法出席二十国集团领导人第十五次峰会时指出，“中方支持环绕人工智能加强对话，倡议应时召开专题会议，推动落实二十国集团人工智能原则，引领环球人工智能康健发展”。
请谈谈“人工智能原则”应包含哪些内容？科技向善的文化理念对推动环球人工智能康健发展具有若何的现实代价？

彭家锋：为应对人工智能等新科技快速发展带来的伦理寻衅，2022年，中共中心办公厅、***办公厅印发了《关于加强科技伦理管理的见地》，个中明确了“匆匆进人类福祉”“尊重生命权利”“坚持公正公道”“合理掌握风险”“保持公开透明”等五项科技伦理原则。
我认为，这五项原则基本涵盖了人工智能原则的伦理哀求，彰显了科技向善的文化理念。
科技向善的文化理念，根本目标是让科技发展更好地做事社会和公民，带来良好社会或社会***的善。
科技向善对推动环球人工智能康健发展至少具有以下三个方面现实代价：一是塑造公众年夜众信赖。
公众对人工智能的信赖很大程度上并不完备由干系风险程度决定，而是取决于"大众的利益与代价是否得到足够重视。
后者正是科技向善的内在哀求。
二是引领技能创新。
科技向善的文化理念将在技能创新发展过程中发挥代价引领浸染。
三是促进环球互助。
科技向善的文化理念试图在环球范围内建立人工智能伦理规范的“最大公约数”，各国在达成伦理共识的根本之上，能够建立互信，实现更加充分深入的国际互助。

虞昊：个人认为，人工智能原则也应包含非对抗与非失落控的理念。
非对抗意味着不应将人工智能视作人类社会的对抗性存在，人工智能已经成为人类社会的构成性要素，我们必须持更为开放的态度去面对人工智能。
非失落控意味着不应放弃对人工智能的伦理规范，应以智能的办法去规范加速发展的人工智能。
如果以上述理念为条件，也便是说，在支持人工智能发展的情形下，科技向善的文化理念在推动环球人工智能康健发展中就变得极为主要。
此处的“善”在国家管理层面即指向“善治”，而当人工智能的发展从国家范围扩展到环球范围，“善治”就在构建人类命运共同体的意义上拥有了更贴近现实的内涵。
各国应摒弃冷战思维与零和博弈，基于善意与友情共同思考人类作为整体如何在人工智能的冲击下通往环球性的“善治”。

邓玉龙：2019年欧盟发布《可信赖的人工智能伦理准则》，2021年中国国家新一代人工智能管理专业委员会发布《新一代人工智能伦理规范》（以下简称《规范》）。
与欧盟发布的伦理准则比较，《规范》表示了中国特色社会主义的制度上风，旨在将伦理规范融入人工智能全生命周期。
人工智能发展的根本目的是促进人的全面发展，因此，我以为，人工智能原则还应表示共享和有序发展的哀求。
共享，旨在防止人工智能的技能垄断。
科技发展该当兼顾全体公民的利益，而不是做事于少数群体，由全体公民共享科技发展成果，推动环球科技水平的共同增长。
有序发展，旨在防止人工智能技能的无序扩展。
人工智能技能的发展终极是为了提升人的幸福感，推动科技有序发展能够促进人机和谐领悟，有效预防潜在无序扩展的风险。

主持人：从规范层面来说，伦理反思对规范人工智能发展的浸染紧张表示在哪些方面？

彭家锋：近年来，天下各紧张国家在人工智能领域竞争日趋激烈，纷纭将人工智能发展置于国家发展的计策层面。
比如，美国陆续出台《国家人工智能研究和发展计策操持》（2016）和《关于坚持美国在人工智能领域领导地位的行政命令》（2019）；欧盟先后发布《欧洲人工智能计策》（2018）和《人工智能白皮书》（2020）；中国也较早发布了《“互联网+”人工智能三年行动履行方案》（2016）和《新一代人工智能发展方案》（2017）。
人工智能科技竞争的客不雅观局势已然形成。
在此背景下，如果忽略人工智能技能发展所带来的环球性风险与寻衅，极有可能陷入技能赶超的竞争逻辑。
因此，亟须规范人工智能的科技竞争，而倡导伦理反思或许便是一条可行之路。
伦理反思的意义至少在于：一是设定伦理底线。
人工智能技能的开拓和运用须要遵照一些基本的代价理念和行为规范。
只有守住伦理底线，才有可能避免颠覆性风险的发生。
二是实现敏捷管理。
伦理反思是一个动态、持续的过程，贯穿于人工智能科技活动的全生命周期。
为了确保其始终做事于匆匆进人类福祉和科技向善的初衷，须要保持应有的道德敏感性，以灵巧、及时、有效的手段化解人工智能带来的各种伦理寻衅，确保其在科技向善的道路上行稳致远，实现良性发展。

邓玉龙：人工智能科技竞争是为了促进科学技能发展，而科学技能发展的终极目的是推动人类社会的进步。
人工智能科技竞争不应该仅包括技能竞争的单一维度，更不应该通过技能上风遏制他国的科技发展，而该当是在人工智能科技条件下的综合性竞争，通过良性竞争促进环球人工智能和全人类的共同发展。
个中就该当包括社会管理竞争，通过社会管理保障社会公正，因而对社会中人与人关系的伦理反思构成人工智能科技竞争的有机组成部分。
首先，伦理反思对人工智能科技竞争提出了更高的哀求。
人工智能的公正性、可信任性、可阐明与透明度、安全性不仅是伦理哀求，也代表了人工智能技能的发展方向，是人工智能科技竞争须要抢占的技能制高点。
科技的发展是为了人的全面发展，因而人的发展内嵌于科技发展哀求，伦理反思有助于防止工具主义的泛滥。
其次，伦理反思为人工智能科技竞争供应代价勾引。
伦理反思看重保障人的权利，科技发展并不是社会发展中的唯一衡量成分，我们还该当关注个中多样性的成分，尤其看重保护分外群体的利益，例如防止数据鸿沟等不良影响。
伦理反思有助于实现人工智能的综合性康健发展。

3.人工智能安全与人的全面发展

主持人：科学探究一贯以来都是人们认识天下和理解自身的主要认知办法，人工智能等信息家当的革命如何影响着人们的认知办法？

彭家锋：人工智能等信息家当的革命，促进了科学研究新范式——数据科学的出身，进而对人们的认知办法产生深刻影响。
数据科学被认为是继实验、理论和仿照之后的新的科研范式。
相较于传统科学，数据科学领悟了统计和打算思维，通过人工智能等技能供应的海量数据、强大算法和算力，能够直接从数据中探求干系关系、提取干系性或者预测性知识，进而产生一种基于干系性的科学思维模式。
但这种干系性并不一定能够转化为因果关系，由于可阐明性对付从数据科学技能确定的干系性中提取因果阐明至关主要，而干系技能一样平常都缺少必要的透明度和可阐明性。
数据科学更可能成为一种预测科学，但是预测并不是科学追求的唯一目标。
通过揭示天下的潜在因果构造来阐明和干预征象，也是科学的两个主要目标。
因此，只管数据科学能够通过剖析大量数据天生干系性知识，却不能直接产生因果阐明。
对此，传统科学的可考验性假设方法和因果规律探求仍有其主要代价。
数据科学并非取代传统科学，相反，两者将相互补充，共同成为人类探索天下的有效工具。

虞昊：显而易见的是，随着人工智能向着通用人工智能迈进，其能够为人们供应的教诲资源、生活娱乐、事情讯息也越来越丰富，人们势必越来越依赖于通过与人工智能进行交互来获取外界信息。
因此，当人工智能深度地构成人们认知天下的滤镜时，若不对人工智能本身具有重复性、同质性方向的认知框架保持警觉，人工智能可能扭曲人们的认知办法直至影响人的主体创造性。

邓玉龙：以人工智能为代表的全新技能发展被称为第四次工业革命，个中最显著的特色便是机器与人类的深度领悟，机器不再作为一种外在性的工具被人类利用，而是在与人类的深度关联中影响人类的认知办法。
一方面，信息家当革命丰富了人类认知的联结办法。
人工智能和大数据技能的发展促进人类的剖析逻辑从因果关系扩展为干系关系，对干系关系的重视使人工智能可以从大数据而非小数据维度获取信息，为人类认知供应新的视角。
按照传统人类认知办法的理解，因果关系哀求关于天下的认知是确定性的，而这在数字时期的繁芜性社会中很难实现。
人工智能对干系关系的认知补充了这一缺失落，许可我们在无法节制确定信息但在节制大量数据的条件下对未来趋势作出预测。
另一方面，如果我们对人工智能等科技的输出结果和天生内容盲目相信，将结果和内容与履历事实之间进行绝对等同的连接，误认为是事实的全部，那么我们就会损失人文主义抽象反思的能力，对此我们应该保持当心，始终坚持反思和批驳的人文精神。

主持人：如何调适人的主体创造性与信息高度集成共享之间的关系？

彭家锋：当人们逐渐将更多创造性事情交由人工智能完成，不免让人担忧人工智能是否将会威胁到人的主体创造性。
从人机关系的角度来看，这种担忧是基于一种人机敌对论的视角，认为人工智能挤压了人的主体创造性空间，是替代逻辑的延续。
但从人机协作的视角出发，将人工智能看作人的得力帮手，通过创造性地利用人工智能可以授予人类更大的创造性空间。
比如，在进行笔墨写作、多媒体脚本、程序代码、文稿翻译等事情时，可先由人工智能高水平地完成草稿事情，然后再由人类进行一些创造性的调度和发挥。
此时人工智能天生的内容将成为进一步创作的原材料，人类将以更高的效率投入创造性活动之中。
当然，要实现以上效果并非易事，不仅须要思想不雅观念的转变，还应在制度安排、教诲办法等方面作出相应调度。

虞昊：面对信息高度集成共享的人工智能，人有可能转变为算法的动物。
试想下述场景：当依据人工智能展开行动变得足够便捷有效时，行动者便会方向于采信人工智能，此时，看似是人类行动者基于自然措辞在进行互动，实则是算法逻辑基于打算机措辞在进行数字化运转。
于是，人的主体创造性被侵蚀，人可能沦为算法动物。
对此类环境，我们该当保持足够的复苏与当心。

邓玉龙：人工智能技能天生的内容（AIGC）具有高度集成共享的特性，能够高效地对人类知识进行数据挖掘、信息天生。
调适人的主体创造性与信息高度集成共享之间的关系，我们需做到如下几个方面：首先，须要通过人的创造性扩大AIGC数据库，当下AIGC紧张是依赖于大措辞模型，以大量的网络文本作为演习数据库天生的，通过人的创造性天生可以不局限于网络文本，而是进一步扩展数据库的演习文本，从而提高其丰富度。
其次，须要通过人的创造性为AIGC供应代价演习，通过人的创造性天生的代价态度、伦理法则等与AIGC的演习数据库相领悟，从而建构可信赖、可持续的信息高度集成共享机制。
末了，须要将人创造性天生的内容与AIGC共同作为人类知识的来源，人类知识的得到不能仅仅局限于AIGC，而是须要人发挥其主体创造性对人工智能技能天生的内容进行反思和拓展，将人类无法被数据化的、履历性的知识与AIGC数据化的知识领悟成为人类知识的来源。

（本版编辑张颖天整理）

《光明日报》（ 2023年04月10日15版）

来源： 光明网-《光明日报》