择要：人工智能技能是引领环球科技革命和家当变革的计策性技能，正在重塑人们对国家安全、经济与社会发展的理解。
快速发展中的人工智能也隐蔽着一定的不愿定性，可能会引发社会安全风险，乃至带来国家之间的竞争冲突升级。
当前，人工智能的发展已经成为推动国际体系转变、影响国际关系走向的关键技能力量，我们须要从计策高度来看待人工智能的浸染，充分认识其可能带来的机遇和风险，并从技能、运用、管理和规则等层面全方位加大对人工智能的投入。

如何定义人工智能的计策性意义，是这个时期须要回答的主要问题。
国际问题专家基辛格指出，在人类所节制的技能中，真正具有计策性意义的技能只有核武器、网络安全技能和人工智能。
核武器是由于其毁灭性力量，网络安全则是因其广泛存在于所有的信息系统之中，并且持续面临被攻击的风险。
人工智能的计策性则结合了前两者的特点，不仅具有毁灭性力量，而且也存在持续且广泛的安全性问题。
对付人工智能这一主要计策性技能，国际、海内存在着多元的不雅观点和态度。
历史地看，大国必须从计策高度重视技能的发展，并且始终保持在环球技能发展的第一阵营。
当然，与历史上其他技能不同，在人工智能发展计策中，安全和管理不可或缺，且是决胜的关键。

人工智能的计策性意义

人工智能被广泛认为是可以改变“游戏规则”的计策性科技。
美国率先发布人工智能计策，随后中国、欧盟、日本、韩国等纷纭出台了各自的人工智能计策。
而且，联合国秘书长古特雷斯也多次就人工智能问题发声，呼吁从计策高度来看待人工智能安全对国际体系的影响。
只管如此，人工智能在现实社会中的运用还处于早期阶段，公众对付人工智能颠覆性影响的感知并不强烈。
因此，我们有情由去质疑人工智能是否可以担此重任。
计策性技能意味着这是一项具全局性的、重大的、决定胜负的关键性技能。
人工智能是否具备这三个特质？

首先，从全局性来说，人工智能技能的通用性将人类社会带入真正的“智能时期”。
人工智能跟蒸汽机、发电机一样是通用型技能，对生产力的提升、人类生活办法的改变都有巨大的推动浸染。
正因如此，人工智能技能也将被国家、企业、个人平分歧层次的行为体广泛利用，进而对政治、安全、经济、文化平分歧领域产生深刻的影响。
天生式人工智能的发展进一步降落了人工智能利用的门槛，大模型将会广泛地运用于国家管理与社会生活的各个领域，由此带来的全局性影响也将进一步凸显。
天生式人工智能正在加速智能革命。
一方面，立足于面向公众年夜众的通用大模型不断面世，逐渐在艺术设计、知识管理、市场营销、代码天生和客户做事等方面逐步取代原有的事情模式。
另一方面，各行各业垂直领域的专用大模型研发也在风起云涌地开展，金融、政务、制造业、能源、医疗、零售、教诲领域的运用处景也都比较成熟，人工智能会进一步赋能和改造这些行业。

其次，从主要性来看，人工智能深刻改变了国家安全与国际和平的基本范式。
由于人工智能对国际和平与国家安全领域都有系统性影响，导致国家安全与国际和平的内容、形式和目标也发生了嬗变。
可以说，人工智能技能将国家安全与国际和平带入新一轮的蜕变期，使得“安全”与“和平”超出了传统政治议题的范围，成为政治、经济和技能三维一体的复合型问题。
可以从三个层面来理解人工智能所带来的影响。
从赋能的角度看，人工智能将大幅提升沙场的决策和行动能力。
当前，人工智能技能已被大量利用到军事和情报领域。
在军事领域，决策赞助系统、智能化后勤保障、无人机群、无人舰艇等各种类型的人工智能武器正广泛运用于沙场实验，将会推动军事变革从信息化作战转向智能化作战。
从自主性的角度看，人工智能武器系统具备了自主决策的能力。
目前，紧张大国纷纭开拓致命性自主武器，并投入沙场予以测试，引发了关于技能伦理问题的广泛谈论和担忧。
例如，美国具备自主判断能力的无人机就曾经误判目标，导致无辜平民被当作胆怯分子而被杀害。
从技能的角度看，人工智能所带来的风险可以从客体和主体两个层面来理解，即技能本身，以及利用技能的“人”。
人工智能的风险对利用主体提出了更高的任务哀求。

末了，从决定胜负的关键来看，人工智能技能发展水平已经成为国家实力的关键指标。
与其他通用型技能比较，人工智能建立在大模型、大参数、高算力和大数据的根本上，不仅家当领悟程度高且易于垄断。
加上人工智能作为军民两用型技能，市场的力量不仅会加速技能的发展和迭代，进而提升对军用技能的赋能效果，而且军事运用同样也会推动市场力量加大研发投入。
如此循环增强之下人工智能技能的“马太效应”也愈加突出。
领先者将会通过技能上风来盘踞市场并开启循环增强，进而拥有更多的先发上风，导致后来者在追赶的过程中面临更大的压力和障碍。
在国际政治中，技能是各国提升硬实力的主要根本，也是改变国际格局力量比拟的动力源之一。
美国为了掩护自身在人工智能领域的主导地位，其霸权主义方向随着人工智能技能的发展日趋明显。
事实上，从算法、算力和数据这三大人工智能发展的根本领域来看，美国霸占了绝对的主导权。
只管如此，美国依旧高度当心任何潜在对手在这些领域可能取得的打破。
为此，美国政府制订了大量针对中国人工智能领域的封锁、制裁和惩罚性举措。

生存、安全、发展、管理：人工智能面临的多重风险

第一，人工智能给人类带来“生存之困”。
人工智能的发展会极大提升人类的能力，同时也可能存在取代乃至摧毁人类的风险。
通用人工智能技能的发展极大提高了人工智能的学习、节制知识以及实行任务的能力。
而人工智能一旦在认知能力上超越了人类，并且具有了自主决策的意识，人类或将会失落去对人工智能的掌握。
如此一来，人工智能是否会侵害乃至毁灭试图掌握它的人类呢？人工智能技能加倍展、运用越广泛，类似的不雅观点就会越盛行。
这种不雅观点的产生一部分是受到了科幻小说的影响，也有一部分是由于人工智能技能繁芜性所带来的理解障碍，因此造成了“技能惶恐”。
同时，人工智能在技能上存在的算法黑箱、幻觉进一步助推了这种不雅观点。
这些谈论不仅迫使科技巨子呼吁加强对人工智能的监管，也推动着各国加速制订人工智能干系法律。
这些做法旨在规范人工智能技能的演进，使其向着安全、可靠的方向发展。
归根结底，人工智能技能是否会给人类社会带来毁灭性的影响，是对人类能否驾驭人工智能的磨练。

第二，人工智能引发“安全之困”。
人工智能在安全层面引发的“安全困境”已经为学者所认识并进行了充分谈论。
国际政治的竞争归根结底是权力的竞争，而技能又是实现权力的主要依托。
人工智能作为一项颠覆性技能，势必会引发国家间竞争，且存在“安全困境”的风险。
此外，人工智能在国家安全、军事领域也具有广泛的运用空间，也可能会引发巨大的伦理风险。
将载有人工智能系统的无人机运用于暗杀和地面攻势引发了关于机器***的伦理问题。
一方面，人工智能可能会造成大规模的职员伤亡，造成大量的士兵失落去生命。
另一方面，人工智能存在误判的风险，无法有效识别军事目标和平民，从而加剧平民的无辜伤亡。

第三，人工智能引发不平衡的“发展之困”。
人工智能具有提升经济效率的广泛前景，由此带来的“马太效应”会使得更多的资源向头部企业集中。
不仅如此，人工智能技能的渗透可能还会引发一些企业的倒闭和失落业潮。
一方面，人工智能发展的紧张受益者首先是平台企业，它们节制了算力和数据，拥有发展人工智能得天独厚的条件。
另一方面，人工智能不断向垂直领域渗透，也会让更高效的“大机器生产”取代人类的事情，进而引发失落业问题。
国际金融做事公司摩根士丹利（Morgan Stanley）2023年9月发布的报告显示，人工智能的发展在未来几年内将产生4.1万亿美元的经济影响，或者影响约44%的劳动力。
由此可见，人工智能技能或将不可避免地造成失落业问题的扩大。

第四，人工智能存在着“管理之困”。
人工智能在赋能社会的同时，也正在被广泛运用于网络攻击、电信诱骗、虚假信息等违法犯罪领域，并且带来了一系列新的管理问题。
传统的法律和规定每每无法完备适应人工智能技能的快速发展和繁芜变革。
如无人驾驶带来了任务认定的法律问题，天生式人工智能引发了知识产权问题。
人工智能系统可以创造独特的作品和内容，但是如何保护这些作品的权柄、进行合理的利益分享也是一大寻衅。
这些问题都触及到了当前的法律盲区，对现有的管理体系带来了极大寻衅。
因此，人工智能技能的到来迫使政府、学术界、家当界、技能社群等各利益干系方加强互助，共同研究和制订适应人工智能时期的新管理框架。

上述四个方面都是从不同层次的正反两个方面来理解人工智能，尤其是采纳了静态的视角来看待人工智能，因此都不足全面。
这些不雅观点也未能认识到，随着各方对人工智能管理的关注和投入的加大，人工智能的管理体系也在快速建立。
因此，不应当由于困境的存在就叫停技能的发展，而是要加速对人工智能的理解并提升管理能力。

人工智能发展正面临关键时候

人工智能的关键时候表示在三个方面，一是技能打破的关键时候；二是大规模运用的关键时候；三是大国博弈的关键时候。

首先，从技能发展的历史进程来看，人工智能正在经历重大打破的关键时候。
自20世纪50年代人工智能技能的观点被提出以来，人工智能的发展经历了深蓝、阿尔法狗（AlphaGo）和ChatGPT这三次“高光时候”。
2022年，OpenAI发布ChatGPT-3.5迅速引发了环球热议，短短两个月的韶光注册用户就打破了1亿。
ChatGPT背后是天生式人工智能所取得的一系列重大技能打破，紧张包括基于Transformer深度学习架构的大型措辞模型（LLM）；通过利用大规模数据集和无监督学习的方法对模型进行初始演习的预演习学习范式；以及结合了强化学习和人类反馈的机器学习技能——人类反馈强化学习（RLHF）。
这些技能改变了机器对付自然措辞处理的办法、提升了模型性能、降落了开拓本钱，并且建立了模型自我升级迭代的能力。
因此，我们体验到的ChatGPT以及类似的产品在功能性、实用性和自我进化方面拥有极为精良的表现。
但是，技能的发展始终面临阶段性的波折，在天生式人工智能取得打破之后，人工智能的发展是否会陷入新的瓶颈期也是关键问题。
因此，不能大略的用线性思维来看待人工智能的发展与管理。

其次，从运用角度来看，人工智能大规模运用一触即发。
比拟深蓝、阿尔法狗与新晋的大措辞模型ChatGPT可知，前两次的打破更多是勾留在技能层面，而ChatGPT的推出则标志着人工智能在技能和运用层面取得了双重打破。
人工智能的运用代价紧张表示在是否能够提升效率、降落本钱和开辟新领域。
目前，主流的科技企业都把人工智能视为核心竞争力并竞相加大投资，谷歌投资了Deepmind、微软投资了OpenAI、百度开拓了文心一言等。
根据国际数据公司（IDC）的数据，2021年环球人工智能市场规模为3619亿美元，估量2025年将会打破7000亿美元，年复合增长率18%。
考虑到广泛的赋能浸染，这一数据还只反响了人工智能经济代价的冰山一角。

末了，人工智能正处于大国博弈的关键时候。
一方面，大国追求人工智能的主导权引发了地缘政治博弈。
美国政府明确将人工智能列为对华制裁的三大重点领域之一，制订了一系列出口牵制方法，试图割断美国企业、资金和人才与中国之间的互助。
不仅如此，美国还进一步将制裁延伸到GPU芯片领域，阻挡中国获取前辈的芯片用以演习人工智能模型。
另一方面，大国环绕人工智能国际规则进行博弈。
随着人工智能技能的不断发展，须要制订相应的国际规则和规范来管理、约束其运用。
各国将争夺在国际规则制订中的话语权和主导权，以确保本国在人工智能领域的利益得到保护。

担保人工智能能够向善发展的关键

计策性代价和意义决定了人工智能的发展只会进一步加速而不会停滞，因此，要从计策层面加大对人工智能的重视和投入。
与此同时，加大在安全监管和管理方面的投入是担保人工智能能够向善发展的关键。

一是从计策高度武断人工智能的发展方向，大力推动人工智能发展。
面对人工智能这样一项通用型技能的发展，既会有受益者也会有受害者、既会有支持者也会有反对者、既会有激进者也会有守旧者，而不同的群体、不同的视角会导致不同的不雅观点。
在ChatGPT涌现之初，基于其在内容安全、知识产权等方面的不愿定性，一部分企业对付是否要发展天生式人工智能存在疑虑。
2023年4月28日中共中心政治局会议明确提出“要重视通用人工智能发展”，同年7月24日再提“要促进人工智能安全发展”。
如果说ChatGPT验证了通用人工智能发展的技能路线，官方表态则从政策方面为人工智能家当的大力发展奠定了基调。
此外，天生式人工智能代表的是一种高算力、大参数、大模型、大数据的人工智能路线。
只管拥有广阔的市场前景，但也离不开国家在计策层面的支持和投入。
在人工智能领域的开放式顶层设计思维，可以强化政府对付人工智能技能发展方向的参与和节制，促进人工智能技能发展与国家计策目标的有机折衷。

二是要高度重视人工智能的安全风险问题，强化对人工智能的安全监管。
当前，人工智能的安全紧张表示在算法安全、数据安全、网络安全等方面，个中关键是确保算法不会涌现安全隐患。
这就须要加强对人工智能的可阐明性问题、透明度问题和有害性等方面的研究。
此外，政府一方面可以通过建立技能标准来规范人工智能的开拓和运用，提高人工智能的质量和性能；另一方面也可以检测和监测人工智能的状态和行为，及时创造和解决人工智能造成的问题和风险。
人工智能发展不可避免地会涌现各个层面的安全问题，如果处理不好，不仅会引发风险，也会降落各界对付人工智能发展的信心。
这须要国家从多个角度进行管理。
在技能层面，确保人工智能在算法安全、数据安全、网络安全等方面，避免涌现缺点、偏差、漏洞等问题。
在法律层面，建立完善的人工智能法律制度和规范，明确人工智能的权利和任务，保护个人隐私和知识产权，防止滥用和滥权等问题。
在社会层面，加强对人工智能的"大众年夜众教诲和宣扬，提高"大众年夜众对人工智能的认识和理解，培养"大众对人工智能的信赖和尊重，促进人工智能与社会各界的和谐共处。

三是要加大对管理的投入，解除人工智能发展的后顾之忧。
人工智能的管理是一个繁芜的管理体系，紧张是国际和海内管理两个方面。
国际管理紧张办理利用人工智能的过程中所引发的国际安全问题，如人工智能在军事、外交、贸易等领域的运用可能导致的国家间冲突、竞争、不信赖等问题。
这些问题须要在环球范围内进行协商和折衷，建立相应的国际规范和规则来约束国家利用人工智能时的行为，保障国际和平与稳定。
海内社会管理则紧张办理人工智能的伦理、代价问题，如人工智能对人类的肃静、自由、平等等基本权利和代价不雅观的影响和寻衅。
这些问题须要在国家范围内进行立法和监管，建立相应的法律制度和规范来保护个人隐私和知识产权，防止滥用和滥权等问题。
同时，也须要在系统开拓和利用之前做好相应的代价评估，确保人工智能符合社会***和道德标准。
在管理机制上要充分尊重各参与主体的技能能力、商业利益与管理思路，通过充分对话和折衷，形成更加合理的人工智能管理体系。
各参与主体该当在平等和相互尊重的根本上，进行充分的沟通和协作，形成一个多元、开放、原谅的人工智能管理体系。

作者：鲁传颖，上海国际问题研究院公共政策与创新研究所

本文原载于公民论坛网2024年1月16日刊