布拉德·史密斯供应了独到的见地，引领着我们深入思考人工智能对事情和生活的影响：每个人既能从人工智能技能的进步中受益，又因此而面对着前所未有的寻衅。
在序言中，他分享了对付人工智能管理策略和人机关系的见地和思考，同时还先容了微软内部在履行人工智能管理方面的做法。

“不要问打算性能做什么，而要问它们该当做什么。
”

2019年，在一本我参与合著的关于人工智能伦理的书中，上面这句话是个中一个章节的标题。
当时，我们写道：“这可能是我们这一代人面临的最核心的问题之一。
”四年过去了，这个问题不仅引起了全天下的关注，而且成为许多人茶余饭后的话题。

那些曾经利用，或是听说过 Open AI 的 GPT-4 根本模型的人，多数会为其强大的能力感到震荡。
有人为此激动不已，也有人因此对未来充满担忧。
但有一点毋庸置疑，早在四年前，我们就已经意识到，我们正在创造人类历史上第一代能像人类一样做决策的机器。

大家提出的共同问题是，如何利用这项新技能办理我们的问题？我们又该如何戒备和应对由新技能可能引发的新问题？我们该当如何掌控如此强大的技能？

要办理这些问题，不仅须要广泛而深入的谈论，还须要果断而有效的行动。
这篇报告将从企业的视角供应一些思路和建议。

这些建议基于多年来我们在实际事情中积累的履历。
早在2016年，微软首席实行官萨提亚·纳德拉（Satya Nadella）就曾指出：“或许我们最须要进行的谈论并非是关于善恶，而是该当向创造这项技能的人或组织通报若何的代价不雅观。
”

自那时起，我们就通过定义、发布和履行人工智能的伦理准则来辅导我们的事情，并通过建立不断优化的工程和管理体系，将伦理准则付诸实践。
如今，微软设立了近350人的团队，专注于推动负任务的人工智能，确保我们能够最大程度地构建安全、可靠和透明的人工智能系统，以造福全社会。

已取得的进展让我们更加有信心，去持续探索利用人工智能改进人类生活的新路子。
我们见证了利用人工智能帮助人们挽救视力，推动癌症新疗法的研究，揭秘蛋白质，通过气候预测避免自然磨难等。

人们的日常事情与生活也会从人工智能技能中受益。
GPT-4 这样的根本模型可以成为人们的智能副驾，将搜索转变为更强大的研究工具，并提高人们在事情中的生产力。
对付那些不知如何帮助孩子学习代数的父母来说，人工智能也将成为一位良师良朋。

人工智能是一项革命性的创新。
自15世纪铅活字版印刷术（铅活字印刷机）发明以来，科技的发展从未停歇。
蒸汽机、电力、汽车、飞机、打算机和互联网等发明为当代文明奠定了基石。
就像移动活版印刷术一样，人工智能也为促进人类的学习和思考供应了全新的工具。

技能推动 GDP 增长的步伐在不断加快

当然，仅仅聚焦于利用人工智能改进人们的事情生活还是远远不足的。

如今，经由不断的发展和沉淀，我们比之前更加成熟、更加明智，我们须要将这些聪慧付诸实践，并且及时厘清可能涌现的问题。
随着技能的不断进步，确保人工智能的可控性与追求其发展同样主要。
作为一家公司，我们一贯致力于以安全和负任务的办法开拓和运用人工智能。
然而，我们也认识到，为人工智能设立护栏、确保人工智能安全所需的监管方法是所有人共同的任务，而不能仅仅依赖科技公司单方面的努力。

2018年，微软制订了六项人工智能伦理准则。
个中，“任务”是其他所有准则的基石，这是一条根本性的原则，它将确保机器始终受到人类的有效监督，而设计和操作机器的人也必须对其他人卖力。
简而言之，我们必须始终确保人工智能处于人类的掌控之中，这该当成为政府和科技公司的紧张职责。

在法治社会中，没有人或公司能够凌驾于法律之上，同样也没有产品或技能可以凌驾于法律之上。
因此，设计和操作人工智能系统的个人或者公司，只有在其决策和行动受到法律约束时，才能真正承担叛逆务。

政府该当如何有效确保人工智能受到法律的约束？这是很多干系政策和监管的谈论核心。
简而言之，新的法律、法规和政策应该采纳何种形式来约束人工智能？

下面我们将从公共政策、法律和监管等方面，磋商当古人工智能的关键问题。
我们讲述的这五大关键策略，每一条都仍需更广泛的谈论和深入的研究，在此之前，希望我们的履历能对未来的事情做出一些培植性的贡献。

人工智能公共管理的五大关键策略

第一，构建并履行以政府为主导的人工智能安全框架。
通向成功的道路每每建立在他人的成功履历之上，对付须要快速推进的项目来说更是如此。
在这种情形下，我们可以借鉴公共部门和商业机构已有的人工智能风险管理条例，结合本地化需求对症下药地完善人工智能安全框架。

第二，必须对掌握关键根本举动步伐的人工智能系统设置有效的安全制动机制。
越来越多的人开始担忧，随着人工智能的日益强大，我们是否有能力有效地掌握它？很多人对付让人工智能掌握关键根本举动步伐（如电网、水系统和城市交通等）感到忧虑。

针对上述担忧，我们已经发起了新的安全规范，为掌握关键根本举动步伐的人工智能系统创建了安全的制动机制。
这类戒备故障的安全系统将成为人工智能综合安全管理的一部分，它将受到有效的人为监督，并将灵巧性和稳定性放在首位。
实质上，该系统与其他技能领域中的刹车系统非常类似，就像电梯、校车和高铁列车的制动系统一样，旨在保障设备日常及紧急情形下的运行安全。

在上述制动机制中，政府将卖力界定哪些掌握关键根本举动步伐的人工智能系统属于高风险范畴，并哀求这些系统在设计之初，就将安全制动机制作为系统综合安全管理的一部分嵌入个中。
新的法律条文也将明确哀求这些系统的运营者在设计之初就为高风险的人工智能系统设置好安全制动机制。
政府会哀求运营商定期测试高风险系统，以最大程度地保障系统安全方法的有效性。
掌握关键根本举动步伐运行的人工智能系统，只能在得到容许的人工智能数据中央里支配和运行，安全制动机制会为这些数据中央供应第二层保护，从而进一步确保人工智能的人为可控性。

第三，基于人工智能技能架构制订广泛适用的法律和监管框架。
我们认为，须要为人工智能建立一套针对其技能架构特点的法律和监管体系。
简而言之，法律须要根据各方在管理人工智能的过程中的不同角色，来分配相应的监管职责。

为了实现分层监管，五大策略涵盖了构建和利用天生式人工智能模型所需的一些关键要素。
同时，针对不同的技能栈，我们建议分三个层次来制订相应的法律条款，即针对处于运用层、模型层和根本举动步伐层的不同组织机构匹配特定的监管职责。

首先，我们将现有的法律保护方法浸染于人工智能的运用层。
这是对人们的安全和权柄影响最大的一层，人工智能产生的影响在不同的运用处景中会存在显著差异。
在许多领域中，我们都不须要新的法律法规，而只需运用和实行现有的条款，帮助法院和组织机组成长出适应于新型人工智能场景所需的专业知识。

接下来，须要针对高度智能的人工智能根本模型层制订新的法律和法规，并且最好由一个新设立确当局机构卖力履行。
这些针对性的法律法规将影响技能栈的个中两个层次。
第一层，须要针对这些模型本身制订新的监管和容许规定。
第二层，须要对开拓和支配这些人工智能模型的根本举动步伐运营商制订责任条例。
五大策略分别为每个层次供应了建议的目标和方法。

我们在一定程度上借鉴了近几十年来，银行业所采纳的一些原则，它们曾被用于防止洗钱、犯罪，或是防止金融做事被胆怯分子利用。
银行业所谓的“理解你的客户” （Know Your Customer，KYC）原则，即哀求金融机构核实客户的身份、建立风险档案，并监测交易以赞助创造可疑活动。
我们将这一原则运用于人工智能领域，并采取一种被称为 KY3C（理解云平台、理解客户和理解内容）的方法，来确立人工智能环境中的一些责任，这显然是一件非常故意义的事情。

运用于人工智能领域的 KY3C 方法

作为例证，首先，特定的、强大的人工智能模型开拓者须要“理解云”，即理解他们的模型在哪个云平台上进行开拓和支配。

其次，对付涉及敏感用场的情形，那些直接面对客户的公司（无论是模型开拓者、运用供应者还是托管模型的云做事供应商）都该当“理解客户”。

末了，公众有知情权，即通过标签或其他标识办法，奉告人们某个***或音频文件是由人工智能模型天生的，而非人类创作。
这种标注责任还可保护"大众免受“被修改的内容”和“深度假造的内容”的影响。
这些都须要制订新的法律条款，并且还有许多主要的问题和细节有待办理。
细致严密的方法将有助于遏制利用新技能欺骗敲诈"大众的行为，未来社会的和谐发展都将得益于此。

第四，提高人工智能的透明度，确保学术界和非营利组织能够得到人工智能资源。
我们认为提高透明度并扩大人工智能访问的授权范围是很关键的公共目标。
虽然透明度与安全需求之间存在一些相悖之处，但我们仍有很多机会能以负任务的办法使人工智能系统更加透明——这便是微软承诺每年发布一份人工智能透明度报告的缘故原由。
我们还会采纳多项举措进一步扩大人工智能做事的透明度。

我们认为，扩大学术机构和非营利组织得到人工智能资源的机会至关主要。
应拓宽学术研究职员获取人工智能资源的路子，否则科学技能研究（包括与人工智能本身有关的研究）将面临真正的风险。
我们呼吁采纳新的方法，包括微软已经在实行的多项举措，以期优先应对上述寻衅。

第五，积极推动公共机构和商业组织的广泛互助，将人工智能作为一种有效的工具，去应对新技能带来的，不可避免的社会寻衅。
近年来，我们总结出一项履历：利用技能的力量将公共部门和商业机构联合起来，便会取得令人瞩目的造诣。
我们可以借鉴这一履历，抵御人工智能对社会的悲观影响。

我们要保持复苏的乐不雅观主义精神，人工智能是一种非凡的工具，但它也像其他技能一样，可能会在一些目的不良之人的手中变成恐怖的武器。
幸而，我们可以从过往履历中得到一些信心——我们创造，当公共部门和商业机构共同努力，并与志同道合的盟友联络同等时，便能将我们所开拓的技能当做“盾牌”来利用，它将会比地球上任何一柄“利剑”都更为强大。

目前事情的重点是，如何利用人工智能来保护公民的基本权利，拓宽得到人工智能资源的机会，以提高原谅性，并利用人工智能的力量推进地球的可持续发展。
或许，最主要的是，新一轮人工智能技能为我们供应了一个大胆思考、年夜胆行动的机会。
在任一领域，成功的关键都在于制订详细的倡议，并且联合政府、受人尊敬的企业和充满活力的非政府组织共同推动这些倡议的落地。
对此，我们在报告中提出了一些初步的想法，并期待在未来的几个月或几年中能够取得更多的进展。

终极，每个创建或利用人工智能系统的组织都须要开拓和履行自己的管理体系。
报告的第二部分描述了微软的人工智能管理体系，包括我们的出发点、现状及未来的发展方向。

正如第二部分内容所指出的，为新技能建立一个新的管理体系本身便是一段漫长的旅程。
十年前，我们对这一领域的探索险些为零。
如今，微软有近350名专业职员致力于推动该领域的发展，我们还操持进一步扩大该团队的规模和投入。

过去六年，我们在微软内部建立起了更为全面的人工智能管理框架和体系。
我们并非完备从零开始，而是从隐私保护和数字安全等精良实践案例中汲取履历，它们和人工智能管理一样，都是企业风险管理（Enterprise Risk Management）体系的一部分，而后者已经成为天下上许多公司和组织的主要管理手段之一。

在人工智能领域，我们首先制订了伦理准则，然后将其转化为更详细的企业政策。
目前我们已经在实行第二版的企业干系标准，该标准充分表示了上述伦理准则，并为我们的工程团队制订了更为风雅的实践方法。
我们通过培训、利用工具和测试系统来履行这一标准，并不断快速地完善它们。
此外，我们还建立了监控、审计与合规方法等额外的管理流程。

和我们在生活中一样，履历永久是最好的老师。
在人工智能管理方面，我们从审查敏感的人工智能运用案例中得到主要的履历。
2019年，我们开启了敏感用场审查操持，对最敏感和最新颖的人工智能运用案例进行严格的专业审查。
截至目前，我们已经完成了大约600个敏感用场案例的审查事情。
随着人工智能技能的高速发展，这一审查操持的进程也不断加快——在过去的11个月当中，我们对近150个敏感用场案例进行了审查。

这统统都基于我们过去所做的事情，我们将连续通过企业文化推动负任务的人工智能发展。
这意味着我们将招聘更多的新型多元化人才，来推动我们负任务的人工智能生态系统的发展。
微软还会持续投资已有人才，培养他们的干系技能，使他们能够广泛思考人工智能系统对个人和社会的潜在影响。
这也意味着，与过去比较，技能前沿更须要以多学科并举的办法来进行探索，即将精良的工程师与才华横溢的文科专业人才结合起来。

报告供应的所有内容，都秉持负任务的精神，希望可以共同首创人工智能的未来之路。
我们须要共同探索、相互学习，无论我们认为本日有多美好，都不能因此结束不前。

随着技能变革的加速，负任务的人工智能管理事情也必须齐步而行。
通过精确的承诺和投资，我们相信这是完备可行的。