华东政法大学法律学院副教授，上海市法学会数字法学研究小组秘书长

要目

一、问题的提出二、天生式人工智能的人机关系及其寻衅

三、人机关系视角下的管理逻辑更新

四、天生式人工智能管理的路径优化

结语

天生式人工智能技能塑造了人机共生的新型关系，不能大略等同于深度合成技能、智能交互技能、高风险人工智能。
新型的人机关系中，既存在人的自主性危急，也有被放大的人工智能管理风险。
在风险应对的逻辑中，天生式人工智能的定位应从“老师”转向“伙伴”，不应对做事供应者提出过高哀求并作大略的结果评价；同时，应将管理维度从算法管理拓展到用户管理之中。
在详细的管理路径上，首先应坚持原谅谨严原则，设置过程责任及对应的任务豁免规则；其次，在高风险场景中，应持续进行风险影响评估、充分担保人类监督并提升算法透明度；末了，应通过伦理审查、行业自律、数字素养提升的伦理管理方案以守卫人的自主性。

一、问题的提出

2013年的科幻电影《她》，展现了作家西奥多与人工智能操作系统萨曼莎的爱情故事，引发了人们对智能时期人机关系的思考。
十年往后，以ChatGPT为代表的天生式人工智能迅速崛起，科幻在一定程度上已经成为了现实。
2023年3月，OpenAI在GPT-3.5的根本上发布了接管图像和文本输入的大型多模态模型GPT-4.0，该模型能较为准确地回答各种专业问题，乃至通过了美国的仿照状师考试。
此外，市场上已呈现出一批天生式人工智能运用，例如Meta的大措辞模型LLaMA、Midjourney的AI绘画、微软的New Bing与Copilot、百度的文心一言等。
凭借强大的文本、图像、音频天生能力，天生式人工智能有望被广泛运用于内容生产、工业设计、药物研发、材料科学、合成数据等浩瀚场景之中。
哥伦比亚的一位法官已经把其与ChatGPT的对话引用到讯断书之中，用以论证治疗自闭症的干系用度属于保险公司应赔付的医疗用度。
《北京市促进通用人工智能创新发展的多少方法》更表示，要推动大模型技能体系在政务、医疗、科学研究、金融、自动驾驶、城市管理等领域的运用。

当前，天生式人工智能的风险已经引起了广泛关注。
有学者指出，天生式人工智能存在真实性与准确性问题、版权问题、算法歧视问题、滥用问题等。
也有学者从技能风险、社会风险、经济风险、政治风险的角度进行了剖析。
OpenAI自身亦把稳到，GPT-4具有天生有害建议、缺点代码或不准确信息的风险，并可能产生负面的社会影响。
针对这些风险有三种应对策略：一是任其“造孽兴起”，二是禁止研发或利用，三是进行法律规制。
任其“造孽兴起”将面临随着技能的发展，规制将变得日益困难的“科林格里奇困境”（Collingridge's Dilemma）。
禁止研发或利用不符合促进人工智能家当发展的国家计策。
生命未来研究所（Future of Life Institute）发布公开信，呼吁暂定演习和研发“比GPT-4更强大的AI”，实际上主见的仍是争取韶光研究对技能的规制方法。
2022年-2023年期间，欧盟《人工智能法案》修订的谈论中，也在通用人工智能定义与高风险人工智能监管等方向回应了天生式人工智能的管理问题。
2023年7月，我国国家互联网信息办公室联合国家发展和改革委员会、教诲部、科学技能部、工业和信息化部、公安部、国家广播电视总局共同发布了《天生式人工智能做事管理暂行办法》，旨在规范做事供应者向境内"大众年夜众供应的天生式人工智能做事。

此时，须要回答的问题是：如何在把握天生式人工智能分外性的根本上，构建中国的管理方案。
试想，Siri、天猫精灵等“语音助手”也是利用自然措辞进行的人机交互，GPT（泛指ChatGPT与GPT-4）与其比较有何实质差异？AI换脸、微软小冰写诗、机器人作曲等也是人工智能生产内容，深度合成与天生式人工智能是什么关系？换句话说，天生式人工智能管理的问题究竟是“旧瓶装新酒”的科抱负象还是“革命般”的现实寻衅，传统的人工智能管理逻辑与路径是否有必要调度？这些问题必须在人机关系中予以解读。

二、天生式人工智能的人机关系及其寻衅

天生式人工智能是一种基于大模型天生广泛内容的人工智能技能。
在天生式人工智能的技能机制下，机器呈现出理解力与创造力，可实现对人类脑力劳动的替代，形成了人机共生的关系。
人机关系的视角，又可进一步辨明天生式人工智能的风险。

传统的人工智能存在弱交互、单任务与封闭性的技能局限，人机关系剖析适用于传统技能哲学上奴役论、工具论与“三阶技能”的范例进路。
例如，对付曾扬言“毁灭人类”的“索菲亚”机器人，人机关系的谈论每每落入奴役论的范畴。
又如AlphaGo虽然可以在围棋比赛中降服柯洁与李世石，但其无法胜任其他事情，人机关系可能指向工具论的定位。
对付用户画像技能，则可从指向打消利用者而形成技能闭环的“三阶技能”进行剖析。
然而，这些剖析路径均无法全面把握天生式人工智能人机关系的实质。

天生式人工智能的技能机制塑造了人机共生的新型关系。
以GPT为例，其可直译为基于Transformer架构和预演习的天生式模型（Generative Pre-Trained Transformer），实质上是一个基于统计学习方法的猜词模型。
该模型从输入的海量数据中学习措辞规律，并据此对文本中的下一个单词进行预测。
通过演习，GPT已具备了与人类相似的理解能力，能对某些隐喻进行恰当的回应，其创造力与变通能力得到提升。
用户可以利用自然措辞设置提示词（prompt），直接、便捷地与打算机进行交互，人机协同进行数字内容生产；同时，每一次交互又将浸染于大模型的改进，形成了人机共生的关系。
在这种新型关系中，人机交互办法“从以机器为中央转向以人为中央”，“冲破了人、机器与信息资源之间的边界，重塑了信息资源天生和利用范式”。

与传统的人工智能相较，天生式人工智能不仅是一个“自我更新、自我完善、自我演进”的“繁芜巨系统”，而且形成了人与技能互动的“要求—回应”关系。
此时，机器不再是大略、被动地实行人的指令，而是与人形成“一种相互协作、彼此增强的模式”。
在这种模式下，多模态的智能系统参与到人类知识生产之中，实现了对人类脑力劳动的替代，进一步加强了人与互联网的链接。
可以预见的是，随着天生式人工智能的运用深化，不仅其本身会成为一种媒介，而且与虚拟现实技能结合后将形玉成新的多模态智能交互办法，人机共生将“成为生活的一部分”。
由此可见，天生式人工智能的人机关系是一种强调人与打算机的领悟与协同的人机共生关系。

虽然，哲学上可以从主体间性的角度解读人机共生关系，但这并不虞味着人工智能具故意识乃至可以成为法律主体。
2022年，一名工程师即流传宣传谷歌的大措辞模型LaMDA具故意识。
这种认识每每是“伊莉莎效应”（ELIZA Effect）的表示，即人们将情绪投射到机器之中，从而误以为机器具有人类的属性。
当前，天生式人工智能技能仍具有局限性，其内容生产只是对既有知识的重组和再生产，无法形成“洞见”和提出新的方法论，乔姆斯基（Avram Noam Chomsky）更是将ChatGPT称作“高科技剽窃系统”。
至少，目前仍无法证明天生式人工智能在理性思维系统（系统2）外呈现出了人类的直觉思维系统（系统1）。

在法律意义上，人机共生关系的认识有助于重新解读天生式人工智能的观点本身。
《天生式人工智能做事管理暂行办法》第22条第1款，将天生式人工智能技能定义为具有“内容天生能力的模型及干系技能”。
仍存在疑问的是：如何区分天生式人工智能技能与《互联网信息做事深度合成管理规定》第23条第1款所规定的深度合成技能以及浩瀚与大模型无关且并不构成人机协同生产关系的技能？对此，应把握天生式人工智能的技能特色，将之进一步解读为基于大模型天生广泛内容的人工智能技能。
在这个意义上，天生式人工智能的观点又可为通用人工智能所原谅，OpenAI即表示其义务是“建立安全有益的通用人工智能”。
应对天生式人工智能的发展，2023年欧盟《人工智能法案》第3条第1d款将“通用人工智能”界定为“可以适配于未经特意和专门设计的广泛运用领域的人工智能系统”。

由此可进一步辨析天生式人工智能与深度合成技能、智能交互技能、高风险人工智能的关系。
第一，天生式人工智能是深度合成的充分非必要条件。
从《天生式人工智能做事管理暂行办法》第12条的规定来看，天生式人工智能属于深度合成，需依法进行标识。
然而，深度合成技能却并不一定是天生式人工智能。
建立在大模型根本上的天生式人工智能并不旨在假造或更换信息，且具有更强的可交互性、自主性且可天生更为广泛的内容。
第二，近年广泛盛行的各种“语音助手”“智能管家”“人形机器人”等只是在弱人工智能的意义上实现了智能交互，均不具有通用性特色，反馈的都是根据程序预设的答案，无法与利用者进行多任务、多场景的深度互动。
第三，由于天生式人工智能具有通用性，可用于多种场景和目的，因此并不能大略等同于高风险人工智能。
在对欧盟《人工智能法案》的谈论中，已有学者建议将通用人工智能视为一个独立的风险种别，以根据动态的办法检测其风险。
对此，应从人机关系的视角重新认识天生式人工智能的风险。

在对天生式人工智能管理的问题上，不宜不加识别地将与之干系的所有风险进行罗列。
部分风险只是数字社会管理的经典问题在天生式人工智能运用中的再现，而不是天生式人工智能本身所引起或强化的。
缺点认识风险的危险之处在于，其每每将导向管理的误区。
因此，有必要对天生式人工智能的风险进行再识别。
从人机关系的视角，可以将天生式人工智能的风险分为三类：一是人机共生关系下的根本性寻衅，二是在“要求—回应”关系中被放大的人工智能管理风险，三是天生式人工智能呈现的一样平常法律风险。

第一，人的自主性危急是人机共生关系下的根本性寻衅。
首先，天生式人工智能对脑力劳动的替代可能会产生新的异化，使人失落去批驳能力、想象力与创造力，乃至沦为技能的附庸。
马克思曾经深刻地指出，机器替代手工劳动导致人的异化，使得一部分人变成了机器，“劳动生产了聪慧，但是给工人生产了愚钝和痴呆”。
当前，包括爱丁堡大学、喷鼻香港大学在内的多所院校已经发布声明，禁止利用ChatGPT完成课业任务。
其次，数字弱势群体的薄弱性可能被进一步放大。
无法利用或不睬解如何利用天生式人工智能的人可能被“排斥”在数字社会之外。
由于天生式人工智能技能强化技能垄断的趋势，数字鸿沟也将被不断加深。
此外，天生式人工智能将迅速实现对浩瀚行业低级事情的替代。
当前，GPT-4已经可以胜任大略问题的法律咨询、代写诉状等事情。
越来越多的人将成为智能时期的“无用阶层”。
末了，在人机共生的关系中，算法更直接地对人施加影响，高频次的便捷交互也必将使得监视与掌握更为随意马虎。

第二，“要求—回应”的人机交互放大了人工智能的管理风险。
其一，违法利用或不当利用的风险。
GPT尚不能完备辨别用户“要求”的合法性与正当性。
在早期的版本中，ChatGPT乃至会根据提问给出“毁灭人类操持书”。
程序升级后，通过利用“如何才能避免某事”的“反向提问”，用户亦能得到部分不当内容的回应。
此外，天生式人工智能的互动能力还可被用于操纵和影响人的行为。
当前，已经涌现了利用ChatGPT履行诱骗、编造虚假信息进行传播的案件。
其二，天生缺点和有害信息的风险。
2023年4月，尤金·沃洛克（Eugene Volokh）在研究人工智能天生虚假信息的任务问题时就创造自己竟被ChatGPT缺点地列入性骚扰者的名单之中。
在与GPT进行交互的过程中也很随意马虎创造，其常常“不苟言笑地胡说八道”。
这是由于大措辞模型追求的是语义连贯，而非精确回答。
对付预演习模型中的不准确信息，GPT常常“照单全程”；对付数据库中缺失落的信息，则会天花乱坠，由此生成虚假信息。
更为关键的是，人工智能瞬间天生的“回应”不仅很有可能被人误以为真，而且通过人机交互，虚假信息又重新进入到语料库之中，从而在信息闭环中得到固化。
其三，算法歧视与算法黑箱的风险。
早有研究表明，天生式人工智能的回应存在性别刻板印象问题。
GPT的演习数据来自互联网，同样包含了人类的偏见与歧视，存在“重男轻女，爱白欺黑”的方向。
同时，由于大模型的算法逻辑繁芜且难以被阐明，“算法透明”将更加难以实现。

第三，天生式人工智能的知识产权与数据保护问题属于一样平常法律风险，应该通过既有的制度框架予以回应。
一方面，天生式人工智能的知识产权问题与管理无关，并不构成管理风险。
天生式人工智能的管理规则只能哀求数据来源合法、不侵害他人知识产权，无法亦无力对人工智能天生物是否具有知识产权的问题作出回应。
这一问题必须回到知识产权制度本身，在作者与作品的定义、独创性与可版权性之中进行回答。
另一方面，就天生式人工智能的数据保护问题而言，部分欧洲国家最先关注到ChatGPT的数据保护问题，并在《通用数据保护条例》（GDPR）及欧洲各国数据保护制度的框架内回应了这些问题。
2023年3月意大利个人数据保护机构对ChatGPT进行调查并暂时禁止其做事，在OpenAI澄清其个人信息处理办法后，于同年4月许可其规复做事。
当月，英国信息专员办公室（ICO）发布了《针对开拓或利用天生式人工智能的指南》，从处理个人数据的合法性根本、数据掌握者与数据处理者的地位、风险影响评估、最小必要原则、自动化决策等方面提出了建议。
这些建议全部植根于既有数据保护制度，不涉及天生式人工智能管理本身。

由此可见，天生式人工智能的确有风险，但并不能直接等同于高风险人工智能。
在人工智能的管理中，应该直面人机关系中的真正寻衅，而不应出于对新技能的畏惧过高估计其风险。
在此认识的根本上，可进一步核阅天生式人工智能的管理逻辑。

三、人机关系视角下的管理逻辑更新

在自主性危急的应对中，将天生式人工智能定位为传授知识的“老师”，还是作为互助生产的“伙伴”，将导向完备不同的管理逻辑。
从人工智能的技能机制与交互模式可知，不应对人工智能提出过高的哀求并作大略的结果评价，在“伙伴”的定位下进行制度设计将更为合理。
同时，从人工智能管理风险的放大机制可知，应把握“要求—回应”的人机交互模式，将管理维度从算法管理拓展到用户管理之中。

将天生式人工智能定位为“老师”的情由每每在于：其交互形式本身就“带有知识传授的‘教诲’特点”，且通过参与人类知识生产，机器实际上也在教导人类。
由此，也将引向天生式人工智能产品具有舆论属性或社会动员能力的结论。
长期以来，互联网信息做事中的主体任务与内容管理责任的规定，实际上是采纳了“老师”的定位。
在此逻辑中，做事供应者不仅须要在程序上对人工智能的做事进行管理，还须要确保输出结果的精确性，并对可能产生的违法输出或不真实不准确的信息卖力。

然而，将天生式人工智能定位为“老师”并设置结果任务并不合理。
一是天生式人工智能的技能逻辑决定其无法确保输出结果的真实性。
做事供应者无力甄别海量的演习数据，仅仅通过海量数据进行学习的大措辞模型每每也缺少生活履历。
因此，在天生式人工智能的问答“接龙游戏”中，其仅仅能通过统计方法做到“讲人话”，而无法确保“讲真话”。
OpenAI“利用条款”第3.3条d款亦明确承认，机器学习的概任性质可能会导致禁绝确的输出。
也便是说，天生式人工智能无法也不需针对特定的提问提前设定输出的精确答案，这又正好是其智能性的表示。
法律对智能机器提出其无法完成的哀求只能导致两种后果：机器停机无法运转，或者机器在普遍违法的环境下运转。
前者打击人工智能家当，后者冲击法治本身。
二是不应该对天生式人工智能提出比人更高的哀求。
大措辞模型所涌现的虚假信息、歧视等问题，很大程度上是从人类社会中所“习得”的。
在日常的对话互换中，我们无法哀求他人的陈述必须真实客不雅观，必须对吸收到的信息作出剖析评判。
除非对方刻意误导，否则无须承担任务。
在一样平常交互场景中，也没有任何情由预设机器给出的答案就一定真实。
利用搜索引擎检索，同样也可能指向不准确的答案。
三是信息传播不即是知识传授。
信息社会中，信息传播速率快、范围广、办法多。
天生式人工智能只是在一定意义上起到知识传播与创造的浸染，它并不是一个照本宣科且一定精确的“老师”，而是一个对答如流且见多识广的“伙伴”。

值得把稳的是，将天生式人工智能定位为“伙伴”并不排斥对其进行代价勾引。
《天生式人工智能做事管理暂行办法》第4条第1项即明确提出“坚持社会主义核心代价不雅观”的哀求。
当前，人工智能生产的内容已经表现出特定的代价取向。
在国际政治、宗教、性别等问题上，GPT常常会依据西方代价不雅观给出回答。
OpenAI的首席技能官即表示，要确保人工智能“符合人类的意图和代价不雅观”，并将通过多种技能方法实现代价不雅观掌握。
由此可见，将天生式人工智能定位为“伙伴”，也须要把稳勾引“使之与人类代价不雅观亲睦处保持同等”。
2021年联合国科教文组织通过的《人工智能伦理问题建议书》即明确提出了“尊重、保护和促进人权和基本自由以及人的肃静”“环境和生态系统发达发展”“确保多样性和原谅性”“生活在和平、公道与互联的社会中”的代价不雅观哀求。
在我国互联网管理的规范中，更是不乏关于代价导向的规定。
例如，《关于加强互联网信息做事算法综合管理的辅导见地》第12条与《互联网信息做事算法推举管理规定》第6条第1款分别提出了“树立算法精确导向”和“坚持主流代价导向”的哀求。

在“伙伴”的定位下，天生式人工智能的代价不雅观勾引应表示为倡导性规定而非逼迫性规范。
这是由于，自由、平等、公道等代价内部亦存在冲突与折衷问题；并且，对付人工智能本身而言，机器的“知识”与人的知识每每并不完备重叠，对人类有代价的事物对人工智能而言可能并无代价。
有学者即指出，“险些不可能为人工智能编写一个具有内在同等性的人类代价程序”[33]。
相反，若将人工智能定位为人类的“老师”，并将代价不雅观勾引上升为逼迫性规范，则须要对人工智能天生内容作代价评价。
然而，读者的解读将为文本授予新的意义，同样的输出在不同的人看来或许会指向不同的代价不雅观，难以确定评价的详细标准。
同时，参照“法律调度的工具是行为而非思想”的基本法理，人工智能具有何种代价不雅观的问题本色指向的是人工智能的“思想”而非外在行为，不应在法律逼迫性规范的调度范围之列。

末了，将天生式人工智能定位为“伙伴”，只是否定对人工智能的过高哀求以及大略的结果评价，并不虞味着否定其他逼迫性的规制方法。
天生式人工智能的管理仍离不开针对算法设计、质量管理、监测评估等过程所设定的责任。

基于用户与天生式人工智能的人机共生关系，必须将管理维度从算法管理拓展到用户管理之中。
无论是“伙伴”还是“老师”的管理定位，都是针对天生式人工智能本身的，指向的是人工智能的算法管理。
算法管理是人工智能管理的经典范式。
算法阐明权、自动化决策谢绝权、算法影响评估、算法审计、算法备案等制度在天生式人工智能管理中当然将连续发挥主要浸染。
然而，算法管理每每忽略用户视角。
例如，欧盟《人工智能法案》即没有提及终端用户。
天生式人工智能不同于传统的互联网信息做事，其输出是由算法与用户共同完成的。
在传统的搜索引擎检索中，用户的输入只是要求算法匹配并反馈特定的搜索结果。
与之比较，天生式人工智能的输出结果并非大略的映射，而是用户与系统互换互动的产物。
在天生式人工智能中，“不会向人工智能提问就和在互联网时期不会用鼠标一样”。
用户的提示词对天生内容起到关键浸染，用户提问的呈现办法、关键要素的引入、对生产内容的迭代与选择等成分都将极大影响机器输出的结果。
弗洛里迪更是套用《1984》的措辞称，在天生式人工智能中“谁掌握了问题，谁就掌握了答案，谁掌握了答案，谁就掌握了现实”。
当前，乃至已经产生了“提示词工程师”的新兴职业。
其余，由前文的风险剖析亦可知，唯有引入用户管理的维度，方可全面应对天生式人工智能的管理风险。

用户管理维度可以在四个层面展开。
一是平台自主进行的用户管理。
实践中，企业常常在用户协议或平台自治规则中载明对用户的利用限定或供应干系利用指引。
例如，OpenAI在“利用政策”中明确指出不许可将其模型用于包括造孽活动、天生恶意软件、诱骗、高风险政府决策等在内的14类环境，并供应了“安全最佳实践”指引。
《天生式人工智能做事管理暂行办法》第9条第2款即指出，做事供应者应与用户签订用户协议以明确双方权利责任。
二是对平台施加用户管理责任。
例如，《天生式人工智能做事管理暂行办法》第10条规定，做事供应者应“辅导利用者科学理性认识和依法利用天生式人工智能技能”，并采纳未成年人防沉迷方法。
此外，该办法第14条第2款还针对用户“利用天生式人工智能做事从事违法活动”时平台应采纳的警示、封禁、报告方法进行了规定。
三是对平台与用户之间的法律关系进行监管。
例如，天生式人工智能的信息处理活动中，涉及个人信息跨境的，应根据《个人信息出境标准条约办法》签订标准条约、接管个人信息影响评估并进行备案。
域外亦有学者提出，建立针对人工智能做事的条约监督审查机制，对条款的公正性与充分性进行审查。
四是规范和勾引用户的要求。
在深度合成管理中，《互联网信息做事深度合成管理规定》第6条即明确哀求，任何组织和个人不得利用深度合成做事生产或传播违法信息、从事违法活动。
基于天生式人工智能的特性，在禁止用户向人工智能提出违法或不当的要求外，还应该建立专门领域的提示词规范，进一步勾引用户的要求。

综上，天生式人工管理的基本逻辑是：在与人类的互助生产关系中，应将其定位为“伙伴”而非“老师”，同时结合算法管理与用户管理的维度进行管理。
由此出发，可进一步塑造天生式人工智能的管理路径。

四、天生式人工智能管理的路径优化

天生式人工智能管理是人工智能管理的主要组成部分，适用于人工智能管理的一样平常范式与管理原则。
然而，若忽略天生式人工智能的管理逻辑，直接套用一样平常的人工智能管理方法，将导致制度设计的误区。
当前，天生式人工智能的管理在一定程度上存在架空原谅谨严原则、未进行有效的风险区分、伦理管理缺位的问题。
对此，应结合天生式人工智能的人机关系与管理逻辑，从规则管理、场景管理、伦理管理三个方面优化天生式人工智能的管理路径。

《天生式人工智能做事管理暂行办法》第3条所规定的原谅谨严原则亟需进一步贯彻到人工智能管理的详细系编制度设计之中。
坚持原谅谨严原则，为新技能运用创造条件，是《科学技能进步法》第15条与国家“十四五”方案中的明确哀求。
天生式人工智能是一项可能带来重大影响的新兴技能。
GPT被家当界认为是“1980年以来最主要的技能创新”。
对付新技能创新中的风险应进行利益衡量，合理分配任务。
对付尚不明确的问题，可以“让子弹飞一下子”，无须急于确定专门的管理规则。
例如，劳动替代问题在工业革命中也曾被提出，卢德主义者更是捣毁机器以换取就业，但也并不能阻挡工业革命的潮流。
须要把稳的是，通过引入不愿定性观点故意模糊规则，乃至不列明规则，并非为管理留有空间的恰当举措。
规则公开与明确是法治的核心要素之一。
试图通过不明确的规则或非规范的术语管理新技能，实际上是为监管权力的行使留出“后门”，将使得家当界动辄得咎，亦不符合原谅谨严的精神。

天生式人工智能的管理规则设定须要把握权利责任的变更方向。
从互联网的内容生产模式来看，经历了专业天生内容（PGC）、用户天生内容（UGC）和人工智能天生内容（AIGC）的发展，三者又分别对应于Web1.0、Web2.0、Web3.0的互联网发展阶段。
在PGC中平台掌握内容，自身便是内容供应者，不享有任务豁免。
而在UGC中，平台每每难以掌握用户所发布的内容，因此制度上形成了网络做事供应者（ISP）与网络内容供应者（ICP）的划分，并构建了“避风港”下的任务豁免规则。
在AIGC中，内容在人机互动中由机器“伙伴”天生，人工智能做事供应者本身已经成为内容供应者，须要承担内容管理责任与内容任务。
然而，当前制度中，天生式人工智能平台对其天生内容难以直接得到知识产权。
OpenAI已明确表示将其“对输出的所有权利、所有权亲睦处”转让给用户。
从权利责任的同等性角度，实不宜对天生式人工智能做事供应者施加以过重的责任。

在“伙伴”的定位下，应为天生式人工智能设置过程责任，做事供应者全面履行干系责任后即得到行政任务的豁免。
第一，算法备案、质量管理、监测评估是范例的过程责任。
以算法备案为例，《天生式人工智能做事管理暂行办法》第17条规定，“供应具有舆论属性或者社会动员能力的天生式人工智能做事”应根据《互联网信息做事算法推举管理规定》履行算法备案责任。
须要把稳的是，算法备案只是行政规章设定的责任，不能以备案为手段创设行政容许，否则将与《行政容许法》第14条相冲突。
也便是说，不能将算法备案理解为供应干系做事的前置条件。
第二，未履行过程责任所引起行政任务必须被合法设定。
在法律、行政法规没有规定之时，通过部门规章设定责令停息或终止供应做事的惩罚，将与《行政惩罚法》相冲突。
行政惩罚种类法定，根据《行政惩罚法》第13条第2款，在“尚未制订法律、行政法规”之时，部门规章可以设定的行政惩罚限于“警告、通报批评或者一定数额罚款”。
其余，在互联网业态下，停息或终止供应做事的惩罚实际上对做事供应者判了“去世刑”，将对其造成比处以最高罚款限额更为严重的毁灭性打击，必须谨慎设定该种行政任务。
第三，已履行过程责任的做事供应者不再对输出结果承担行政任务。
前文已述，“老师”定位下的结果任务并不可行。
天生式人工智能做事供应者与传统的内容供应者并不相同，其对内容的掌握力每每只是类似于UGC中的网络做事供应者。
唯有重新合理地设置豁免规则，方可形成权利责任的对称构造。

以过程责任的履行作为连接点，可进一步衔接天生式人工智能管理中的行政任务与天生式人工智能致害的刑事任务、民事任务。
在与刑事任务的衔接上，举轻以明重，做事供应者在全面履行过程责任后无须承担行政任务，当然也无须承担刑事任务。
此时，用户利用天生式人工智能进行犯罪的，依法承担刑事任务。
做事供应者仅在未全面履行过程责任，且严格符合犯罪构成要件之时，才有可能成为共犯。
在与民事任务的衔接上，过程责任的履行与否是剖断天生式人工智能做事供应者主不雅观差错的主要依据。
天生式人工智能造成的侵权属一样平常侵权行为，不应适用无差错任务。
天生式人工智能做事并不符合《产品质量法》第2条第2款的产品定义，网络内容供应者也不能等同于产品生产者。
天生式人工智能做事供应者并不对其天生的内容承担严格任务。
详细而言，应在人机互动的繁芜关系中辨明因果关系，以确定干系民事任务。
第一，当危害由用户滥用和恶用引起，且做事供应者已全面履行过程责任时，由用户单独承担任务；若做事供应者未全面履行过程责任对危害结果的发生具有差错的，由用户和做事供应者根据共同侵权规则承担连带任务。
第二，当危害是由人工智能本身引起的，且用户无错过期，做事供应者在未全面履行过程责任的环境中承担任务；当做事供应者已全面履行过程责任时，对收到权利人关照后未采纳必要方法导致危害扩大部分具有差错，也须要承担任务，由此在《民法典》第1195条以外实现天生式人工智能分外的“关照—删除”规则。

在不同的运用处景中，天生式人工智能的风险大不相同，必须采纳风险导向的场景管理路径。
若不对场景进行区分，直接强调穿透式监管或“全链条管理”，将导致设置过于严苛的监管方法。
诚如2023年英国政府科技、创新与技能部在《促进创新的人工智能监管方法》白皮书中所指，不应“将规则或风险级别分配给全体行业或技能”，用同样的手段监管谈天机器人与医疗人工智能是不合理的。
有学者即将算法规制困境的根本缘故原由归结为，“忽略算法的场景性”。
因此，国家有关主管部门根据《天生式人工智能做事管理暂行办法》第16条第2款“制订相应的分类分级监管规则或者指引”时，应该引入场景管理的逻辑：在繁芜的人机互动关系中，采纳风险剖析方法（risk approach），区分高风险场景与一样平常交互场景，并根据场景设置管理规则。
借鉴欧盟《人工智能法案》高风险人工智能的类型界定，结合我国法律文本中的干系术语表达，天生式人工智能的高风险场景包括：（1）在对个人权柄或社会公共利益有重大影响时利用天生式人工智能系统的场景；（2）主要互联网平台做事、用户数量巨大、业务类型繁芜的做事供应者供应或利用天生式人工智能系统的场景。
针对上述高风险场景的紧张管理路径为：

一是持续进行风险影响评估以准确识别风险。
在大模型的利用中，高风险/低风险的划分并不是一成不变的。
同一风险等级中不同场景的详细风险类型也不尽相同。
随着研发与利用的动态发展，风险等级与风险类型也可能发生迁移。
欧盟《人工智能法案》第9条即指出，高风险人工智能系统的做事供应者应持续地对已知的和可预见的风险进行监测，并采纳适当的风险管理方法。
在不同的高风险场景之中，做事供应者的法定义务也不尽相同。
例如，昔时夜模型被用于主要行业和领域时，根据《网络安全法》第31条可能构成关键信息根本举动步伐，做事供应者须要依法确保系统的运行安全。
此外，做事供应者还应及时将干系风险奉告用户，并对用户进行适当的勾引。

二是充分担保人类监督以应对人的自主性危急。
做事供应者须要确保在设计、开拓和利用中人都能对大模型进行有效地监督。
在法律、金融、保险、教诲、住房、就业、康健等对个人权柄有重大影响的高风险场景中，做事供应者应对大模型进行微调，进一步担保结果输出的准确性，以符合用户的合理预期。
在这些场景中，用户也不应直策应用没有经由微调的大模型。
即便经由微调，利用者也必须进一步核实人工智能自动天生的内容。
当前，美国已经涌现了状师因向法院提交由ChatGPT天生的虚假案例而面临惩罚的案件。
同时，在自动化行政、聪慧法律等对社会公共利益有重大影响的高风险场景中，天生式人工智能只能作为赞助而非对人类决策者的替代。
调研创造，我国部分法院已经开始探索GPT的运用。
此时，应根据《最高公民法院关于规范和加强人工智能法律运用的见地》的哀求，“坚持对审判事情的赞助性定位和用户自主决策权”。

三因此算法透明破解算法黑箱。
联合国教科文组织《人工智能伦理问题建议书》指出，算法透明“是确保人权、基本自由和伦理原则得到尊重、保护和促进的必要先决条件”。
在高风险场景中，应更为强调算法透明的哀求。
虽然，天生式人工智能利用神经网络算法，使得算法透明更加难以实现；但是，从技能上破解算法黑箱的研究从未停滞。
算法透明不哀求公开算法，而是指向算法结果的阐明。
算法阐明的充分性受技能发展水平的客不雅观限定。
在现有技能水平下，高风险场景中生产式人工智能做事供应者应该通过区块链、隐私打算等技能使得输入与输出的逻辑全程可追溯，由此动态地向用户对供应“若非A则无B”的反事实阐明，并以适当的办法及时奉告用户算法的基本事理。
天生式人工智能的算法阐明不局限于《个人信息保护法》第24条第3款对个人权柄有重大影响的自动化决策中的解释责任，而应拓展到所有高风险天生式人工智能做事供应者对天生结果的阐明任务之中。
此外，做事供应者还应通过事先表露管理机制、管理规则，引入第三方审计与算法论证程序，以进一步实现算法透明。

伦理管理是应对自主性危急的必由之路。
在“伙伴”的定位下，天生式人工智能代价勾引的倡导性规范终极也须要通过伦理管理实现。
以人为本、尊重人的自主性，是人工智能伦理管理的紧张原则。
2023年国家人工智能标准化总体组、全国信标委人工智能分委会发布的《人工智能伦理管理标准化指南》将“以人为本”作为第一项伦理准则并指出，以人为本便是要在“科技领域坚持以公民为中央的发展思想”，使人工智能符合人类代价不雅观、遵照人类代价不雅观。
欧盟《人工智能道德准则》亦将“尊重人的自主性”作为紧张准则并提出，人工智能系统的设计应对遵照以人类为中央的原则，以增强、补充人类的认知为目的，禁止胁迫、欺骗和操纵人类。
人类必须保持对天生式人工智能系统的终极掌握权。
前述担保人类监督的制度规范设计，也是人工智能伦理的基本哀求。
联合国教科文组织《人工智能伦理问题建议书》即表示，不应让人工智能作死活攸关的决定。
为实现伦理哀求，部分天生式人工智能做事供应者已经开展了对齐（AI alignment）研究，致力于使系统与人类意图保持同等。
在尊重人类自主性外，天生式人工智能的开拓和利用亦需遵照可持续发展、公正、透明和可阐明、准确、安全、可问责等人工智能伦理准则。

天生式人工智能的管理理论不是空洞的原则，应融入法律制度之中。
针对高风险场景中天生式人工智能的开拓和利用应开展科技伦理审查。
参考《科技伦理审查办法（试行）（搜聚见地稿）》第3条第3项，对“可能在生命康健、生态环境、公共秩序、可持续发展等方面带来伦理风险寻衅的科技活动”应进行科技伦理审查。
科技伦理审查应由开拓或利用单位的科技伦理审查委员会依据以自主性为中央的伦理准则开展。
根据外交部《中国关于加强人工智能伦理管理的态度文件》，科技伦理审查的内容至少应包括系统的“普惠性、公正性和非歧视性”“避免可能存在的数据采集与算法偏见”。
同时，国家科技伦理委员会应根据《科学技能进步法》第103条的规定，进一步建立健全关于天生式人工智能的伦理规范、风险评估与监管体系。

在用户管理的维度上，通过促进行业自律与数字素养提升，可进一步助益于天生式人工智能的伦理管理。
一方面，基于天生式人工智能的通用性与风险的场景性，各行业应尽快建立与行业特色相适应的自律规范以勾引和规范用户利用。
例如，2023年4月中国支付清算协会发布了《关于支付行业从业职员谨慎利用ChatGPT等工具的倡议》，从网络安全、敏感信息保护与内部管理三个方面进行了指引。
2023年5月抖音发布《关于人工智能天生内容的平台规范暨行业倡议》指出，平台将对违反自律规范的用户进行惩罚。
另一方面，基于国家的人权保障责任，政府应进一步落实公民数字素养的提升事情，构建“数字原谅”的社会，使所有人都能“从广泛数字技能和系统中受益”。
政府应结合天生式人工智能利用的问题，积极开展数字技能和人工智能伦理的教诲，针对数字弱势群体的薄弱性制订相应的权利保障方案；并应进一步促进互联互通、肃清数字鸿沟，勾引和规范天生式人工智能的利用。

结语

“未来已来”，天生式人工智能迅速步入了人们的日常生活，将对人类的生活生产办法产生重大影响。
正如当下人们的生产生活离不开智好手机一样，未来谢绝天生式人工智能也可能变得毫无意义。
法律与公共政策不可忽略乃至抗拒新技能的发展运用，应该尽快构建天生式人工智能的管理框架。
一味采纳断网、屏蔽的封禁方法，将使中国错失落人工智能发展的关键机遇。
《新时期的中国网络法治培植》指出，“互联网因创新而生，因创新而兴，网络法治尤其须要创新”。
天生式人工智能的管理创新必须根据数字社会的发展规律，在把握互利共生的人机关系根本上，转换管理逻辑、优化管理路径，塑造公正规范的数字管理生态。
此外，我国应应时推进人工智能的根本性立法，将天生式人工智能管理的新思维融入个中，进一步丰富和完善数字社会的法律管理体系。

原文链接

韩旭至：天生式人工智能管理的逻辑更新与路径优化——以人机关系为视角｜《行政法学研究》2023年第6期

《行政法学研究》简介

《行政法学研究》创刊于1993年，是由中华公民共和国教诲部主管、中国政法大学主理、《行政法学研究》杂志社编辑出版的国内外公开拓行的我国首家部门法学杂志。
是国家社科基金帮助期刊，已被列入“中国人文社科核心期刊”、“法律类中文核心期刊”、“中文社会科学引文索引（CSSCI）来源期刊”、“中国社会科学期刊佳构数据库来源期刊”、“中国学术期刊综合评价数据库来源期刊”和“中国核心期刊（挑选）数据库”。

往期精彩回顾

叶必丰｜集体谈论制度从组织法到行为法的发展

何源｜保护规范理论的适用困境及其纾解

张淑芳｜免罚清单的实证与法理

肖军｜论交通标线设置的行为特性与管理

章志远｜新《行政惩罚法》履行对行政审判的影响与应对

黄宇骁｜行政法上的客不雅观法与主不雅观法

上海市法学会官网

http://www.sls.org.cn