1997年，一位程序员写下名为《大教堂与集市》的文章，首次提出了开放源代码(Open Soure)的观点，提倡软件源代码能被任何人查看、修正、分发。
开源自此深刻影响了互联网行业的每一个角落。

在天生式AI崛起确当下，开源再次成为话题焦点：Meta的开源大模型Llama 2公开商用，险些一夜之间重塑了大模型的发展路线；开源社区Github上的天生式AI项目，一年同比增加248%；Hugging Face预言，2024年开源大模型的能力会与闭源持平。

但就和开源软件出身时一样，开源AI的安全性备受争议。
不同的是，它还面临着定义模糊、巨子游戏等新生问题。
要不要对开源AI“开绿灯”？不同开放程度的AI都算开源吗？如何理解它们的代价和风险？

带着这些问题，近日多位学界和业界专家参加了“清华伍舜德楼行政法学事情坊·人工智能立法之开源发展与法律规制”会议，一同谈论开源AI的规制问题。
本次会议由清华大学科技发展与管理研究中央及清华大学公共管理学院政府法制研究中央共同举办，清华大学公共管理学院院长朱旭峰教授、清华大学公共管理学院于安教授致欢迎辞。

现状：开源豁免

只管天生式AI的风险一贯处于风口浪尖，但不管是从业者还是监管者，目前都对开源AI更为原谅。

以欧盟为例，即将发布的两部法律为开源AI明确亮了“绿灯”。
同济大学法学院助理教授、上海市人工智能社会管理协同创新中央研究员朱悦先容，一部是靠近全定亲稿的欧盟《人工智能法案》，目前的版本将不会监管免费、开源的AI系统；另一部则是《产品任务指令》。
这一指令将AI产品纳入了适用范围，也便是当AI系统里的软件、硬件作为产品投向市场时，须要遵守相应条款，但“在商业活动之外研发、供应自由且开源的软件”除外。

中美也有类似的探索。
比如中国社科院与南财合规科技研究院共同起草的《人工智能示范法（专家建议稿）》拟定，“免费且开源供应人工智能的个人、组织能证明已经采纳足够安全方法的，可以减轻或不承担任务。
”最近两位美国议员的《人工智能根本模型透明度法案》提案备受关注，当中开源模型也享有豁免权。

这种普遍宽松的态度，朱悦认为紧张目的是鼓励创新、促进技能互换。
从整条人工智能家当链来看，无论是框架性的代码，还是数据、预演习模型、评估基准，开源都发挥了难以替代的浸染。
以评估基准为例，“如果做出了AI大模型，要看它达到了若何的性能水平，就须要跟其他大模型的基准比较。
但这种评估基准存在于哪里？很多时候离不开开源平台，比如Hugging Face。
可以说，大部分AI组件都是在开源的生态里发生的。
”朱悦说。

中国信息通信研究院的人工智能研究中央高等业务主管呼娜英同样表示，比较于工业时期的封闭家当模式，开源的分工效率更高。
开源AI在培植一个开放的家当生态上有主要浸染，在家当经济的贡献上，它的浸染也是显而易见的。

而更直接的缘故原由是，开源本身就意味着更透明。
朱悦指出，在GitHub、hugging face这些开源社区上传AI组件时，开拓者须要表露权重、参数、架构等详细信息，来帮助其他人更好地利用，实际上已经履行了监管者期待的大部分责任。
以是，“已经有很好的自我监督、社群监督，还有没有必要再施加硬性监管？须要考虑。
”

难题：开源“留一手”

更透明、更创新是开源的固有上风，但碰上天生式AI，开源有新的问题要面对。

多位专家都提到，要当心AI“假开源”的征象：目前的开源AI每每是“有限的开放”，只公开模型架构，很少公开演习数据和过程。
除此之外，它可以限定利用者身份，限定核心功能的利用，还可以选择旧版本开源、新版本闭源。
比如开源界的明星Llama2大模型，实在就限定了月生动用户超过7亿的公司利用。

究其缘故原由，21世纪经济宣布合规科技部副主任王俊指出，开源站在法律、技能、商业的交叉口，开源AI更多时候是一种商业选择。

星纪魅族集团数据合规实行总监朱玲凤进一步阐明，目前有些开源AI由头部公司主导，“越多人利用，就越能强化网格效应，而且不是真正的开放，后续须要利用它们的配套工具、配套做事。
头部公司还可能利用监管豁免的办法，得到寻租空间。
”换言之，以开源为噱头的巨子游戏，可能会进一步强化大公司的垄断地位，反而不利于家当竞争。

呼娜英还提到，国际科技巨子在用开源AI扩大影响力的同时，潜移默化地实行了一套自己的规则。
家当自主性、国际依赖性的问题必须要谨慎考虑，海内应该考试测验发展自己的开源生态。

不过限定竞争的隐忧，已经得到了一定缓解。
朱悦表示，上文提到的欧盟两部法律，都强调***性的、社群性的、自律性的开源。
详细来说，它们明确限定了“开源”的附加条件，如果是通过开源换取货币对价，绑定额外的做事，或者出于安全、兼容之外的目的得到个人信息，进行商业变现，那就不能享受豁免。
此外，法规还鼓励通过数据卡、模型卡、系统卡等信息表露的办法，进一步促进行业互助。

因此，朱悦认为更主要的问题可能是：如何利用立法技能厘清开源AI的边界？需不须要设定，如何设定最基本的责任？

管理：定义与安全风险评估难

是否要对开源豁免，与会专家们有了基本共识：有必要给予支持。
但详细如何支持，难点紧张来自两个方面：怎么定义开源AI，以及如何看待开源AI的安全风险。

朱玲凤创造，对付开源软件，通过读取源代码和技能文档，基本能够复现软件。
但对付开源AI，只是开放源代码没办法复现能力，由于AI是由代码、模型、数据、算力等多个组件构成的繁芜系统，传统的开源定义没法沿用。

作为参照，可以看看开源鼻祖是如何理解这一问题的。
写下《大教堂与集市》、掀起开源运动的程序员，后来创立了著名的开放源代码促进会（OSI）。
该组织正在调集环球专家谈论开源AI的定义，其最新报告认为开源AI须要供应四种自由：一，为任何目的利用该系统，无需征得容许；二，研究系统如何事情，并检讨其组件；三，出于任何目的修正系统，包括改变其输出；四，为任何目的共享系统供他人利用，无论修正与否。

朱玲凤剖析，OSI的定义明确了开源AI不仅仅指公开模型的源代码。
但仍旧不清楚的是，详细开源的工具是什么，是否会设计不同的开源容许证。

“在完备封闭和完备开放之间，AI有很多可选路径，可以有利用限定、完备没有利用限定，也可以完备封闭、完备不封闭。
”安远 AI 资深研究经理方亮补充。
在他看来，开源AI须要有更精确的定义，这样才能理解不同层次的风险。

值得思考的是，开源是否会放大AI的固有安全风险。
朱玲凤把稳到，OSI认为“如何开拓符合道德规范、值得相信或负任务的人工智能系统”不属于定义的谈论范围。
她担忧的是，只管开源社群的创新代价几次再三被强调，但社群、协会并不担保能安全利用开源AI，因此须要同时考虑开放与可信。

开源的安全性确实一贯饱受争议。
《大教堂与集市》一书曾提出名言：“如果有足够多的眼睛，缺点将无处遁形。
” 大略来说，便是开源可以利用集体的力量审查技能、创造漏洞、修复毛病。
许多AI科学家也因此认为，长远来看，开源是保障AI安全的唯一办法。

但呼娜英也指出，不能忽略“目前AI开源的安全风险依然非常高，而且进步神速。
我们看到大型的网络安全事宜基本都与开源有关，对付高风险行业，尤其要把稳安全和发展问题。
”

针对开源AI的定义，中国公民公安大学教授、数据法学研究院院长苏宇认为，可以先豁免完备免费、许可所有人自由访问和利用的开源AI组件。
苏宇指出，这样的开源AI组件对人工智能的研发有着根本性浸染，而且被大量利用者反复打磨和完善，相对付信息不对称、不透明的闭源组件和运用更安全。
“这种情形下，坚持完善透明度责任就好。
其他带商业性子的开源、不完备开源组件及软件等的豁免条件，可以待制度实践更成熟之后逐步确定。
”

保持透明度的根本责任，分层管理开源AI，也是专家们的共识。
比如属于通用目的、高风险，或者根本模型的开源AI，专家认为仍旧须要规制安全风险。

“对付开源AI，要认清哪些是固有风险，哪些是由于开源而增减、缩放的风险。
尽可能用精准敏捷的管理方法，代替一刀切。
”苏宇总结。

更多内容请***21财经APP