文丨贺乾明编辑丨龚方毅

当一家公司的新技能遥遥领先，眼看要独占一个行业，追赶者们该当怎么办？

2008 年，iPhone 发布后一年，各大手机厂商奋力研发操作系统追赶苹果。
微软有 Windows Mobile、黑莓有 BBOS、诺基亚基于 Linux 系统开拓了 Maemo、Palm 在秘密研发 WebOS……

又过了不到五年，还卖得动的智好手机要么来自苹果，要么装着开源的 Android 系统。
现在，苹果的竞争对手们不再有属于自己的操作系统，但它们霸占着超过 80% 的智好手机市场。

一全体行业环绕开源技能，协力对抗领先者，这一幕在本日的技能竞争中不断发生。

Windows 系统难以寻衅，不满微软的科技行业将 Linux 变成了网站和互联网运用的操作系统。
亚马逊 AWS 首创了云打算行业，阿里云、IBM 等竞争公司将 Google 的 Kubernetes（K8S）开源技能奉为标准。
险些所有移动处理器都依赖 ARM 架构，于是 RISC-V 正得到广泛的投资支持。

昨夜 Meta 又贡献了一个这样的例子。
他们宣告将大措辞模型 Llama 2 有条件地开源给商业利用（月活用户超过 7 亿须要单独申请），正是在牵头做大模型时期的开源标准。
而 OpenAI 的密切互助伙伴微软，这一次成了 Llama 2 的紧张互助伙伴。

微软是在同一天举行的 Inspire 大会宣告这项互助的，而且就在宣告的 2 分钟前，微软还在一张 PPT 上画着 “微软 OpenAI”。
微软与有竞争关系的闭源 OpenAI 和开源 Llama 2 两头牵手，反响了如今大模型激烈的技能竞赛之外，多变的商业合纵连横。

微软 CEO 萨蒂亚·纳德拉（Satya Nadella）发布会上强调微软与 OpenAI 关系亲密（上）。
Meta CEO 马克·扎克伯格（Mark Zuckerberg）与纳德拉的合影（下），图片来自扎克伯格的社交媒体。

ChatGPT 去年底亮相后，环球大小科技公司和各种研究机构都在奋力追赶，造出了上百个大模型。
而在 Meta 开源 Llama 2 之后，这些模型中的大多数还没有商用就已经由时。

“Llama 2 看起来非常强大（超越 GPT-3），经由微调的谈天模型看起来与 ChatGPT 处于同一水平。
”HuggingFace 机器学习科学家内森·兰伯特（ Nathan Lambert ）说，“对开源来说是一个巨大的飞跃，但对闭源的大模型公司是一个巨大打击，这个模型（Llama 2）将知足大多数公司对更低本钱和个性化的需求”。

水平在 GPT-3 到 GPT-3.5 之间

今年 2 月，ChatGPT 发布 3 个月，Meta 就开源了初版 Llama 大措辞模型。
当时开拓者能拿到的只是 Llama 预演习模型、且只被许可用作研究，而不是一个像 ChatGPT 那样针对特界说务或者需求演习过的运用。

支持商用的 Llama 2 看上去更强。
本次 Meta 一共发布 70 亿、130 亿和 700 亿三种参数规模的模型，其公布了模型演习数据、演习方法、数据标注等大量细节，展示了 Llama 2 的水平：

同等参数规模， Llama 2 能力超过所有的开源大模型；700 亿参数的模型在推理层面靠近 ChatGPT 背后的 GPT-3.5，但写代码的能力还有较大差距。

多位测试过 Llama 2 模型的开拓者基本证明了 Meta 的说法：“代码测试环节挺不了 15 分钟”。
70 亿参数的模型可以在 Mac 上运行，每秒钟能处理 6 个字符，比 Google 发布的 PaLM 2 最小的模型 “壁虎” 慢 70%。
但 Google 并没有公布 “壁虎” 的详细参数。

根据 Meta 公布的信息，Llama 2 的演习数据（都来自公开数据）提升到 2 万亿个 Token（指一个常用单词、标点或数字），较第一代多 40%。
其高下文长度扩展到了 4000 个字符，对文本语义的理解更强。

Meta 还像 OpenAI 那样，借助人类反馈强化学习（RLHF）机制，用 100 万人类标记数据演习出了类似 ChatGPT 的对话运用。
这也是开源社区过去几个月微调演习 Llama 的常用方法。
Meta 称 “大措辞模型的卓越写作能力，从根本上是由 RLHF 驱动的。
”

演习 Llama 2 可能并不便宜。
HuggingFace 机器学习科学家内森·兰伯特估算 Llama 2 的演习本钱可能超过 2500 万美元，不比 OpenAI 三年前演习 GPT-3 的花费少。
他说，有充足的迹象表明，Meta 还在连续演习更强的 Llama。

Meta 的 Llama 2 在多个数据集上表现好过其他开源模型。
图片来自 Meta。

“改变大措辞模型的市场格局”

作为根本举动步伐，大模型在产品中处于底层。
用户利用大模型运用，感想熏染到的便是对话框和大模型处理过的内容，不会看到用的什么大模型、什么技能。

大模型的这个特点，一定程度上决定了它竞争局势——只要有更符合用户或企业需求的大模型涌现，换起来的障碍并不高，乃至不会对用户造成太多负面影响。
“如果大模型能力相差不大，只须要做一些调度事情就可以办理，开拓量不大。
” 一位 AI 开拓者说。

有了 Llama 2 这样的开源大模型，自研的意义更小了。
连竞争对手 OpenAI 的研究科学家、特斯拉古人工智能总监安德烈·卡帕西（Andrej Karpathy）都说，Llama 2 的发布是人工智能和大模型发展过程中的主要一天，“Llama 2 是任何人都可以拿到模型权重（参数特色，一个模型最关键的信息）的最强大措辞模型。
”

Meta 副总裁、人工智能部门卖力人杨立昆（Yann LeCun）说，Llama 2 将改变大措辞模型市场的格局。
一位中国大模型创业公司高管阐明了这句话：“很快就能看到许多开拓大模型运用的公司，把根本模型换成 Llama 2”。

多位人工智能研究者认同杨立昆的说法，随着 Llama 2 发布，Meta 可以用开源、支持商用的策略会改变大模型的格局和生态。

今年 6 月，美国红杉成本创造在其投资的 33 家创业公司和上市公司中，65% 已经上线了大模型运用、94% 正用 OpenAI 的大模型接口（API）开拓运用。

它们利用大模型的方法大多较为大略：直接调用 ChatGPT 的接口处理私有数据完成特界说务，如多措辞互译、天生文本或者网页内容择要等。
很少有公司会做更深入的开拓，比如用大量数据微调模型。

在中国，许多公司选择从头网络数据或者用公开数据集演习大模型，过去半年发布了 80 多个大模型，不乏有公司和机构开源模型，把支持商用当做竞争点，然后做起买卖。

《晚点 LatePost》理解到，中国一家备受关注的大模型创业公司推出的开源 60 亿参数大模型，企业想买商用授权要花百万元，近期宣告免费；没有开源的千亿参数模型，售价每年上千万元。

一位上市公司人工智能部门卖力人 5 月见告《晚点 LatePost》，他们打算用 OpenAI 的 GPT-3.5 开拓功能，但本钱太高——每天本钱估量上万元，而且想定制做开拓很困难，也不支持同一韶光相应大量用户的要求。

末了他们选择了参数量更小的 Llama（60 亿）和一个中国公司的开源大模型，这意味着演习和支配本钱更低，而且经由数据微调后，在他们的业务场景中，基于 Llama 与中国开源模型的开拓效果和利用 GPT-3.5 差别不大。

中国大模型公司当时的另一个上风是可以谈商业授权，而 Llama 不能。
当 Llama 2 开始许可商用，中国大模型公司的这一上风现在也没有了。

开源大模型正迅速追赶

ChatGPT 去年底刚发布时，它凭看上去充满意义的回答和强大的写代码能力等功能震荡了天下。
许多公司都在关注若何才能做出一个类似的产品。

半年多过去，从大公司到普通程序员，都能借助开源社区做出来一个类似 ChatGPT 的运用。
云端开拓平台 Replit 创造，利用他们做事的开源大模型的项目数量，每个季度都在翻倍。

在 Llama 等开源大模型根本上，开拓者们做出了各种开源数据集，比如基于人类反馈强化学习（RLHF）的数据集，持续提升开源大模型的能力。

根据加州大学伯克利分校、卡耐基梅隆大学等高校多位教授和学天生立的 LMSYS Org 评估，过去几个月，开源大模型与 GPT-4 的差距正明显缩小——从相差 191 分到近期的 115 分。
在追赶过程中，开源社区还先大公司一步做出了在电脑、手机上运行的大模型，比 Google 早一个多月。

随着 Meta 开源 Llama 2，大模型开源社区的力量将会变得更强。
Meta 称， 初版不支持商用的模型开源后，他们收到了超过 10 万个研究职员的利用申请——这还没算那些直接从网高下载模型的人。

“大公司的人工智能研究职员由于开源容许问题对初版 Llama 持谨慎态度，现在我认为他们中的许多人会跳上这艘船（Llama 2）并贡献他们的火力。
” 英伟达资深人工智能科学家 Jim Fan 说，就算现在 Llama 2 编程能力弗成，开源后很快就会追上来。

这次 Llama 2 最大开源参数版本（700 亿）的参数还不到 OpenAI 三年前演习好的 GPT-3 的一半，但效果好于 GPT-3，便是最好的例证之一。

开源的逻辑倾向于大模型达到一定能力后，就扩大新技能的覆盖范围，让更多人利用技能，然后从大量运用中改进模型。
而闭源的公司，如 OpenAI 更倾向于技能领先，研发强大模型后再推广给更多人。

就像 iOS 与 Andriod 在手机操作系统上的竞争，开源与闭源的竞争并不都是在同一维度上的短兵相接，大模型领域也会涌现类似的分解。

在这种新的竞争格局下，连 Google 都没有信心连续保持领先。

今年 5 月，Google 一位高等工程师在内部撰文称，只管 Google 在大模型的质量上仍旧略有上风，但开源产品与 Google 大模型的差距正在以惊人的速率缩小，开源的模型迭代速率更快，利用者能根据不同的业务场景做定制开拓，更利于保护隐私数据，本钱也更低。

“只须要几周韶光，他们用 100 美元和 130 亿参数的模型，就能做成我们花 1000 万美元和 540 亿参数模型很难做到的事情。
” 他说，“我们没有护城河，OpenAI 也没有”。

昨天，Meta 在宣告 Llama2 开源后阐明说，开源对付当今人工智能模型的发展是精确的，尤其是在技能迅速发展的生产领域，“通过公开供应人工智能模型，它们可以惠及所有人ーー而不仅仅是少数几家大公司”。

一场不同于过去的新式竞争正在天生式人工智能领域开展。
开源社区凭借开放协作的力量，正在以惊人的速率追赶商业巨子们建立的领先上风。
而过去习气于技能封闭和市场垄断的大公司，也在逐步拥抱开源。

题图来源：烈火战车 Chariots of Fire （1981）