自然措辞处理（Natural Language Processing，NLP）是打算机科学、人工智能和语 言学领域的一个交叉学科，紧张研究如何让打算机能够理解、处理、天生和仿照 人类措辞的能力，从而实现与人类进行自然对话的能力。
通过自然措辞处理技能， 可以实现机器翻译、问答系统、情绪剖析、文本择要等多种运用。
随着深度学习 技能的发展，人工神经网络和其他机器学习方法已经在自然措辞处理领域取得了 主要的进展。
自然措辞处理的发展可追溯到 20 世纪 50 年代，当时打算机科学家开始考试测验通过计 算机程序来实现对自然措辞的理解和天生。
早期研究紧张关注规则和基于知识的 方法，如编写语法规则和词典来进行句子剖析。
20 世纪 80 年代，随着打算能力的 提高和大量语料库的涌现，统计方法在自然措辞处理领域逐渐霸占主导地位。
这 一期间，许多基于统计的机器翻译、分词、词性标注等方法相继涌现。
进入 21 世 纪，尤其是近十几年，深度学习技能的发展极大地推动了自然措辞处理的进步。

从 2010 年，Tomas Mikolov 及其互助者提出了基于循环神经网络（RNN）的措辞模 型开始，自然措辞处理进入了高速发展期间。
2015 年 Dzmitry Bahdanau 等人在论 文《Neural machine translation by jointly learning to align and translate》中提出的把稳 力机制，使措辞模型可以学习到词和词之间更深层次的依赖关系，从而更好地理 解和天生语句。
著名的 Transformer 构培养广泛采取了把稳力机制，引领了后续自 然措辞处理技能的发展。
以谷歌在2018年提出的BERT为代表的预演习措辞模型， 再次将自然措辞处理的发展推进到了一个新的阶段。
预演习措辞模型利用无监督 学习在大规模语料库上进行预演习，天生一个通用的措辞模型，然后在特界说务 上进行微调，在数据利用、任务泛化、模型性能方面都有显著提升。
OpenAI 发布 的 GPT-3 模型，参数量达到 1750 亿，其智能呈现能力标志着人工智能模型的自然 措辞处理能力进入了下一个阶段。
最新发布的 GPT-4.0 版本，参数规模达到了万亿 以上，由纯挚的措辞模型进一步发展为可以处理来自不同模态（图像、语音、文 本等）信息的多模态大模型。
本章将按韶光顺序先容措辞模型的各发展阶段，以及各阶段具有代表性的技能原 理。

1.2. 自回归措辞模型

1.2.1. 循环神经网络-RNN

1.2.1.1. 循环神经网络

循环神经网络（RNN）于 2010 年被首次运用于措辞模型的演习，其基本构造即为 基本的隐变量自回归模型。
RNN 模型在每一个韶光步都进行隐变量打算，并基于 打算得到的隐变量对本韶光步的输出进行预测。
对付每一个韶光步，RNN 的隐变 量与上一个韶光步利用相同的定义，结合当前韶光步的输入信息循环地皮算新的 隐变量。
于是基于循环打算的隐状态神经网络被命名为循环神经网络。

1.2.2. 是非期影象网络-LSTM 与门控循环单元-GRU

为理解决循环神经网络模型存在的长期依赖问题，研究职员先后提出了是非期记 忆网络（long short-term memory，LSTM）以及其简化的变体——门控循环单元 （gated recurrent unit，GRU）。
相较于前文所先容的循环神经网络，LSTM 与 GRU 对付长序列问题的处理效果更佳，并在在自然措辞处理、语音识别、韶光序列预 测等领域得到了更加广泛地运用。

1.2.2.1. 是非期影象网络-LSTM

LSTM 是一种改进的 RNN，旨在有效地处理和捕捉长期依赖关系的序列数据，它 的核心思想是引入一种分外的内部状态机制，以更好地处理长序列，并避免梯度 消逝问题。
LSTM 引入了影象单元（memory cell）来管理隐状态中记录的信息，通 过几个门构造对其进行掌握：输出门（output gate）用来从单元中输出条款；输入 门（input gate）用于掌握数据的读入；遗忘门（forget gate）用于重置影象单元的 内容。
这三种门构造相合营的机制可以决定什么时候该对隐状态输入的信息作影象，什么时候忽略。
同为隐蔽层的输出，影象单元仅用于网络内部信息的掩护， 隐状态则会通报到输出层用于预测当前韶光步的输出结果。

1.2.2.2. 门控循环单元-GRU

比较于 LSTM，门控循环单元（GRU）是一个轻微简化的变体。
常日，GRU 能够 供应与 LSTM 同等的效果，且收敛的速率更快。

1.2.3. 编码器-解码器架构

将输入序列转换成输出序列的序列转换模型（sequence transduction）在各种当代人 工智能运用中发挥着至关主要的浸染。
机器翻译是序列转换模型的一个核心问题， 也是措辞模型最常用和最成功的基准测试。
机器翻译的数据集是由源措辞和目标 措辞的文本序列对组成，其输入和输出都是长度可变的序列。
编码器-解码器 （encoder-decoder）架构正是为了处理这种类型的输入和输出而设计的，是形成不 同序列转换模型的根本，对措辞模型的后续发展也起到了主要的浸染。

编码器-解码器架构紧张由编码器（encoder）和解码器（decoder）两个组件组成。
编码器将长度可变的输入序列转换为具有固定长度的中间状态（常日被称为高下 文向量或编码向量）。
输入序列中的每个元素经由编码器的神经网络层进行处理， 逐步地讲信息通报到隐状态中，终极构建出高下文向量。
编码器的隐蔽状态则被 用作解码器的初始状态。
解码器则接管编码器天生的高下文向量以及目标序列的起始标记，按韶光步逐步 地天生目标序列的元素，直至天生完全的目标序列。
常日，由解码器天生确当前 韶光步的输出元素，会作为其下一个韶光步的输入通报到解码器中，以连续天生 序列的下一个元素。
编码器-解码器架构的紧张运用包括机器翻译、文本择要、对话天生和语音识别等。
它的核心思想是将不定长的输入序列映射到固定长度的高下文向量，再从高下文 向量天生不定长的输出序列，这使得它适用于多种序列到序列的任务。
这一架构 的发展对付自动化天生任务和自然措辞理解任务的进展产生了深远的影响。

1.3. 把稳力机制

虽然利用 LSTM、GRU 等构造的措辞模型能通过隐蔽的影象单元捕捉序列的时序 信息，但依然存在一些问题。
将输入序列的所有信息都压缩到一个固定长度的隐 状态中，会造成信息的缺失落，当输入句子长度很永劫，模型的性能急剧低落。
另 外，在解码器天生目标序列的过程中，编码器对其初始化的信息会随着天生过程 逐渐被“遗忘”。
有研究者为理解决此类问题提出了增加高下文信息的 RNN序列模 型，在解码器的每一个韶光步都将编码器压缩的全体句子信息与解码当前的 token 一起输入解码器中，防止源真个高下文信息随着目标序列的增长而衰减。
但是这 样依旧存在一个问题：序列到序列模型解码端不同韶光步的 token 该当得到同样的 高下文信息吗？答案显然是不。
以措辞翻译为例：目标语句翻译过程中，当前词 元与源语句不同位置上的词元的干系程度明显不同，而由编码器压缩得到的高下 文信息无法供应这些信息。
在这样的背景下，把稳力机制就应运而生了。

2015 年 Dzmitry Bahdanau 等人在论文《Neural machine translation by jointly learning to align and translate》中提出的把稳力机制（Attention Mechanism），用于对输入信 息的不同部分授予不同的权重，使措辞模型可以学习到词和词之间更深层次的依 赖关系，从而更好地理解和天生语句。
引入把稳力机制后，措辞模型的性能得到了大幅度的提升。
2017 年 Vaswani 等人发 表 了 《Attention is all you need》， 提 出 了 基 于 自 注 意 力 机 制 （self-attention mechanism）的，肃清了传统 RNN 循环构造的 Transformer 构造。
Transformer 构造 提高了模型的并行性，带来了显著的性能提升。
同时，随着机器学习算力的发展， Transformer 在大规模文本语料库上进行预演习并对特定下贱任务进行微调，引领 了后续的 BERT、GPT 等预演习模型和大措辞模型的发展。
总之，Transformer 模型 的涌现标志着自然措辞处理领域的一次革命，它的成功还扩展到了打算机视觉等 其他领域，为多模态任务供应了新的可能性。

1.3.1. 把稳力机制

对付人类来说，从各种感官系统吸收到的信息远远超过了大脑能够完备处理的水 平。
“把稳力”代表了大脑当前处理信息的方向性，将更多的韶光和资源用于处理 某一部分信息。
自然环境中的物体给人的各种感官带来的信息都不相同。
在非自 主的情形下，人们常日将把稳力集中在具有突出性的感官信息中，比如某些具有 鲜艳突出颜色、发出刺耳噪音或产生奇特的喷鼻香/臭味的物体。
这些对人造成非自主性的把稳力提示的物品，对人来说不一定有代价。
为了完成 当前的任务哀求，人们会通过自主性的意志提示，将把稳力集中于与任务干系的 目标上，掌握大脑处理信息的资源投入以更好地完成任务。
人工智能领域中的注 意力机制从实质上来讲，与人类的自主性把稳力机制相似，核心是通过基于任务 的提示，将把稳力集中于小部分主要信息，忽略大部分滋扰信息。
深度学习中的把稳力机制实质上是一个查询的过程，紧张包括三个观点：查询 （query）、键（key）和值（value），key和 value是成对存在的。
如果用文献检索作 为例子阐明它们的浸染，那么所有 key-value 对的凑集就相称于全体资料库，key 相 当于每份资料的关键字和择要，value 相称于每份资料的详细内容，query 则相称于 查询者对目标资料的描述。
在检索时，将 query 与所有 key 进行匹配和比较，找到 干系性高的 key 对应的 value 作为查询的结果。
实际上，把稳力机制中 query、key 和 value的观点更加抽象，终极的输出结果因此 key与 query的依赖关系为权重的， 个 key 所对应的 value 的加权和。

1.3.2. Transformer 架构

1.3.2.1. 自把稳力机制

把稳力机制用于将一个元素（query）与其他元素（key-value）进行匹配，以天生 一个加权的汇总信息。
以机器翻译问题为例，引入把稳力机制可以将解码器每一 个韶光步的输出作为 query，与编码器的每一个韶光步的隐状态进行匹配，得到一 个以与 query 的干系性为权重的加权隐状态作为高下文信息，作为编码器的补充输 入进行下一个韶光步的输出预测，提高翻译任务的准确度。
这意味着解码器须要 在每一个韶光步都对输入序列的所有位置进行全局的权重打算，这在长的输入序 列上会产生较高的打算繁芜度，导致模型演习和推理的效率低落。
因此，常日会 采取固定窗口等限定方法来掌握每个位置与其他位置的干系性，这就导致了与传 统措辞模型类似的长间隔依赖问题，模型很难准确捕捉到远间隔位置之间的依赖 关系。

自把稳力机制（self-attention mechanism）将输入序列中的每个元素视为 query、key 和 value，打算输入序列中的每个元素与其他元素的干系性，可以有效地捕捉序列 内部门歧元素之间的依赖关系和干系性。
在打算把稳力权重时，每个位置的把稳力都是相互独立的，这使得自把稳力机制能够充分利用当代硬件（如 GPU 或 TPU） 的并行打算能力。
这种并行打算的上风在处理长序列时尤为主要，由于它极大地 提高了打算效率，使得模型能够更快速地进行演习和推理。

1.3.2.2. Transformer 的整体架构

2017 年 Vaswani 等人揭橥了《Attention is all you need》，提出了基于自把稳力机制 （self-attention mechanism）的，肃清了传统 RNN 循环构造的 Transformer 构造，极 大程度地提高了模型打算的并行性，带来了非常显著的性能提升。
下面会对 Transformer 模型构造进行简要的先容。

1.3.2.3. 多头把稳力机制

除了前面先容的自把稳力机制，Vaswani 等人还提出了多头把稳力（multi-head attention）机制并将其运用在 Transformer 块中。
多头把稳力机制旨在让模型能够通 过对相同的 query、key 和 value，基于相同的把稳力机制学习到不同的行为，并根 据不同行为的组合捕捉序列内各种范围的依赖关系。
详细的实现方法是，通过对 输入数据进行独立学习，得到 query、key 和 value 的多组线性投影（linear projections），再将每一组投影后的 query、key 和 value 送入各自独立的把稳力层中。
末了将所有把稳力层的输出连接后，进行一次总体的线性投影，产生终极的输出 结果。
每一组的投影变换和把稳力层都是相互独立和并行的，这样的每一个把稳 力层都被称作一个头（head），因此这种方法被称作多头把稳力机制。

1.3.2.4. 残差连接

残差连接（Residual Connection）是构建深度神经网络的主要工具，对深度神经网 络的演习和性能具有诸多方面的好处，其观点最初来自何恺明等人提出的残差网络（ResNet）。
ResNet 在 2015 年的 ImageNet 大规模机器视觉识别寻衅赛夺冠，并 深刻地影响了后来的深度网络的设计。

这两者看似差别不大，而在实践中，残差映射拥有许多上风。
在深度神经网络中， 当梯度反向传播时，它须要经由多个层次的权重矩阵。
这些权重矩阵常日包含非 线性激活函数，如ReLU，sigmoid等。
这些激活函数可能导致梯度消逝，使得梯度 减小到靠近零，从而阻碍了信息的通报。
残差连接通过直接将输入信息与输出信 息相加，将原始输入作为跳跃连接通报给后续层次，从而绕过了大部分的权重矩 阵和激活函数。
这种直接通报保持了梯度的相对大小，减少了梯度消逝的风险。
残差连接降落了梯度消逝问题的影响，同时残差映射的拟合比较于直接映射更容 易优化，演习难度更低，这就代表着能够设计层次更深、更繁芜的网络，进而提 高模型的性能。
残差连接能够使深度神经网络模型具有一定程度的可规复性。
纵然一个残差块中 的权重没有成功学到有用的特色，残差连接仍旧可以通报原始输入信息，由于它 们直接相加。
这种规复性使得模型更具容错性，纵然某些部分的网络没有学到有 效的表示，仍旧可以在后续层次中改动缺点。
与传统 NLP“宽而浅”的模型构造不同，Transformer 是基于 block 的堆叠构造，属 于“窄而深”的网络构造，可以充分利用残差连接来达到优化网络的目的。

1.3.2.5. 词嵌入和位置编码

NLP 技能中的词嵌入用来将文本序列的基本单元“词”映射为机器能够理解的 “词向量”。
最大略的词向量表示方法是独热向量（one-hot vector）。
假捏词书中不同词的数量 （词典大小）为 N，每个词对应一个从 0 到 N-1 的不同整数（索引）。
词之间的相似度。

1.3.2.6. 基于位置的前馈神经网络

除了把稳力层之外，Transformer 的编码器和解码器中的每个 block 都包含一个全连 接前馈网络层，被命名为称为基于位置的前馈神经网络（position-wise feed-forward network）。
这个基于位置的前馈网络的关键在于，在处理序列数据时，它为每个位 置的元素分别运用相同的变换，而不是将所有位置的元素视为相同。
这意味着它能够捕获不同位置的不同特色和局部信息。
序列元素的位置信息通过上一小节中 先容的位置编码来引入。
从网络构造上看，基于位置的前馈神经网络便是一个全 连接网络，每个 FFN 层中包括两次线性变换，两次变换之间有一个非线性函数 ReLU 进行激活。
虽然线性变换在不同位置上是相同的，但它们在每一层之间利用 不同的参数。

1.4. 预演习措辞模型

1.4.1. 预演习词嵌入模型

上一节大略先容过词嵌入的观点，大略概括便是利用一个词嵌入矩阵，将词典中 所有词元的独热向量表示映射为固定维度且能打算不同词元相似性的向量表示， 其重点在于如何得到一个有效的投影矩阵。
针对一个词典演习一个有效的词嵌入 矩阵须要不小的算力和韶光本钱。
因此没有必要对付每一个新模型都重新对词嵌 入模块进行演习，只须要预先演习一个有效的词嵌入矩阵（word embedding），直 接应用在新模型中就可以达到不错的效果，这便是最初的预演习模型。
比如 word2vec 模型和 GloVe（Global Vectors，全局向量）模型，都是预演习词嵌入模型。
将演习好的 word embedding 运用到下贱任务的过程，相称于利用该词嵌入矩阵对 被演习的网络的第一层进行权重初始化。
后续演习模型紧张有两种办法，差异在 于是否锁定 embedding 层的权重参数。
采取冻结参数的方法（Frozen）演习时，顾 名思义将 embedding 层的参数锁定，演习过程中映射矩阵不发生更新。
采取微调法 （Fine-Tuning）演习时，不锁定 embedding 层的参数，演习时根据目标任务的数据 集更新权重。

Frozen 演习相称于将预演习的 embedding 层当成一个字典，用于直接地将独热向量 转化为带有语义关系的词向量。
这与一些词库的浸染是类似的，差异在于词库直 接存储词元文本到词向量的映射关系，Frozen 的 embedding 则更有利于批量数据的 并行打算。
Fine-Tuning 演习则相称于供应了一组相称不错的权重初始化参数值， 能够有效地降落模型演习的本钱，对付下贱任务的模型效果也有一定的帮助。

1.4.2. 高下文有关的预演习词嵌入模型

word2vec和 GloVe都大略地给同一个词分配一个预演习词向量，而不考虑词的高下 文。
然而，自然措辞中存在相称多的一次多义征象，在不同的高下文语境中，词 的含义可能大不相同。
因此，高下文无关的词向量表示具有明显的局限性。

1.4.3. 通用预演习模型：GPT

只管 ELMo显著改进了各种自然措辞处理任务的办理方案，但每个办理方案仍旧依 赖于一个特定于任务的架构。
然而，为每一个自然措辞处理任务设计一个特定的 架构实际上并不是一件随意马虎的事。
GPT（Generative Pre Training，天生式预演习） 模型为高下文有关的词表示设计了任务无关的通用模型。
GPT 建立在 Transformer 解码器的根本上，预演习了一个用于表示文本序列的自回归措辞模型。
当将 GPT 运用于下贱任务时，措辞模型的输出将被送到一个附加的线性输出层，以预测任 务的标签。
与 ELMo冻结预演习模型的参数不同，GPT不才游任务的监督学习过程 中对预演习 Transformer 解码器中的所有参数进行微调。

GPT 模型与 ELMo 模型的事情过程类似，也分成两个阶段：1.利用措辞模型进行无 监督预演习；2.通过有监督的微调（Fine-tuning）办理下贱任务。
GPT 利用 Transformer 模型的解码 器块作为特色抽取器，其特点在与遮蔽的自把稳力层具有的自回归特性，只提取 高下文中的“上文”信息作为特色。
对付不同的下贱任务如分类、包涵判断、相 似判断、多选等。
之后统一进入 Transformer 块进行特色提取，末了根据任务类型通过线性层设计完成结果输出。
同为预演习，GPT 的 Fine-tuning 模式与 ELMo 的 Feature-based Pre-Training 模式区 别在于：ELMo 模型是一种词嵌入模型，它的目的在于天生词的高下文有关表示， 而不实行特定的任务。
运用于下贱任务时，须要设计一个处理该任务的模型来使 用 ELMo天生的词向量。
演习下贱任务时，锁定 ELMo的双向 LSTM模型的参数进 行演习。
而 GPT 模型是一种自回归措辞模型，其本身便是一个能够处理文本天生 任务的模型。
运用于其他下贱任务时，须要根据任务特点对 GPT 模型的构造进行 改造（较小的改动），利用预演习的 GPT 模型进行参数初始化后，对全体模型进行 不锁参的微调演习，以适应详细的任务特点。

1.4.4. 预演习模型集大成者：BERT

ELMo 与 GPT 两者各有上风。
ELMo 模型的上风在于其双向架构能够同时提取到目 标词元高下文两个方向上的特色，而 GPT 只能提取到顺序的特色；GPT 模型的优 势在于其通用性，对付不同的下贱任务只须要对原来的模型进行相称小的构造调度，而 ELMo 则须要设计处理下贱任务的模型构造。
2018 年 Google 的 Devlin 等人 提出的 BERT（Bidirectional Encoder Representations from Transformers）则凑集了两 种方法之长，得到了比前两者更精良的表现。

1.5. 大措辞模型：智能呈现

在 2018 年推出了 GPT 模型之后，OpenAI 又沿着原来的技能路线于 2019、2020 年 推出了后两代的 GPT 模型。
GPT-2 比较于 GPT，在构造上基本没有变革，仍旧使 用 Transformer 解码器来深入挖掘措辞模型的潜力。
为了挖掘措辞模型的通用性， GPT-2 在演习模式上放弃了下贱任务的微调，而是采取纯无监督学习进行预演习。
在完成下贱任务时，不再根据人物特点对输入的数据进行改造，而是让模型自己 识别任务的目标。
GPT-2 试图实现 zero-shot 的效果，这是相称具有新意度的目标， 但实现起来也是相称困难。
GPT-2 将参数量增大到了 15 亿仍没有达到性能提升的 瓶颈，这勉励了 OpenAI 团队连续做大 GPT 模型的规模。
到了 GPT-3 模型问世，参 数量达到 1750 亿，终于展现出了相称炸裂的效果，其智能呈现能力标志着人工智 能模型的自然措辞处理能力进入了下一个阶段。

1.5.1. 不微调的预演习措辞模型

对付 OpenAI 团队来说，GPT 模型在公布的短短 4 个月韶光就被 Google 的团队在更 大的演习集上演习出来的更大规模的 BERT 模型击败。
这让他们意识到通过增大规 模挖掘措辞模型的性能仍有很大的空间，因此他们堆积了更多的 Transformer 块， 演习了一个拥有 15 亿参数的模型。
然而，仅仅增加模型的规模不敷以作为一项有 新意的研究。
因此，OpenAI 在演习办法上做出了改变，并且对模型提出了更具有 新意的目标——实现一个 zero-shot 的模型。
Zero shot 指措辞模型要达到这样的一个效果：对付一个自然措辞处理任务，仅利用 自然措辞对任务进行描述，不供应任何样例，更不针对该类任务进行任何监督训 练或微调，让模型自己理解任务的描述并完成任务。
GPT-2 的核心不雅观点也表示在其 论文的标题中“Language Models are Unsupervised Multitask Learners”，一个精良的 措辞模型是不须要经由监督学习就可以完成多种任务的。
这样的措辞模型已经非 常靠近于人们不雅观念中的强人工智能了，可惜这个目标对付当时的技能来说过于超 前，以 GPT-2 模型的规模还远未达到能够完成 zero-shot 的程度。

虽然 GPT-2 的性能间隔其提出的目标还有很大的差距，但在 OpenAI 团队的实验中， 随着规模的增大，模型在阅读理解、翻译、问答等 NLP 任务中的表现仍在以一个 靠近对数增长的趋势增加。
这表明通过增大模型规模还能连续提升模型的性能， 模型参数数量级的超过式增长也成了后续几代 GPT 的必备特色。

1.5.2. 提示学习-Prompt

GPT-2 在探索模型 zero-shot 能力的时候，采取了在输入上添加任务干系提示词的方 式。
回过分看，GPT-2 此时的做法欠妥心推开了提示学习的大门，启示了自然措辞 处理继“传统机器学习模型范式”、“神经网络范式”、“‘预演习+微调’范式”之 后的“第四范式”——“‘预演习+提示+预测’范式”的发展。
2020 年，OpenAI 在论文《Language Models are Few-Shot Learners》，也便是 GPT-3 的论文带领了提示学习（prompt learning）的发展——提示学习的核心思想是通过 布局一种“提示”（prompt）来勾引预演习模型在特界说务上给出精确的输出。
这 与直接供应标准问题格式的演习数据不同，提示学习试图以更自然的办法利用模 型预演习时学到的知识和技能。

提示学习的关键在于找到有效的提示，这些提示能够激活预演习模型中的知识， 使其能够更好地实行下贱任务。
例如，在一个情绪剖析任务中，而不是直接问模 型一个句子的情绪，我们可能会添加一个提示：“这段话的态度是[MASK]的。
”， 然后让模型预测添补在[MASK]处的词，比如“积极”或“悲观”。
与其说提示学习是一种演习方法，不如说是在人工智能的理解能力还不完善的阶 段中探索如何与模型沟通的过程，实质是给任务找到一个让模型能够更准确理解 的表达办法。
最初的提示学习采取人工提示（Manual Prompts），须要研究职员根 据任务和模型知识布局有效的提示。
这种方法的优点是可以利用人类的直觉和专 业知识来勾引模型，但缺陷是耗时且可能无法找到最优提示。
随着研究的进展， 涌现了自动天生提示（Automatic Prompts）的方法。
这些方法利用搜索算法、强化 学习或者梯度低落等技能来自动探求或优化提示，以提高模型在特界说务上的表 现。

1.5.3. 大措辞模型的智能呈现——GPT-3.5 和 ChatGPT

人工智能领域对付呈现能力（Emergent Abilities）的定义为，如果模型的某种能力 仅在大模型上表现，而不能在小模型中表现出来，即称为“呈现能力”。
换言之， 呈现能力是模型规模超过某一阈值时才能拥有的特性，也便是人们常说的“量变 产生质变”。
这种征象常日涌如今如 GPT-3或更大规模的措辞模型中，当模型的参数数量大幅增 加，使得模型能够学习到更加繁芜和抽象的模式。
在模型规模变大的过程中，某 些能力的提升并不是线性的。
即在特定的规模阈值之前，模型的能力提升相对平 缓；一旦超过这个阈值，能力会溘然大幅提升。
呈现每每意味着质的变革，模型 不仅在量上做了扩展，还可能得到了原来没有的新功能，例如更好的推理能力、 更准确的翻译能力，乃至是创造力和诙谐感的展现。
呈现能力的涌现常日是不可 预测的，研究者无法准确预知哪种能力会在何时何种规模的模型中涌现。

比如上一小节提到的 GPT-3 的高下文学习能力，当模型的参 数规模增大到 1750 亿时，模型溘然展现出了该能力。
高下文学习的能力来源及为 什么高下文学习可以泛化，仍旧难以溯源。
实际上，初代的 GPT-3的功能并没有后 面的 ChatGPT 展现出来的这么强，但后来的实验证明，初代 GPT-3 有着非常强的 潜力。
这些潜力后来被代码演习、指令微调（instruction tuning）和基于人类反馈的强化学习（reinforcement learning with human feedback, RLHF）解锁，终极体的 ChatGPT 展示出极为强大的呈现能力。

1.5.3.1. 代码演习和指令微调

在GPT-3进化到GPT-3.5的过程中，OpenAI紧张在两个方向上的探索取得告终果： 在代码上演习（Training on code）和指令微调（Instruction Tuning）。
Codex 是 OpenAI 为了扩展 GPT-3 的代码能力演习的一个大措辞模型，最初的目标 功能为代码补全。
最初的 Codex 模型利用了 GitHub 上的大量开源代码作为数据集 对 120 亿参数的小规模 GPT-3 进行了微调演习，但终极得到的模型效果并不算太 好，这个模型后面演化成了 OpenAI API 中的“code-cushman-001”模型。
在另一个方向上，OpenAI 为了让大措辞模型能够更好地理解人类发布的任务，对 GPT-3 进行了指令微调（Instruction Tuning）演习。
传统的措辞模型常日是通过大 量文本数据进行预演习，从而学习措辞的根本构造和知识。
然而，它们不总是能 够理解和实行繁芜的用户指令。
指令微调通过对模型进行额外的演习，使其更好 地遵照用户的指令来完成特界说务。
OpenAI 雇佣一批标注职员对演习集中的数据 标注了指令，标注后的数据集中的每一个样本包括“输入”、“指令”、“标签”三 个部分。
用这个演习集对GPT-3模型进行有监督微调得到了初始版本的InstructGPT 模型，在 OpenAI API 中的代号为“Instruct-davinvi-beta”和“text-davinci-001”两个 模型接口。

从 2020 年 7 月到 2022 年 4 月，OpenAI 投入了大量的资源从代码演习和指令微调两 个方向来增强 GPT-3的性能，直到完成了代号为“code-davinci-002”的 Codex模型版本。
虽然此版本模型被用做 Codex产品，但其针对自然措辞的性能已经达到了下 一个水平，从这个版本开始，GPT 产品进入了 GPT-3.5 阶段。
“code-davinci-002”和“text-davinci-002”是 GPT-3.5 模型的初始版本，个中 “text-davinci-002”是由“code-davinci-002”经由有监督指令微调得到的（更符合 人类的表达习气），这两个模型分别用于代码和文本。
除了代码天生与理解能力以 外，它们比初代 GPT-3 具有更多的“呈现”能力：

相应人类指令： GPT-3 模型的输出紧张是演习集中常见的句子。
GPT-3.5 模型会针对指令 或提示词天生更合理的答案（而不是干系但无用的句子）。
这种能力是指令微 调的直接产物。

泛化到没有见过的任务： 当用于调度模型的指令数量超过一定的规模时，模型就可以在从没见过 的新指令上也能天生有效的回答。
相称于解锁了模型在 zero-shot 场景上的能 力，这种泛化能力指令的规模达到一定程度的时候自动涌现的，与模型规模 导致的“呈现”有类似的特色。

利用思维链（Chain-of-Thought）进行繁芜推理： 思维链推理能力相称主要，被学术界认为是大措辞模型“呈现”能力的 代表。
而利用思维链进行繁芜推理的能力并非来自指令微调，而是很可能来 清闲大量代码数据集上的演习。
这也有一定的阐明空间：面向过程的编程类 似于人类逐步办理问题，面向工具的编程类似于人类将问题分解。

思维链的基本观点是模拟人类办理问题时的思维过程。
在处理繁芜问题时，人们 常日会一步步推导出结果。
这些步骤包括构建问题的中间表征、进行逻辑推理、 打算或回顾知识点等。
这个过程为模型供应了一个更加清晰的路径来办理问题， 并有助于它更好地理解问题的构造和所需的办理方案。
在运用思维链的技能时， 模型被演习以天生详细的阐明或描述它是如何一步步达到终极答案的。
例如，当 问到一个数学问题时，模型不仅会给出终极的答案，还会展示出得到这个答案的 详细步骤。
这使得终极的答案更可信，也更随意马虎被用户理解和验证。
思维链作为大模型“呈现”的主要代表，具有以下几个上风：（1）可阐明性：通 过天生一系列推理步骤，思维链增强了模型的可阐明性。
用户可以看到模型是如 何逐步得出答案的，这在教诲或须要阐明的场合尤其有用。
（2）准确性：推理过 程有助于模型集中把稳力于任务的关键部分，可能提高模型在办理繁芜任务上的 准确率。
（3）学习和调试：展示中间步骤也方便开拓者和研究职员理解模型的行 为，从而对模型进行调度和改进。

1.5.3.2. 基于人类反馈的强化学习

“text-davinci-002”版本的 GPT-3.5 模型虽然已经具有非常出众的性能，但要作为 公开拓布的产品还具有诸多隐患，历史上由于模型输出具有争议性的相应导致产 品下架的例子有很多。
通过语料库演习出来的大措辞模型对付当代社会的敏感话 题并没有特殊的认知，OpenAI 在《Training language models to follow instructions with human feedback》文章中提出了基于人类反馈的强化学习（Reinforcement Learning with Human Feedback，RLHF）来应对这个问题。
实际上这是 InstructGPT 相对付 GPT-3 的研究，OpenAI 将其运用到 GPT-3.5 上得到了 ChatGPT。

InstructGPT 中，基于人类反馈的强化学习的演习过程紧张分为三个阶段： （1） 有监督的微调（Supervised Fine-Tuning） 在这一步中，OpenAI 人工网络了 1.3 万条 prompts 用于演习，这些 prompts 一部分是从用户向 GPT-3提问中（GPT-3的 API）筛选出来的，另一部分是 由雇佣的标签员写出来的。
再由标签员将prompts的答案也写出来，作为标 签，放到 GPT-3 模型里做有监督的微调，得到一个微调后的模型（下面简 称为“SFT”）。
（2） 人工对模型输出进行标注，演习强化学习褒奖模型（Reward Model） 利用其余 3.3 万条 prompts 作为 SFT 的输入，得到一批输出（这些 prompts 也包括从 GPT-3的 API筛选以及标签员人工天生）。
再由标签员对 SFT多次 天生的输出进行排序。
利用 prompts 与人 工排序后的答案作为演习集，演习一个褒奖模型。
该褒奖模型的浸染是对 prompts输入 SFT后得到的输出进行打分，这些得分须要符合标签员做出的 排序。

1.5.4. 大模型智能呈现能力的来源

上文提到了关于大措辞模型的“呈现”能力，是模型规模超过一定阈值后才能够 拥有的。
学术界目前还没有对大模型产生“呈现”征象的缘故原由做出阐明和论证， 只有基于测试和比较的剖析结果。
本小结将解答一部分关于“呈现”能力的疑问。
模型须要多大规模才会涌现“呈现”? Yao Fu 等人在文章《How does GPT Obtain its Ability? Tracing Emergent Abilities of Language Models to their Sources》给出了两个数字：620 亿和 1750 亿。
以思维链作 为判断模型涌现“呈现”能力的标准：（1）模型至少须要 620 亿，思维链的效果才 能大于标准的提示词方法。
（2）模型至少须要 1750 亿（GPT3 的规模），思维链的 效果才能大于精调小模型的效果。

代码演习、指令微调、RLHF 等调度对模型做了什么，产生了不同的“呈现”能力? 在文章《How does GPT Obtain its Ability? Tracing Emergent Abilities of Language Models to their Sources》中，作者仔细检讨了 GPT-3.5 系列的能力范围，并追溯了 它们所有突现能力的来源。
初代 GPT-3模型通过预演习得到天生能力、天下知识和 高下文学习能力。
然后通过指令微调的模型分支得到了遵照指令和能泛化到没有 见过的任务的能力。
经由代码演习的分支模型则得到了代码理解的能力，作为代 码演习的副产品，模型同时潜在地得到了繁芜推理的能力。
结合这两个分支， “code-davinci-002”彷佛是具有所有强大能力的最强 GPT-3.5 模型。
接下来通过有 监督的指令微调和 RLHF 通过捐躯模型能力换取与人类对齐，即对齐税。
RLHF 使 模型能够天生更翔实和公道的答案，同时谢绝其知识范围之外的问题。

对付采取不同的演习方法调度 GPT-3模型所引发的这些新的“呈现”能力，到底是 这些方法给模型“注入”了新的能力，还是预演习模型本身就具备了这些能力的 潜力，只是被调度后“解锁”了? 对付锁定模型参数的调度，比如提示学习，这个问题的答案显然是“解锁”。
而对 于不锁参的调度，这实在紧张取决于演习样本的数据量。
举个例子，在 GPT-3 进化到 GPT-3.5 的过程中，采取在代码上演习的办法给模型 “注入”了代码天生能力和思维链繁芜推理能力，这两个能力实际上是通过代码 演习注入的。
由于其代码演习集的规模达到了与文本语料库附近的量级，后几代 模型的演习集也都包括相称一部分比例的代码。
因此，代码演习可以视为一种偏 逻辑的自然措辞对预演习语料库的补充。

而在 GPT-3.5 调教到 ChatGPT 的过程中利用的基于人类反馈的强化学习方法，则应 该别认定为“解锁”了模型本来就具备的能力（多轮对话、安全中立表达等）。
因 为在 InstructGPT 论文中表露的演习数据，prompts 的量级只有 10 万以内，这与预 演习模型本身的演习集规模相差甚远，微调对权重的改变并不能起到“注入”知 识的效果。
此外，经由 RLHF 调教的 ChatGPT 实际上在“解锁”了新的能力的同 时，也“隐蔽”了一部分原有能力的表现。
这实际上也表明，小数据规模的微调 演习对付大措辞模型来说，只能改变其原有能力的侧重点。
如果想要连续发展大模型的“呈现”能力，该当怎么做？ 在通过微调无法“解锁”模型的更多能力时（或者“解锁”了新能力但无法兼顾 原有能力的性能），只能够更大的语料库演习更深的预演习模型。

在当今的人工智能领域，大措辞模型的兴起无疑是个中的一颗残酷明珠。
它们不 仅重新定义了机器理解和天生措辞的能力，而且其运用范围的广泛性正在触及社 会的每一个角落。
本章旨在磋商大措辞模型的运用，它们如何成功适配于特定领 域的需求，以及多模态大模型在未来的运用前景和潜在的发展方向。
首先，我们将磋商大措辞模型的实际运用。
这些模型以其卓越的文本天生和理解 能力，已经在文学创作、编程、法律咨询等多个领域展现出了其代价。
通过自然 措辞处理技能，它们能够从大规模数据中提炼信息，为决策供应支持，乃至在某 些情形下，替代专业人士进行事情。

其次，文章将剖析大措辞模型如何根据不同领域的特定需求进行调度和适配。
在 医疗、金融、教诲等领域，模型不仅要理解专业术语，还要适应特定的运用处景 和数据处理需求。
我们会看到，通过微调和定制化演习，这些模型如何更精确地 做事于特定的行业。
末了，我们将谈论多模态大模型的运用与展望。
随着技能的发展，单一模态的输 入已无法知足日益繁芜的需求。
多模态模型通过整合文本、图像、声音等多种信 息来源，为我们供应了一个更为丰富和综合的天下理解。
从增强现实到自动驾驶 汽车，多模态模型正开辟着人工智能的新天地。
通过本章，我们将理解大措辞模型和多模态模型在现实天下中的运用，探索它们 在各个领域的适配过程，以及它们将如何连续推动技能的边界，影响未来的发展 趋势。

2.1. 大措辞模型的运用

在当今信息化社会的发达发展中，大型措辞模型的崛起标志着人工智能领域的一 次重大打破。
它们不仅仅是大略的技能产品，更是人类措辞理解和创造能力的一 个显著跃进。
大型措辞模型如GPT和BERT等，凭借其强大的自然措辞处理能力， 正在重新定义多个行业的事情办法，为人类活动开辟了新的道路。
这些模型通过剖析和学习互联网上海量级的文本数据，已经节制了天生、总结、 提取、聚类、分类、检索和改写等多种繁芜的措辞处理功能。
在这个根本上，大 型措辞模型已经被运用于各种场景，如创作高质量文章、供应法律和医疗文档的 咨询、自动化客户做事回答，乃至赞助编程和数据剖析。
它们的涌现，使得从繁 复的文本中提取信息、天生新内容以及对现有内容进行再加工变得前所未有地高 效和精准。

对付企业来说，措辞模型正变得不可或缺，它们能够处理大量的客户数据，供应 个性化的做事，同时优化操作流程，减少本钱。
在教诲领域，这些模型不仅为学 生供应定制化学习内容，而且还能评估学习成果，乃至帮助西席设计课程。
在媒 体和娱乐行业，内容的创作和改写变得更加多元和富有创意，使得个性化的内容 推举成为可能。
本节将磋商大型措辞模型的这些核心功能以及它们的实际运用案例，从而揭示它 们如何影响并改进我们的事情和生活。
随着技能的进步和运用的深入，我们的工 作效率能够在人工智能的推动下不断提高。
本节中的各种功能仍有无数的运用有 待发掘，本文旨在供应一些灵感。

大措辞模型（Large Language Modal ,LLM）的核心能力大致分为：天生（Generate）、 总结（Summarize）、聚类（Cluster）、提取（Extract）、分类（Classify）、检索 （Search）与改写（Rewrite）七部分。
本节将先容这些能力并列举一些运用，同时 对部分能力在 ChatGPT 上考试测验并附带了实际相应结果。

1、天生（Generate）

天生是 LLM最核心的能力。
当评论辩论到 LLM时，首先可能想到的是其能够天生原始 且连贯的文本内容。
其能力的建立来源于对大量的文本进行演习，并捕捉了措辞 的内在联系与人类的利用模式。
充分利用模型的天生能力可以完成对话式（chat） &天生式（completion）运用。
对付对话式运用，范例运用为谈天机器人，用户输 入问题，LLM 对问题进行相应回答。
对付天生式运用，范例运用为文章续写、摘 要天生。
比如，我们在写一段营销文案时，我们写一部分高下文，LLM 可以在此 根本上对文案进行续写，直至完玉成部段落或整片文章。
大型措辞模型在文本生 成方面的能力是它们最为人称道的特性之一。
它们不仅可以天生高质量的自然语 言文本，而且还能在一定程度上仿照特定风格或作者的写作办法。
此外，它们能 够天生构造化的输出，比如编写可实行的编程代码或者格式化良好的报告。
运用处景：在内容创作领域，比如自动撰写***稿、博客文章或社交媒体帖子， 大型措辞模型可以大幅度提高效率。
对付程序员来说，这些模型可以赞助编写代 码，供应代码补全或者整段代码天生。
在创意写作方面，它们可以帮助作家战胜 创作障碍，供应灵感，乃至天生完全的诗歌或小说草稿。
在没有供应更多信息的情形下，让 ChatGPT 天生一篇关于景象变革影响的文章， 模型仅用了十几秒就完成了任务。

2、总结（Summarize）

总结是 LLM的主要能力。
通过 Prompt Engineering，LLM可对用户输入的文本提炼 总结。
在事情中我们每天会处理大量会议、报告、文章、邮件等文本内容，LLM 总结能力有助于快速获取关键信息，提升事情效率。
利用其总结提炼能力可以产 生许多有代价运用。
比如，每次参加线上或线下会议，会后需形成会议记录，并 总结会议主要不雅观点与实行操持。
LLM 利用完备的语音记录可完成会议内容与主要 不雅观点的总结。
大型措辞模型的文本总结能力许可它们处理大量信息，并从中提取 关键点。
这些模型通过理解文本的整体内容和高下文关系，可以天生简洁的择要， 这对付那些须要快速获取信息精华的人非常有用。
运用处景：在企业环境中，模型可以用来天生会议记录的择要，或者将长篇报告 压缩成高层管理者的简报。
在学术研究中，自动天生文献综述或研究报告择要可 以节省研究职员大量的韶光。
***机构可以利用这些模型来供应***故事的快速 择要，供劳碌的读者阅读。
供应一篇研究报告，让 ChatGPT 总结内容给出择要，用时不超过一分钟。

3、提取（Extract）

文本提取是通过 LLM提取文本中的关键信息。
比如命名实体提取，利用 LLM提取 文本中的韶光、地点、人物等信息，旨在将文本关键信息进行构造化表示。
除此 之外，还可用于提取摘录条约、法律条款中的关键信息。
措辞模型在信息提取方 面的运用基于其能够识别和解析文本中的特天命据点。
它们可以精确地从无构造 数据中识别出人名、地点、日期等实体，并且能够从繁芜的文本中提取关键的事 实和数字。
运用处景：在法律行业，这些模型可以从繁芜的条约文档中提取关键条款和条件。
在医疗领域，模型可以从病人的临床条记中提取关键的康健信息，赞助年夜夫和护 士快速获取病人的关键数据。
对付商业情报，模型能够从各种报告和***文章中 提取市场数据和竞争情报。
供应一家公司的招股解释书，让 ChatGPT 回答文档中的干系信息，用时两分钟以 内。
从结果上来看，模型能够准确回答一些字段匹配度高的问题，但对付 PDF 文 件中的表格信息，读取的完全度并不高（只列出了四家客户）。
同时，对付任务要 求中“完整年度”的理解并禁绝确。
将问题改为“该公司最近一个完整年度，产 品发卖的前三大客户是哪些公司？”，乃至无法定位到干系表格。
解释 ChatGPT 对 于一个大文档（大于 5MB）的信息读取，能够做到“提取”信息，但并不能足够 精确地“理解”所有信息。

4、分类（Classify）

分类旨在通过 LLM 对文本种别划分。
大模型对文本内容分类的上风在于强语义理 解能力与小样本学习能力。
也便是说其不须要样本或须要少量样本学习即可具备 强文本分类能力。
而这与通过大量语料演习的垂域模型比较，在开拓本钱与性能 上更具上风。
比如，互联网社交媒体每天产生大量文本数据，商家通过剖析文本 数据评估对付"大众年夜众对付产品的反馈，政府通过剖析平台数据评估公众年夜众对付政策、 事宜的态度。
措辞模型能够将文本归类到预先定义的种别中，这基于对文本内容的深层语义理解。
这些模型可以被演习来识别文本的主题、情绪方向，乃至是作 者的意图。
运用处景：在企业中，模型可以用于自动对客户查询进行分类，以便将其分派给 最得当的做事代表。
在网络安全领域，它们可以分类电子邮件以识别垃圾邮件和 网络钓鱼考试测验。
教诲技能领域可以利用分类功能来评估学生的开放式回答和作文。

5、聚类（Cluster）

通过对大量文本数据进行语义剖析，大型措辞模型可以将主题或内容相似的文本 分组在一起。
这种聚类能力使得它们可以识别模式和关联，乃至在没有明确标签 的情形下也能进行。
运用：在客户做事领域，聚类技能可以帮助企业对顾客反馈进行分类，以便更有 效地相应并办理问题。
在内容管理系统中，它可以帮助自动整理和归档文档。
而 在社交媒体剖析中，聚类可以用来追踪特定话题的趋势或者"大众年夜众感情的变革。
上一个***分类样例中，ChatGPT 按照任务哀求的条件（***感情）将这些***进 行了聚类。

6、检索（Search）

文本检索是根据给定文本在目标文档中检索出相似文本。
最常用的是搜索引擎， 我们希望搜索引擎根据输入返回高度干系的内容或链接。
而传统办法采取关键词 匹配，只有全部或部分关键词在检索文档中命中返回目标文档。
这对付检索质量 是不利的，缘故原由是对付关键词未匹配但语义高度干系的内容没有召回。
在检索应 用中，LLM 的上风在于能够实现语义级别匹配。
大型措辞模型可以理解自然措辞 查询，从而检索和返回干系信息。
它们能够解析查询的语义，搜索大规模的文本 数据集，并找到与查询意图最匹配的结果。
运用：在线搜索引擎可以利用这些模型供应更准确的搜索结果。
企业可以利用这 些工具从内部文档库中检索特定的商业文档。
而图书馆和档案馆可以利用措辞模 型来帮助研究职员和公众年夜众找到特定的历史记录或文档。
检索与前面的提取有一部分类似之处，差异在于被检索数据库的规模，由于数据 规模的限定不在此处展示样例。

7、改写（Rewrite）

文本改写是通过 LLM 对输入文本按照哀求进行润色、纠错。
常见的运用为文本纠 错，例如，在稿件撰写、编辑时可能涌现词语拼写缺点、句子语法缺点，利用通 过 LLM 与提示词工程（Prompt Engineering）自动对文本内容纠错。
此外，还可用 其对文章进行润色处理，使文章在表述上更加清晰流畅。
同时，可以还可 LLM 进 行文本翻译。
改写是指将文本转换为具有不同风格或构造的新版本，同时保持原 有信息的功能。
措辞模型能够理解原文的意图和语义，然后以新的办法重新表达 相同的信息。
运用处景：在出版和媒体行业，模型可以帮助编辑改写文章，以适应不同的读者 群体或出版标准。
教诲领域中，可以将繁芜的学术材料改写为更易理解的措辞， 使之适宜更广泛的受众。
对付多措辞内容制作者，措辞模型可以将一种风格或方 言的文本转换成另一种，以适应不同地区的措辞习气。
在编程开拓中可以利用改 写功能将某种编程措辞编写的程序代码改写成另一种。
我让 ChatGPT 利用鲁迅的风格改写前面的样例中天生的关于景象变革的文章。
模 型用了极短的韶光将文章改写成了文言文，效果非常惊艳。
但我追加了对鲁迅写 作风格提示并哀求 ChatGPT 改写为口语文后，效果并不好。

2.2. 大模型的领域适配

大型通用措辞模型通过利用广泛的数据源进行演习，在许多通用任务上表现出色。
然而，这些模型可能不敷以处理特定行业或专业领域（如医学、法律或工程）中 常用的专业术语和繁芜观点。
通过领域适配，模型可以减少对专业术语的误解或 缺点阐明，避免误导和信息不准确的问题，更准确地理解和天生这些领域特有的 措辞，增强信息的干系性和准确性，从而为用户供应更干系和精确的回答。
此外， 针对特定领域的用户，他们对信息的准确性和深度有更高的哀求，领域适配可以 为他们供应更定制化、更符合其特定需求的做事。
在某些领域，如医疗和金融， 遵守行业规范和法律合规性尤为主要，领域适配在这方面起着关键浸染。

领域适配紧张包括以下几个过程： （1） 数据网络和筛选：这是领域适配的第一步。
网络与特定行业或专业领域 （如医学、法律、金融等）干系的数据。
这些数据可能包括专业文章、行 业报告、技能文档、专业论坛的谈论等。
重点是得到涵盖领域内专业术语 和特定语境的高质量数据。
（2） 数据预处理和洗濯：得到数据后，须要对其进行预处理和洗濯，以确保数 据的质量。
这可能包括去除无关信息、标准化术语、更正缺点等。
这一步 骤对付提高模型学习的效率和准确性至关主要。
（3） 微调或迁移学习：接下来，利用特定领域的数据对现有的大型措辞模型进 行微调。
这个过程涉及在特定领域数据上连续演习模型，以便模型更好地 理解和天生与该领域干系的措辞和信息。

（4） 验证和评估：微调后，须要评估模型在领域特界说务上的性能。
这可能包 括利用专业的测试集来检讨模型对专业术语的理解、回答领域干系问题的 准确性等。
根据评估结果，可能须要进行进一步的调度和优化。
（5） 持续迭代和更新：领域知识和专业术语可能会随韶光发展和变革。
因此， 领域适配是一个持续的过程，须要定期更新模型，以包含最新的领域知识 和数据。
（6） 合规性和伦理考量：在某些领域，尤其是医疗和法律，还须要考虑合规性 和伦理问题，确保模型的输出不违反行业规范和法律规定。

通过上述领域适配的过程，大型通用措辞模型能够更有效地做事于特定行业和专 业领域。
这不仅提高了模型在处理专业术语和繁芜观点时的准确性和效率，还确 保了信息的干系性和深度，知足了特定用户群体的高标准哀求。
同时，考虑到合 规性和伦理的主要性，尤其在敏感领域如医疗和法律，这种适配过程也担保了模 型输出的安全性和合法性。
因此，领域适配不仅是提升模型性能的技能手段，也 是确保其广泛适用性和可靠性的关键步骤。

2.3. 多模态大模型

ChatGPT 于近期开放了其多模态接口，以 GPT-4 为代表的多模态大模型再次成为前 沿热点。
多模态大模型不仅冲破了仅限于单一感官输入的束缚，还授予了机器对 天下的感知能力，一个更靠近人类的多维视角。
通过整合视觉、听觉、文本等多 种信息来源，多模态模型在理解繁芜的环境和人类行为上展现出无与伦比的潜力。
本节将磋商常见的多模态任务，以及多模态模型在各个行业中的运用。
随着技能 的不断进步，多模态模型不仅正在改变我们与机器互换的办法，更是在重塑我们 对天下的理解和互动。
考虑到篇幅与理解难度，本文仅对多模态学习的事理做简 要先容。
多模态学习（Multimodal Machine Learning，MML）是指利用来自多种不同数据源 或类型的信息进行学习的过程。
在这种学习方法中，不同模态的数据被综合考虑， 以更全面地理解和剖析问题。
多模态学习的关键是探索和利用不同模态数据之间 的关系，以提高预测准确性、数据理解和决策质量。

论文《Multimodal Machine Learning: A Survey and Taxonomy》列举了多模态学习中 的五个紧张的研究方向： （1） 表征（Representation）：如何表示和总结多模态数据，以利用不同模态的互 补性和冗余性。
由于多模态数据的异质性，构建这样的表征是具有寻衅性 的，紧张分为两类表征方法：联合表征（Joint Representations）和协同表征 （Coordinated Representation）。
联合表征将多种模态的表示领悟映射到一 个统一的向量空间中；协同表征则是将不同模态映射到不同的向量空间， 但映射后的向量之间知足一定的约束关系。

（2） 翻译/映射（Translation/Mapping）：如何将数据从一种模态转换（映射）到 另一种模态，比如将笔墨描述“猫”转化为图像。
这个过程常常是开放的 或主不雅观的，由于不同模态之间的关系每每是多元的，“猫”的文本对应的图 像有千万个精确答案，自然界中不同品种的猫、动画中的二次元猫（乃至 路由器的光猫）都能够算作精确的转换。

（3） 对齐（Alignment）：对来自同一个实例的不同模态信息的子分支/元素探求 对应关系，包括韶光序列对齐、视觉词汇对齐等。
这须要丈量不同模态之 间的相似性并处理可能的长期依赖性和模糊性。

（4） 领悟（Fusion）：将来自两种或更多模态的信息结合起来进行预测。
不同模 态供应的信息可能具有不同的预测力和噪声拓扑，并可能至少在一种模态 中缺失落数据。
按照领悟的层次，可以将多模态领悟分为 pixel level，feature level 和 decision level 三类，分别对应对原始数据进行领悟、对抽象的特色 进行领悟和对决策结果进行领悟。

（5） 协同学习（Co-learning）：在模态之间、它们的表示和预测模型之间转移知 识。
协同学习探索了从一个数据资源丰富的模态中学到的知识如何帮助训 练在另一个数据资源相对贫瘠的模态上的打算模型。

多模态任务在许多现实领域中有广泛的运用处景，涵盖了从康健医疗到教诲、娱 乐和安全等多个方面。
以下是一些运用的领域和详细场景： （1） 医疗： a) 医学影像剖析：结合医学图像（如 MRI、CT 扫描）和患者的电子康健记 录来提高诊断的准确性和效率。
b) 患者监测：利用传感器网络的数据（如心率、运动数据）监测康健状况。
（2） 交通： a) 自动驾驶汽车：结合来自摄像头、雷达和其他传感器的数据来实现安全 的车辆导航和决策。
b) 交通监控：利用摄像头和声音传感器来监控和管理交通流量。
（3） 娱乐： a) 增强现实（AR）和虚拟现实（VR）：结合视觉、听觉和触觉反馈，为用 户供应沉浸式的体验。
b) 电影和游戏制作：利用多模态数据来创造更逼真和互动的视觉效果。
（4） 安全： a) 监控系统：结合***监控和音频数据来提高安全监控的效能。
b) 敲诈检测：剖析交易记录、用户行为和通信内容，以识别和戒备敲诈活 动。
（5） 做事： a) 智能助手：结合语音、文本和图像处理来供应更加全面和个性化的用户 体验。
b) 用户剖析：通过剖析用户的语音、笔墨和情绪反应来供应更有效的客户 支持。

OpenAI 在最新发布的技能报告《The Dawn of LMMs: Preliminary Explorations with GPT-4V(ision)》中供应了 GPT-4V 这个大型多模态模型的全面剖析，涵盖了其处理 不同输入模式的能力，与人类互动的方法，以及在多种智力和情绪测试中的表现。
GPT-4V 能够处理单文本输入、单一“图像-文本”对输入以及交错的图像-文本输 入等多种模式的输入。
在性能方面，GPT-4V 具有不俗的“视觉-措辞”、韶光和视 频理解、抽象视觉推理以及感情识别能力。
在运用方面，报告列举出了一系列 GPT-4V 的运用处景，包括差异创造、工业、医疗、汽车保险、定制字幕、图像生 成、GUI 导航等等。

GPT 系列模型 GPT-1/2/3/4 仅接管文本输入-文本输出，在第四代已经展现出了非常 强大的文本理解和天生能力。
到 GPT-4V 能够接管“图片-笔墨”稠浊输入-文本输 出，也展现出了强大的图像理解能力，后续“图文交错”的输出能力就成为了很 自然的发展方向。
以及，结合其他诸如***、音频和其他传感器数据模态的输入/ 输出，将连续扩展大措辞模型的能力。
向更远处展望，人类的感官除了视觉、听觉，还包括嗅觉、触觉、味觉等等。
因 此，人类能够感知的模态除了文本、图像、声音，还包括气味、触感、味觉感想熏染 等。
当多模态大模型发展到能够涵盖人类能够感知的所有模态，从而仿照和理解 人类的全面感知体验时，我们可能就间隔实现真正高档级的人工智能仅一步之遥。
这种全方位的感知能力将极大地推动人工智能在理解繁芜天下、情绪智能和更自 然人机交互等方面的进步。

在过去的几十年里，量化投资作为金融领域的一大创新，不仅改变了市场的操作 办法，也重新定义了投资决策过程。
随着人工智能和大数据技能的迅猛发展，尤 其是大措辞模型的涌现，这一领域是否能够迎来新的变革？这些模型不仅能够处 理和剖析传统的数值数据，还能深入挖掘***宣布、社交媒体帖子、公司财报等 文本信息中的宝贵情报。
在这一章中，我们将磋商大措辞模型如何在量化投资中 被用于数据整理和剖析、市场感情剖析、风险预测、投资策略的天生和优化，以 及这一技能如何作为投资者的赞助带来效率的提升。

3.1. 强大的信息提取与总结能力

在当今信息爆炸的时期，我们每天都要处理大量的数据和信息，个中包括文本文 档、表格、音频和***文件。
这些信息的管理和处理不仅耗时，而且每每须要高 度的集中把稳力和组织能力。
ChatGPT 等大模型作为前辈的措辞处理工具，不仅能 够理解和天生自然措辞文本，还能够对各种文件类型进行剖析和总结。
无论是将 长篇的报告精髓精辟成简明的择要，还是从繁芜的表格中提取关键数据，乃至是从音 ***内容中抓取主要信息，ChatGPT 都能够以其独特的智能处理办法，大大减轻工 作包袱。
本节将先容如何利用 ChatGPT 来高效地处理各种类型的文件，实现信息 的快速提取和整理。

3.1.1. 文档内容读取

ChatGPT 已经于近日为 Plus 用户开放了文件上传功能，处理 PDF 等文本文档的工 作得到了极大的简化。
过去想要利用 ChatGPT 读取 PDF 文档，须要用户自己编程 将PDF文件中的笔墨提取成text数据，进行分词、根据LMM接口token上限分块、 调用词嵌入进行向量化等预处理后，将高下文（context）和问题（question）输入 LLM，才能得到答案，构建过程相称繁琐。
现在仅需在网页版 ChatGPT4 问答输入 栏中上传 DPF 附件，并附上提问即可，操作非常简便。

3.1.2. 音***内容读取

ChatGPT4 向用户供应了上传音***文件的功能，但大概是由于今日开放的新功能 较多导致用户流量增长过大，迫于掩护的压力，OpenAI关闭了 ChatGPT4的网络接 口。
因此其无法通过谷歌语音识别做事接口进行音***的语音识别，导致无法直 接通过上传音***文件进行剖析总结。
通过 ChatGPT 的回答也可以得知，其对付 音***文件的剖析也是先通过语音识别将文件转换为文本，再进行文本信息的分 析和处理的。
这是由于当前版本的 GPT-4V 模型无法接管音频模态的输入。

此外，通过供应***链接给 ChatGPT 让其对***内容剖析也由于网络接口的关闭 暂时无法进行，这个任务在 GPT-4V 模型开放之初是能够完成的。
对付音***处理，在 ChatGPT 开放多模态功能之前，也须要编写代码并借助 langchain 等 LLM 运用开拓框架，通过语音识别或字幕天生等处理后，再将文本投 入 LLM 模型中完成任务。
如今这个过程被 OpenAI 并入了 ChatGPT 功能之中。

3.1.3. 表格信息整理

对付表格类型的数据剖析，只要提问准确，ChatGPT 的剖析速率和准确程度都非常 高。
对付表格中不存在的数据，ChatGPT 也会给出“无法回答”的相应。
如果我补 充条件“公司名称所在的地点一样平常便是公司的注册地”，则模型会返回将表格中名 称带有“深圳”的公司名单。

3.2. 强大的文本分析与分类能力

在金融领域，存在大量的文本类金融数据，个中包含着海量信息。
投资研究者需 要对这些信息进行检索、筛选、剖析，终极得出投资建议或决策。
对付这些文本 类数据的处理是相称耗时耗力的，从中提取有用信息的效率并不高。
大措辞模型 具有强大的文本分析与分类能力，以及人类所不具备的自动化、大批量处理数据 的上风。
那么用措辞模型进行文本类金融数据的剖析，是大措辞模型的一个很自 然的运用方向。

3.2.1. 文本类金融数据

文本类金融数据紧张包括以下几种： （1） 公司财务报告：这包括年报、季度报告、利润表、资产负债表和现金流量 表等。
这些报告供应了公司的财务状况、经营成果和财务康健状况的详细 信息。
（2） ***和***稿：金融市场***、公司***稿以及与经济、政治事宜干系的 ***都会对金融市场产生影响。
这些信息常日用于感情剖析和市场预测。
（3） 市场剖析报告：这些报告由剖析师或研究机构发布，供应对特定行业、市 场或公司的深入剖析。
（4） 社交媒体内容：投资者和消费者在社交媒体上的谈论和见地也被视为主要 的文本数据源，各大社交平台上的帖子和评论可以用来衡量公众年夜众对某个公 司或市场的意见。
（5） 监管文件：政府或监管机构发布的文件，包括公司的注册声明、年度报告、 重大事宜报告等。
（6） 公司通讯和演讲：公司领导的公开演讲、***发布会、投资者日活动和电 话会议记录等。

这些数据对付金融剖析、投资决策和市场研究非常主要。
之前国内外已有利用语 言模型对文本数据进行感情剖析、另类因子布局等方面的研究，本文不再详细介 绍。

3.2.2. 文本数据的批量剖析处理

针对文本类金融数据，LLM 的运用包括但不限于以下几个方面： （1） 情绪剖析：LLM 可以剖析公司财报、***稿、社交媒体内容等，以识别其 中的情绪方向，如积极、悲观或中性。
情绪得分可以帮助量化投资者评估 市场感情，预测股价变动。
（2） 趋势识别和预测：通过剖析历史数据和市场***，LLM 可以识别潜在的市 场趋势和模式。
这些信息可以用于预测市场动态和制订投资策略。
（3） 风险评估：剖析公司的财务报告和***发布，以评估潜在的风险成分。
例 如，利用 LLM 剖析财报中的隐蔽信息，如非标准司帐处理，可能揭示潜在 的财务问题。

比较于人类，LLM 的紧张上风在于剖析数据的数量和处理任务的速率。
LLM 能够 以人类无法达到的速率将海量信息提取、分类，快速地统计出投资者所须要的指 标。
利用 LLM 对文本数据进行批量处理须要针对特界说务进行编程，可以借助 langchain 等运用框架调取所须要的接口，更方便地调用 LLM 的模型完成所须要的 任务。
LangChain 是一个开源的 Python 框架，旨在帮助开拓者更随意马虎、更快速地构建和部 署基于 LLM 的运用程序。
它供应了一系列工具和组件，使开拓者可以更加便捷地 利用 LLM 的能力。
关于 langchain 框架的利用，在个中文官网上有详细的快速入门 指南，结合下面即将先容的 ChatGPT 的代码赞助功能，更加易于上手。

3.3. 强大的代码天生与修正能力

3.3.1. 代码天生

GPT4 作为天生式模型，其最强大的功能自然为天生。
在经由大量代码数据的预训 练以及后续调教后，ChatGPT 的代码天生能力也相称强。
我以一名量化剖析师的身 份哀求 ChatGPT 帮我天生一份 Python 代码，利用 RNN 模型来根据股票过去的股价 走势预测未来的股价，以下是 ChatGPT 的回答。

ChatGPT 很快供应了构建模型的流程，并供应了一个基本的代码框架（由于我供应 的需求并不足详细），乃至在末了加上了风险提示。
代码生成功能能够给量化研究 者带来极大的便利（尤其是针对短缺履历的行业新人）。
由于详细任务的任务需求、 数据构造、接口等等方面的多样性，ChatGPT 难以天生完备适配任务并且能够直接 精确运行的代码，因此目前很难直接代替研究员完成事情。

3.3.2. 代码注释

量化研究员的行业和岗位性子，导致多数人无法也不会选择将精力过多地投入到 编写程序的干系技能栈上。
打算机技能、编程措辞种类繁多，纵然是一个专业的 算法/软件开拓工程师，也无法精通所有编程技能。
而实际事情中的任务有各种各 样的需求，想要完成诸如前后端开拓、数据库掩护、网页爬虫等子任务须要较高 的学习本钱。
打算机作为高度开源的行业，有大量开拓者在开源平台、论坛上共 享其过去完成的事情。
但这些事情多数须要有踏实的干系知识储备才能够理解甚 至复现，ChatGPT 险些肃清了这个门槛。
当须要快速完成一项不属于自己技能栈的任务时，可以通过检索与任务目标类似 的开源项目代码，交由 ChatGPT 做逐行注释，能够大幅度减少学习和理解的本钱， 结合公开文档能够快速修正源代码并运用于自己的任务中。
我哀求 ChatGPT 对上 一小节天生的代码进行逐行注释，以下是部分回答结果。

ChatGPT 相称详尽乃至繁琐地对代码的每一部分做了注释，阐明了每段代码的功能、 变量的含义以及参数的浸染等等。
这对付利用不熟习的编程措辞进行编程的场景 相称友好，能够节省大量的韶光。
此外，也可以哀求 ChatGPT 直接将注释添加在 代码段中（方便复制）。

3.3.3. 代码纠错与debug

ChatGPT 具有文本纠错的功能，这在代码上也同样适用。
然而纠错并不是常用的做 法，在实际场景中更加常见的环境是发生了代码运行出错的情形。
ChatGPT 对付 debug 也能够供应相称精良的建议，可以直接将报错信息复制（或截图）上传， ChatGPT 会给出相应的回答。
Debug 须要模型已知缺点代码的高下文，因此在提问 时，须要将发生运行缺点的代码段作为高下文提示一并输入，才能够得到更加具 体和准确的建议。

3.4. 未来发展方向

OpenAI 在北美韶光 2023 年 11 月 6 日的首届开拓者大会上，向所有 Plus 用户发布 了 GPTs 项目，这将会引发 LLM 运用的井喷式发展。
GPTs 是针对特定目的定制的 ChatGPT，OpenAI 将许可所有人通过指令词、额外的 知识、动作这三种能力去定制自己的 GPTs，制作完成后作者还可以发布上线，允 许所有人利用。
最关键的是，制作一个 GPTs 看起来是个再大略不过的事了，不需 要任何的代码知识，只须要用对话形式表达需求就可以完成一个定制的 GPT 运用。

用户可以通过 Create 界面利用自然措辞描述出自己想要定制的 GPTs，或者通过在 Configure 界面配置 GPTs 的各种功能，也可以在 Create 中完成描述后根据详细情形 修正配置，终极得到一个专属的人工智能问答助手。

以 ChatGPT 为代表的多模态大模型的各种运用正在向各行各业快速地发展。
本团 队将连续跟踪大模型技能的技能与运用发展情形，连续跟踪和探索 ChatGPT 等产 品在金融和量化投资领域的运用与前景。

（本文仅供参考，不代表我们的任何投资建议。
如需利用干系信息，请参阅报告原文。
）

精选报告来源：【未来智库】。
「链接」