NLP的工程化，不是一个个算法的累积，也不是一个个任务的独立优化，而该当是系统工程，综合考虑措辞、打算、场景等多种成分，不断演进领悟，寻求效果满意解的过程。
根据赫伯特.西蒙（图灵奖和诺贝尔奖双料得主）的有限理性模型，受到所处环境的高度繁芜性和有限的信息加工能力限定，因此NLP运用落地时，我们不可能遵照”最优化“的策略，而该当以获取当前可接管的“满意解\公众为目标。
\公众最优解\"大众可以作为实验室环境下的研究目标，而”满意解“是工程化的条件下我们唯一的选择。

我们提出了“措辞、打算、场景”三角形满意解的NLP工程化技能路线，希望从工程化的角度，综合语义的符号化表示、传统措辞学的知识表示、深度学习的算法模型等多种技能，在详细场景需求的约束下，探求NLP工程运用的满意解。

最小化的措辞特色是根本的措辞资源

根本的措辞特色是有限的，否则，措辞将呈不稳定态，人们之间相互理解措辞也将不可能。
根本措辞特色，包括词库、词汇的句法语义属性、词汇之间的关联性（同义、反义、高下位）等。
比如，“打败”是一个动词，“高兴”是动物的一种感情，“胜利”和“失落败”的反义关系，“胜利”和“打败”的同义关系等。
这些词语的意思和它们之间的关系，无论在那个行业场景中都是基本不变的。

我们已经构建了中文、英文的根本措辞特色集，个中包括80000多个常用词汇，覆盖了大部分常用词汇。
据统计中文常用的5万个词可以覆盖公民日报***用词的99%。
根本的措辞特色集是分类的，比如针对情绪打算的根本措辞特色中包含了140多种感情。

根本的措辞特色集，必须通过人工办法构建。
我们有30多人的措辞学团队，经由长达10年的积累，已初步构建完善。

措辞特色的泛化是必需的打算技能

措辞的利用是动态的，特定场景下的新词、新用法会层出不穷的涌现。
比如“深度学习”原来不是一个词，但近几年被广泛利用，特指一类神经网络算法。
这一类的特色表示，可以采取机器学习算法（包括深度学习），从真实语估中自动学习，对根本措辞特色进行扩充和泛化。
利用机器学习算法，也可以进行同义词的泛化，比如“查看、查查、查一查、查询一下、查寻一下”等是“查询”的同义词。
同时，也可以开展词语关联的泛化，比如“马云-阿里巴巴”的关系和“马化腾-腾讯”的关系类似等。

机器学习得到的新词、新用法，可以通过相似度打算等算法，将学习结果与根本措辞特色对齐，以得到新词对应的措辞属性。
比如“深度学习”是一个名词，是“算法”的下位，与“神经网络”同义等。
对齐操作担保了泛化特色的同等性。

措辞和算法的有效结合是关键

根据每一类措辞构造的特点，有辅导的选择算法。
比如，对付汉语的流水句的处理，哪些措辞特色是流水句的激活特色，流水句是否适宜LSTM算法，哪些特色参与LSTM的运算等。
而不是针对所有句法构造，采取一种LSTM模型来进行句法剖析。

措辞构造由于其动态性，不适宜把构造本身作为机器学习的输入，而该当在输入侧，通过语料标注或规则设计，把构造进一步抽象成为一个更抽象的特色，输入给机器学习、深度学习算法。
如在形容词谓语句的剖析中，“形容词短语”作为一个抽象特色，输入给句子剖析算法，而不用关心“形容词短语”是用什么算法得到的。
相反，机器学习算法的输出，必须以措辞特色或措辞构造的形式，这样才能担保结果的可阐明性。

我们认为，深度学习只是NLP算法库中的一部分，大概只在某一个详细的环节中效果最好，对机器学习（深度学习）算法的“对症下药”的利用，是NLP工程化的关键。

运用处景是无法回避的约束条件

运用处景是NLP运用的需求和利用环境，不同的运用处景，其约束条件是不同的。
有的场景是处理营销数据的，有的是处理客服数据的；有的场景可以供应大量的标注数据，有的只能供应有限的业务规则；有的场景是同步的，有的是异步的。
NLP运用必须在知足场景约束的条件下，选择处理流程、打算算法、语料资源等内容的配置。
比如，对同样一批数据，同样一个文本，营销场景和客服场景的输出哀求完备不同，所用算法也可完备不同，客服场景可以用分类算法，但营销场景大概须要用抽取算法。

很多NLP运用处景下，客户都希望在很短的韶光内、在没有演习语料的情形下，快速看到NLP运用的效果，实现“冷启动”。
比如某电信企业，客服的动单分类有 2000 多项。
电信自己整理了3个多月，每一个分类下的数据都很少，但电信也不可能在每一个细分小类，都帮助我们演习出那么大量的数据，供应给机器学习算法演习。

“冷启动”的关键是规则方法与机器学习方法的有效领悟。
第一步，采取规则方法，构建一批运用规则，对运用处景下的范例语料，进行规则剖析，针对性的获取特色，并对范例语料进行标注。
第二步，把范例语料的标注数据，作为机器学习算法的样本，利用各种机器学习（深度学习）算法去做扩充、泛化。
对泛化的结果，采取抽样方法，进行人工校验，加入到范例语估中去。
这样循环处理，形成一个良性循环，不断的逼近客户哀求。

NLP工程化的目标

NLP系统的开拓与运用，既须要尊重措辞学知识，以措辞学知识为辅导，又须要充分利用机器学习（深度学习）技能的打算上风，以机器学习为工具，持续迭代发展，才能在工程运用中发挥NLP的能力，实现满意解。

NLP工程化期望达到以下目标：

（1）可阐明性，NLP系统输出的结果，该当符合基本的措辞学规律，可以用措辞学的术语进行阐明，而不是给出一堆凌乱无章的数据，让用户从沙海淘金。

（2）同等性，NLP系统的处理过程，该当是随着处理工具的层次和深度，而逐步叠加模块，下级模块利用上级模块的结果，方便进行优化。
而不是针对每个任务，采取“一竿子插到底”的繁芜算法，中间过程完备是黑盒子。

（3）即用性，NLP系统的运用，须要做到即插即用的“冷启动”，或者是在很小的数据集上进行规则表述和预演习。
统统须要用户标注海量数据，才能启动的NLP系统，都是耍泼皮。

（4）可迁移性，NLP系统，该当在不用大的改动条件下，即可迁移到类似场景。
而不应该是千人千面，过分个性化。

（5）自知之明，NLP系统的终极目标是做到自知之明，系统对输出的结果该当有明确的置信度，哪些结果一定担保是对的，哪些一定是不对的，哪些是不愿定，须要人工干预的。
有了可靠的自知之明的能力，NLP系统才具备了达到人类理解水平的基本条件。

近两年很多媒体宣布，打算机在阅读理解、机器翻译等领域超过了人类水平，实在是媒体的一种浮夸其辞的误导，打算机只是做了端到真个匹配，匹配结果与标准答案做了个百分比的统计。
打算机对阅读理解的内容一无所知，对匹配结果的对错毫无观点，从自知之明的角度衡量的话，打算机的水平可能还达不到小学一年级学生的水平。

措辞理解是人工智能皇冠上的明珠，要达到真正的理解能力，道阻且长；精确处理好措辞、打算、场景的领悟，NLP技能已经可以在非构造化转构造化等运用方向上大展宏图，取得巨大的商业代价。

自知之明的NLP终极目标，任重道远，我们将与您一起同行。