如何将人类知识注入预训练模型，让知识和数据有机融合，一直是AI研究中的难题。

近日，达摩院首次利用半监督学习将标注的人类知识注入预训练对话模型，在MultiWOZ2.1等三个国际主流对话数据集中均实现了最佳效果，提升幅度明显，为知识和数据融合探索出新路径。

达摩院新模型在三大国际数据集上的表现

01

什么是预训练模型

预训练模型是AI近年来重要的发展趋势，其打破了传统模型通用性差的制约，可做到举一反三，解决多种任务。

常见的预训练模型有预训练语言模型，可以出题让AI写高考作文；预训练多模态模型，可以给到文字让AI生成图片。

而预训练对话模型还需要考虑对话过程中的策略，如：对话轮次、上下文情境、对话人员的角色等，以便理解对方意图并做出恰当回复。

打个比方，在凌晨时分提问AI“明天天气如何”，AI根据理解作出的回答通常是当日天亮后的天气，而非客观事实上的“明天”。

对话特有的属性总结

经过快速发展，业内已成功构建出万亿参数的大模型。但不少研究者认为，数据量只是一方面，如果能将人类知识有机注入预训练模型，AI有望像人类一样思考。

不过，这并不容易。由于知识数量级远小于无标注数据，简单混合容易导致知识被淹没，或者出现严重的过拟合。

02

AI模型的基本训练方法

目前，预训练模型的主流训练方法还是以有监督学习和自监督学习为主，半监督学习更多是配合有监督学习，用于减少数据标注、降低成本等场景。

有监督预训练：存在有标数据进行指导，所学出的特征对某些相关下游任务更加适配，但是却严重依赖人工标注；

自监督预训练：可不再受到人工标注的局限，利用海量无标数据进行学习，但学习成果更多是普适的语义表示。

半监督预训练：从迁移学习的角度来看，可以认为是一个前两种范式的自然延伸，可以充分利用有限的标注知识和大量的无标数据。

此次，达摩院研究人员将半监督学习和自监督学习进行融合，在预训练对话模型中实现了这一创新工作，相关论文已被AAAI2022接收。

半监督使用示意图

03

达摩院的半监督预训练建模方案

构建知识库：

达摩院构建了目前最大的对话动作标签知识库，用于刻画对话策略，总量达97万轮次；

SPACE 1.0模型：

此外，达摩院还设计了新型预训练对话模型SPACE 1.0，采用 encoder+decoder 架构，预训练的目标既包含了传统的建模对话理解和对话生成的自监督 loss，也包含了建模对话策略的半监督 loss。

达摩院使用的半监督训练方法

新模型在斯坦福 In-Car，剑桥MultiWOZ2.0和亚马逊 MultiWOZ2.1这三个国际主流对话数据集上均实现了SOTA（最佳效果），部分提升超过5%，幅度较大。

在具体案例中，新模型能够更准确预测出对话动作，能够更好和人类进行对话，避免答非所问。

一轮完整的对话过程

达摩院资深算法专家李永彬表示，这项工作还只是起步，如何将更多的人类标注知识通过半监督的方式注入到预训练模型中、如何让模型自动选择合适的知识、如何更好评价知识注入的效果，还需要体系化的探索和创新。

目前，SPACE 1.0模型已应用于阿里云智能客服等产品，对外输出服务客户。据艾瑞咨询最近发布的《2022年中国对话式AI行业发展白皮书》，阿里云智能客服已领跑中国对话式AI行业。