昼温《致命失言》（二）| 长篇科幻连载(9)

“嗯，”沈念无意识舔了下嘴唇，“可以讲讲你擅长的东西，比如爱好，或是最近的研究项目也行。”
“你听得懂吗？”
沈念感觉被刺了一下。“我听不听得懂不重要，关键是要看你连续表达能力如何。至少10分钟的独白。”
“很不好。”诸明还是看着地面。
“我知道不好，但我们得找清楚问题在哪里，对不对？”沈念像哄孩子一样耐心劝导，“我看见你最近在顶刊发了一篇关于AI语言生成的论文，可以介绍一下，至少这个我是听得懂的。”
“好吧，”诸明从沙发上直起身，很快又向前弯腰，前臂搭在膝盖上。刘海儿垂下来，这回沈念彻底看不到他的眼睛了。
“我做的是本文生成领域。一部分是有条件的文本生成，就是机器翻译、AI客服之类的，另一部分是无条件的文本生成。我觉得后者比较有挑战。”说起自己的专业领域，诸明的语速明显加快，语音粘连也非常严重，几乎就是一阵平调的嘶嘶声。沈念很努力地听，即听内容，也听语言本身。

“文本生成从诞生到现在大概有三个模式。一开始是统计模式。就是你给机器一个词，机器来预测下一个词的概率。概率是根据语料库算的。你知道语料库吧？”
“知道，我们做言语矫正也很依赖语料库。”
诸明快速点了点头。“统计机器翻译也经常用这个模式。但缺点很明显，一是数据利用率太低，二是无法匹配模糊信息。到了10年代，又上了编码解码模型。就是把句子看成一个向量，句意越接近，向量之间的距离越小。”
沈念已经有点听不懂了，但诸明没有解释的意思。
“17年之后我们引入了注意力机制，就是对一个句子重要程度不同的部分给予不同等级的注意力……”诸明又说了一些名词，中英混杂。