第278章 当之无愧的强者(3/3)
原本她一向是比较好奇林灰这个此前几乎在文本摘要方面及及无名的人究竟是怎样在短时间做到弯道超车的。
毕竟涉及到语言模型的构建往往需要大量的时间。
但现在知道林灰搞的这个预处理之后。
尹芙·卡莉则感觉这个问题似乎不是太大问题。
按照林灰在论文补充内容提出的预训练机制的这个思路进行操作。
虽然引入预训练机制后仍然需要进行训练。
甚至看起来步骤要更繁琐了一些。
但尹芙·卡莉估计同等规模语料库下的训练
引入预训练机制的训练要比常规的至少能够节省50的时间。
模型的训练引入预训练的处理方式会带来效率的提升。
这里面的道理通过学习方面的例子做类比很容易明白。
通常情况下,通过掌握知识的共性之后再攻克疑难显然效率上是比按部就班进行学习要高的。
同样的道理,机器学习的时候让机器掌握数据的共性之后再搞剩下的标注数据也会带来效率的提升。
林灰一度就是尹芙·卡莉眼中绝对意义上的天才。
在尹芙·卡莉看来天才的重点不在于“才能”,而在于“天分”
所有人似乎都知道的走出房间要找到门,却各种找不到门路。
而天才就是那个在众人茫然眼光之下信步走到门前并轻轻推开门的那个人。
在所有人面对着抽取式摘要算法的瓶颈而找不到走出文本摘要这个房间的方法之时。
l恰到好处地出现了,在所有人的茫然下信步般推开了一扇被称为是“生成式文本摘要”的崭新的门。
而现在来看,尹芙·卡莉觉得她以前的认知还是差点意思。
事实是林灰不光是绝对意义上的天才,还是当之无愧的强者。