NLP学习笔记

NLP学习笔记

http://jalammar.github.io/a-visual-guide-to-using-bert-for-the-first-time/

[CLS] token

https://datascience.stackexchange.com/questions/66207/what-is-purpose-of-the-cls-token-and-why-is-its-encoding-output-important

用来作为句子级别的分类,是同一个句子or下一个句子,因为其他输入都是单词级别,只有这个没有输入,代表句子级别输出分类