BERT是一种由Google于2018年发布的新型语言模子,它是基于Transformer中的Encoder并加上双向的结构。BERT模子采用了Masked Language Model和Next Sentence Prediction两种方法进行预训练,以捕捉词语和句子级别的representation。预训练之后,BERT可以用于下游任务的Fine-tuning,比如文本分类、相似度判定等。此外,BERT还可以应用于对话感情辨认,帮助企业改善产品的用户交互体验。
import os
import mindspore
from mindspore.dataset import text, GeneratorDataset, transforms
from mindspore import nn, context
from mindnlp._legacy.engine import Trainer, Evaluator
from mindnlp._legacy.engine.callbacks import CheckpointCallback, BestModelCallback
from mindnlp._legacy.metrics import Accuracy
# prepare dataset
class SentimentDataset:
"""Sentiment Dataset"""
def __init__(self, path):
self.path = path
self._labels, self._text_a = [], []
self._load()
def _load(self):
with open(self.path, "r", encoding="utf-8") as f:
dataset = f.read()
lines = dataset.split("\n")
for line in lines[1:-1]:
label, text_a = line.split("\t")
self._labels.append(int(label))
self._text_a.append(text_a)
def __getitem__(self, index):
return self._labels[index], self._text_a[index]
def __len__(self):
return len(self._labels)
复制代码
数据集
该数据集包括感情分类的类别和经太过词预处理的中文文本,数据由两列组成,以制表符分隔,第一列是感情分类的类别(0表示消极;1表示中性;2表示积极),第二列是经过空格分词的中文文本。数据集读取后进行 Tokenize 处理和 pad 操作。