本书涵盖了Transformer在NLP领域的主要应用。首先先容Transformer模子和Hugging Face 生态体系。然后重点先容情感分析任务以及Trainer API、Transformer的架构,并讲述了在多语言中识别文本内实体的任务,以及Transformer模子生成文本的能力,还先容相识码计谋和度量指标。接着深入发掘了文本摘要这个复杂的序列到序列的任务,并先容了用于此任务的度量指标。之后聚焦于构建基于批评的问答体系,先容如何基于Haystack进行信息检索,探究在缺乏大量标注数据的情况下提高模子性能的方法。最后展示如何从头开始构建和训练用于自动添补Python源代码的模子,并总结Transformer面临的挑衅以及将这个模子应用于其他领域的一些新研究。
作者简介
Lewis Tunstall是Hugging Face机器学习工程师,致力于为NLP社区开辟实用工具,并帮助人们更好地使用这些工具。
Leandro von Werra是Hugging Face机器学习工程师,致力于代码生成模子的研究与社区推广工作。
Thomas Wolf是Hugging Face首席科学官兼联合创始人,他的团队负担着促进AI研究和普及的任务。 点击下载