前言BERT transformer 的双向编码器表示 彻底改变了自然语言处理 NLP 的世界并取得了可喜的结果。这本书是一本入门指南将帮助您掌握 Google 的 BERT 架构。通过对 transformer 架构的详细说明这本书将帮助您了解 transformer 的编码器和解码器是如何工作的。您将通过学习如何预训练 BERT 模型来探索 BERT 架构以及如何通过使用 Hugging Face transformers 库针对 NLP 任务例如情感分析和文本摘要对其进行微调来将预训练的 BERT 用于下游任务。随着您的进步您将了解 BERT 的不同变体例如 ALBERT、RoBERTa 和 ELECTRA并查看 SpanBERT它用于问答等 NLP 任务。您还将介绍基于知识蒸馏的更简单、更快速的 BERT 变体例如 DistilBERT 和 TinyBERT。这本书将带您详细介绍 MBERT、XLM 和 XLM-R然后向您介绍用于获取句子表示的句子 BERT。最后您将发现特定领域的 BERT 模型例如 BioBERT 和 ClinicalBERT并发现一种称为 VideoBERT 的有趣变体。在这本 BERT 书的结尾您将精通使用 BERT 及其变体来执行实际的 NLP 任务。下载当前版本 完整PDF书籍链接获取可以扫描下方二维码免费领取您将学到什么从头开始了解 transformer 模型了解 BERT 的工作原理并使用掩码语言模型 MLM 和下一句预测 NSP 任务对其进行预训练通过学习生成上下文单词和句子嵌入动手实践 BERT针对下游任务微调 BERT掌握 ALBERT、RoBERTa、ELECTRA 和 SpanBERT 模型掌握基于知识蒸馏的 BERT 模型的窍门了解 XLM 和 XLM-R 等跨语言模型探索 Sentence-BERT、VideoBERT 和 BART这本书是给谁的本书适用于希望简化 NLP 任务以使用 BERT 实现高效语言理解的 NLP 专业人员和数据科学家。要充分利用本书需要对 NLP 概念和深度学习有基本的了解。目录Transformer入门了解 BERT 模型动手实践 BERTBERT 变体 I - ALBERT、RoBERTa、ELECTRA 和 SpanBERTBERT 变体 II - 基于知识蒸馏探索 BERTSUM 的文本摘要将 BERT 应用于其他语言探索句子和领域特定的 BERT使用 VideoBERT、BART 等下载当前版本 完整PDF书籍链接获取可以扫描下方二维码免费领取