第34章:基于integer-only quantization技术的Transformer模型I-BERT架构及完整源码实现

1,Quantization架构分析

2,Quantization数学原理解析

3,使用integer-only quantization有效性的数据原理分析

4,IBertEmbeddings源码完整实现剖析

5,IBertSelfAttention源码完整实现剖析

6,IBertSelfOutput源码完整实现剖析

7,prune_heads方法源码完整实现剖析

8,IBertAttention源码完整实现剖析

9,IBertIntermediate源码完整实现剖析

10,IBertOutput源码完整实现剖析

11,feed_forward_chunk方法源码完整实现剖析

12,IBertLayer源码完整实现剖析

13,IBertEncoder源码完整实现剖析

14,IBertPooler源码完整实现剖析

15,IBertPreTrainedModel源码完整实现剖析

16,IBertModel源码完整实现剖析

17,IBertForMaskedLM源码完整实现剖析

18,IBertLMHead源码完整实现剖析

19,IBertForSequenceClassification源码完整实现剖析

20,IBertForMultipleChoice源码完整实现剖析

21,IBertForTokenClassification源码完整实现剖析

22,IBertClassificationHead源码完整实现剖析

23,IBertForQuestionAnswering源码完整实现剖析

你可能感兴趣的:(Transformer,NLP,StarSpace,语言模型,架构,自然语言处理,transformer,深度学习)