阿东7
阿东7

tf2 HuggingFace Transformer2.0 bert ner命名实体

之前在网络上搜索基于tf2 的 HuggingFace Transformer2.0 资料比较少，就给自己做个笔记

词向量原理在此不介绍

bert原理在此不介绍

bert的输入参数

  1. input_ids
  2. token_type_ids
  3. attention_mask

bert的输出参数

  1. 句子字向量

python环境

  1. tensorflow2
  2. torch1.4.1

  3. transformers2.4.1
    实际程序未用到torch


    image.png

数据准备

  1. HuggingFace Transformer需要的数据
    bert 的相关数据参考
    https://www.cnblogs.com/lian1995/p/11947522.html
    BERT_PRETRAINED_CONFIG_ARCHIVE_MAP = {
    'bert-base-uncased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-uncased-config.json",
    'bert-large-uncased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-uncased-config.json",
    'bert-base-cased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-cased-config.json",
    'bert-large-cased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-cased-config.json",
    'bert-base-multilingual-uncased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-multilingual-uncased-config.json",
    'bert-base-multilingual-cased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-multilingual-cased-config.json",
    'bert-base-chinese': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-chinese-config.json",
    'bert-base-german-cased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-german-cased-config.json",
    'bert-large-uncased-whole-word-masking': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-uncased-whole-word-masking-config.json",
    'bert-large-cased-whole-word-masking': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-cased-whole-word-masking-config.json",
    'bert-large-uncased-whole-word-masking-finetuned-squad': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-uncased-whole-word-masking-finetuned-squad-config.json",
    'bert-large-cased-whole-word-masking-finetuned-squad': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-cased-whole-word-masking-finetuned-squad-config.json",
    'bert-base-cased-finetuned-mrpc': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-cased-finetuned-mrpc-config.json",
    'bert-base-german-dbmdz-cased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-german-dbmdz-cased-config.json",
    'bert-base-german-dbmdz-uncased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-german-dbmdz-uncased-config.json",
    }

PRETRAINED_VOCAB_FILES_MAP = {
'vocab_file':
{
'bert-base-uncased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-uncased-vocab.txt",
'bert-large-uncased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-uncased-vocab.txt",
'bert-base-cased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-cased-vocab.txt",
'bert-large-cased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-cased-vocab.txt",
'bert-base-multilingual-uncased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-multilingual-uncased-vocab.txt",
'bert-base-multilingual-cased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-multilingual-cased-vocab.txt",
'bert-base-chinese': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-chinese-vocab.txt",
'bert-base-german-cased': "https://int-deepset-models-bert.s3.eu-central-1.amazonaws.com/pytorch/bert-base-german-cased-vocab.txt",
'bert-large-uncased-whole-word-masking': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-uncased-whole-word-masking-vocab.txt",
'bert-large-cased-whole-word-masking': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-cased-whole-word-masking-vocab.txt",
'bert-large-uncased-whole-word-masking-finetuned-squad': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-uncased-whole-word-masking-finetuned-squad-vocab.txt",
'bert-large-cased-whole-word-masking-finetuned-squad': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-cased-whole-word-masking-finetuned-squad-vocab.txt",
'bert-base-cased-finetuned-mrpc': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-cased-finetuned-mrpc-vocab.txt",
'bert-base-german-dbmdz-cased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-german-dbmdz-cased-vocab.txt",
'bert-base-german-dbmdz-uncased': "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-german-dbmdz-uncased-vocab.txt",
}
}

但是我这里用了tf2的数据参数
TF_BERT_PRETRAINED_MODEL_ARCHIVE_MAP = {
"bert-base-uncased": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-uncased-tf_model.h5",
"bert-large-uncased": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-uncased-tf_model.h5",
"bert-base-cased": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-cased-tf_model.h5",
"bert-large-cased": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-cased-tf_model.h5",
"bert-base-multilingual-uncased": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-multilingual-uncased-tf_model.h5",
"bert-base-multilingual-cased": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-multilingual-cased-tf_model.h5",
"bert-base-chinese": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-chinese-tf_model.h5",
"bert-base-german-cased": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-german-cased-tf_model.h5",
"bert-large-uncased-whole-word-masking": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-uncased-whole-word-masking-tf_model.h5",
"bert-large-cased-whole-word-masking": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-cased-whole-word-masking-tf_model.h5",
"bert-large-uncased-whole-word-masking-finetuned-squad": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-uncased-whole-word-masking-finetuned-squad-tf_model.h5",
"bert-large-cased-whole-word-masking-finetuned-squad": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-large-cased-whole-word-masking-finetuned-squad-tf_model.h5",
"bert-base-cased-finetuned-mrpc": "https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-cased-finetuned-mrpc-tf_model.h5",
"bert-base-japanese": "https://s3.amazonaws.com/models.huggingface.co/bert/cl-tohoku/bert-base-japanese-tf_model.h5",
"bert-base-japanese-whole-word-masking": "https://s3.amazonaws.com/models.huggingface.co/bert/cl-tohoku/bert-base-japanese-whole-word-masking-tf_model.h5",
"bert-base-japanese-char": "https://s3.amazonaws.com/models.huggingface.co/bert/cl-tohoku/bert-base-japanese-char-tf_model.h5",
"bert-base-japanese-char-whole-word-masking": "https://s3.amazonaws.com/models.huggingface.co/bert/cl-tohoku/bert-base-japanese-char-whole-word-masking-tf_model.h5",
"bert-base-finnish-cased-v1": "https://s3.amazonaws.com/models.huggingface.co/bert/TurkuNLP/bert-base-finnish-cased-v1/tf_model.h5",
"bert-base-finnish-uncased-v1": "https://s3.amazonaws.com/models.huggingface.co/bert/TurkuNLP/bert-base-finnish-uncased-v1/tf_model.h5",
"bert-base-dutch-cased": "https://s3.amazonaws.com/models.huggingface.co/bert/wietsedv/bert-base-dutch-cased/tf_model.h5",
}

image.png

ner需要的训练和测试数据

https://codeload.github.com/liushaoweihua/keras-bert-ner/zip/master

具体训练代码

import os
# os.environ["CUDA_VISIBLE_DEVICES"]="-1"
import tensorflow as tf
import numpy as np
from transformers import *

#设置ner类型
label_category = ['B-PER', 'B-ORG', 'B-LOC', 'I-ORG', 'I-PER', 'I-LOC', 'O', 'CLS', 'SEP', 'PAD', 'UNK']
#类型个数
label_category_total_num = len(label_category)
#句子长度，包含几个字
max_length = 128
#小于128的句子，mask用0填补
mask_padding_with_zero=True
pad_token=0
pad_token_segment_id=0
#虚拟的数据，HuggingFace Transformer2.0的bert模型实例化会使用到，默认是3, 5，这边我们需要keras.build初始128个所有shape=(3,128)
DUMMY_INPUTS = [np.random.randint(0,128,size=128), np.random.randint(0,128,size=128), np.random.randint(0,128,size=128)]

#该损失函数，其实是tf复制过来的，方便调试
def sparse_categorical_crossentropy(y_true, y_pred, from_logits=False, axis=-1):
    return tf.keras.backend.sparse_categorical_crossentropy(
        y_true, y_pred, from_logits=True, axis=axis)

#从HuggingFace Transformer2.0 继承，这样可从bert返回结果，自己方便扩展
class TFMyBertModel(TFBertPreTrainedModel):
    @property
    def dummy_inputs(self):
        """ Dummy inputs to build the network.

        Returns:
            tf.Tensor with dummy inputs
        """
        return {"input_ids": tf.constant(DUMMY_INPUTS)}

    def __init__(self, config, *inputs, **kwargs):
        super().__init__(config, *inputs, **kwargs)
        self.bert = TFBertMainLayer(config, name="bert")
        #根据句子长度，生成类别的网络，这边是128个
        self.classifiers = []
        for i in range(max_length):
            self.classifiers.append(tf.keras.layers.Dense(label_category_total_num, name="classifier"+str(i)))

    def call(self, inputs, **kwargs):
        sequence_output, pooled_output = self.bert(inputs, **kwargs)
        print(sequence_output.shape)

        #传入的数据是[None, 128, 768] 转为list(128, [None, 768])，我们需要对每个字分类属于哪种的ner类型 label_category = ['B-PER', 'B-ORG', 'B-LOC', 'I-ORG', 'I-PER', 'I-LOC', 'O', 'CLS', 'SEP', 'PAD', 'UNK']
        words_output = tf.split(sequence_output, sequence_output.shape[1], 1)
        #words_output数组长度为句子长度
        logits = []
        for i,o in enumerate(words_output):
            #删除多余的维度，o这边是三维，当tf.split根据 字分组后，字还会存在多余的维度
            ot = tf.squeeze(o, axis=1)
            #生成分类结果
            logit = self.classifiers[i](ot)
            logits.append(logit)
        return logits

train_path = './data_ner/train.txt'
valid_path = './data_ner/dev.txt'

#HuggingFace Transformer2.0需要的bert目录文件，这边用tf2的h5文件
pretrained_path = './my-bert-base-chinese'
config_path = os.path.join(pretrained_path, 'config.json')
vocab_path = os.path.join(pretrained_path, 'vocab.txt')

tokenizer = BertTokenizer.from_pretrained(vocab_path)
# 加载config
config = BertConfig.from_json_file(config_path)
# 加载tf原始模型
model = TFMyBertModel.from_pretrained(pretrained_path,from_pt=False, config=config) #from_pt是否来自pytorch，这边用tf所有设置假

#文件格式
# 中 B-ORG
# 共 I-ORG
# 中 I-ORG
# 央 I-ORG
# 获取类型
def nerCategory(pathfile):
    srctext = tf.data.TextLineDataset(pathfile)
    label_category = set([])
    for lineText in srctext:
        # lineText 数据格式 中 B-ORG
        char_label = tf.strings.split(lineText)
        # char_label 格式 ['中', 'B-ORG']
        if len(char_label) >= 2: #如果是小于等于零代表是句子结尾
            label_category.add(char_label[1].numpy())
    return label_category

#查询索引label_category = ['B-PER', 'B-ORG', 'B-LOC', 'I-ORG', 'I-PER', 'I-LOC', 'O', 'CLS', 'SEP', 'PAD', 'UNK']
#对应的索引代表类型
def labelNum(label):
    i = label_category.index(label) if label in label_category else (len(label_category) -1)
    return float(i)

# 各 O
# 位 O
# 代 O
# 表 O
# 、 O
# 各 O
# 位 O
# 同 O
# 志 O
# ： O
#
# 在 O
# 中 B-ORG
# 国 I-ORG
# 致 I-ORG
#生成数据
def fromNer(pathfile):
    input_ids_dataset = []
    attention_mask_dataset = []
    token_type_ids_datasest = []
    label_dataset = [[] for _ in range(max_length)] #根据句子长度128,分为128列的标签类型

    tmp_sentence = [] #保存句子内容，如['各','位']
    tmp_label = [] #保存句子字类型， 如[6,6]
    srctext = tf.data.TextLineDataset(pathfile)
    k = 0
    word_i = 0
    for lineText in srctext:
        # lineText 数据格式 中 B-ORG
        word_i += 1
        char_label = tf.strings.split(lineText)
        # char_label 格式 ['中', 'B-ORG']
        if (len(char_label) <= 0): #等于0，代表是一句结束
            #最大句子是128，但是还要存储bert的CSP\SEP，所有预留2个位置，实际一个句子只能存126个
            if len(tmp_sentence) > (max_length-2):
                tmp_sentence = tmp_sentence[:(max_length-2)]
            if len(tmp_label) > (max_length-2):
                tmp_label = tmp_label[:(max_length-2)]

            #根据bert的输入要求生成 input_ids attention_mask token_type_ids
            inputs = tokenizer.encode_plus("".join(tmp_sentence), add_special_tokens=True, max_length=max_length, )
            input_ids, token_type_ids = inputs["input_ids"], inputs["token_type_ids"]
            attention_mask = [1 if mask_padding_with_zero else 0] * len(input_ids)
            padding_length = max_length - len(input_ids)
            input_ids = input_ids + ([pad_token] * padding_length)
            attention_mask = attention_mask + ([0 if mask_padding_with_zero else 1] * padding_length)
            token_type_ids = token_type_ids + ([pad_token_segment_id] * padding_length)

            #标签也补齐CLS SEP PAD
            label_ids = [labelNum('CLS')] \
                        + tmp_label + [labelNum('SEP')] \
                        + [labelNum('PAD')] * (max_length-len(tmp_label)-2)

            for i, l in enumerate(label_ids):
                label_dataset[i].append(l)

            #tf输入需要tensor类型
            input_ids = tf.constant(input_ids)
            attention_mask = tf.constant(attention_mask)
            token_type_ids = tf.constant(token_type_ids)

            input_ids_dataset.append(input_ids)
            attention_mask_dataset.append(attention_mask)
            token_type_ids_datasest.append(token_type_ids)

            tmp_sentence.clear()
            tmp_label.clear()
            k += 1
            if k % 100 == 0:
                print('line: %d; word: %d'%(k, word_i))
        else:
            tmp_sentence.append(char_label[0].numpy().decode(encoding='UTF-8'))
            tmp_label.append(labelNum(char_label[1].numpy().decode(encoding='UTF-8')))

    for i, ls in enumerate(label_dataset):
        label_dataset[i] = tf.cast(ls, dtype=tf.float32) #tf标签需要tensor类型

    return (
        tf.convert_to_tensor(input_ids_dataset),
        tf.convert_to_tensor(attention_mask_dataset),
        tf.convert_to_tensor(token_type_ids_datasest),
        label_dataset
    )

#生成bert的输入数据
input_ids_t_dataset, attention_mask_t_dataset, token_type_ids_t_datasest, label_t_dataset = fromNer(train_path)
input_ids_v_dataset, attention_mask_v_dataset, token_type_ids_v_datasest, label_v_dataset = fromNer(valid_path)
#
optimizer = tf.keras.optimizers.Adam(learning_rate=3e-5, epsilon=1e-08, clipnorm=1.0)
loss = [sparse_categorical_crossentropy for _ in range(max_length)]
metric = tf.keras.metrics.SparseCategoricalAccuracy('accuracy')
model.compile(optimizer=optimizer, loss=loss, metrics=[metric])
model.summary()

model.fit(x={'input_ids':input_ids_t_dataset, 'attention_mask':attention_mask_t_dataset, 'token_type_ids':token_type_ids_t_datasest},
          y=label_t_dataset,
          epochs=2,
          steps_per_epoch=1080,
          validation_steps=7,
          validation_data=([input_ids_v_dataset, attention_mask_v_dataset, token_type_ids_v_datasest], label_v_dataset))

model.save_pretrained("./mysavener")

代码注意点，网络上比较少资料有介绍到

  1. 这里用的是tf2 keras h5的数据格式，参数 from_pt=False
model = TFMyBertModel.from_pretrained(pretrained_path,from_pt=False, config=config) #from_pt是否来自pytorch，这边用tf所有设置假

  1. 训练输入参数{'input_ids':input_ids_t_dataset, 'attention_mask':attention_mask_t_dataset, 'token_type_ids':token_type_ids_t_datasest}或者[input_ids_t_dataset, attention_mask_t_dataset, token_type_ids_t_datasest]，可以参考HuggingFace Transformer源码


    image.png

    image.png

  2. 训练输出参数结构，总共有128，这里是我定义一句最多128个字
    label_t_dataset的结构


    image.png

    image.png

label_t_dataset转为keras model需要的格式tensor


image.png

image.png 
model.fit(x={'input_ids':input_ids_t_dataset, 'attention_mask':attention_mask_t_dataset, 'token_type_ids':token_type_ids_t_datasest},
          y=label_t_dataset,
          epochs=2,
          steps_per_epoch=1080,
          validation_steps=7,
          validation_data=([input_ids_v_dataset, attention_mask_v_dataset, token_type_ids_v_datasest], label_v_dataset))
  1. 输出参数label_t_dataset与model的logits对应的
image.png
image.png 
#从HuggingFace Transformer2.0 继承，这样可从bert返回结果，自己方便扩展
class TFMyBertModel(TFBertPreTrainedModel):
    @property
    def dummy_inputs(self):
        """ Dummy inputs to build the network.

        Returns:
            tf.Tensor with dummy inputs
        """
        return {"input_ids": tf.constant(DUMMY_INPUTS)}

    def __init__(self, config, *inputs, **kwargs):
        super().__init__(config, *inputs, **kwargs)
        self.bert = TFBertMainLayer(config, name="bert")
        #根据句子长度，生成类别的网络，这边是128个
        self.classifiers = []
        for i in range(max_length):
            self.classifiers.append(tf.keras.layers.Dense(label_category_total_num, name="classifier"+str(i)))

    def call(self, inputs, **kwargs):
        sequence_output, pooled_output = self.bert(inputs, **kwargs)
        print(sequence_output.shape)

        #传入的数据是[None, 128, 768] 转为list(128, [None, 768])，我们需要对每个字分类属于哪种的ner类型 label_category = ['B-PER', 'B-ORG', 'B-LOC', 'I-ORG', 'I-PER', 'I-LOC', 'O', 'CLS', 'SEP', 'PAD', 'UNK']
        words_output = tf.split(sequence_output, sequence_output.shape[1], 1)
        #words_output数组长度为句子长度
        logits = []
        for i,o in enumerate(words_output):
            #删除多余的维度，o这边是三维，当tf.split根据 字分组后，字还会存在多余的维度
            ot = tf.squeeze(o, axis=1)
            #生成分类结果
            logit = self.classifiers[i](ot)
            logits.append(logit)
        return logits

训练代码

import os
# os.environ["CUDA_VISIBLE_DEVICES"]="-1"
import tensorflow as tf
import numpy as np
from transformers import *

#设置ner类型
label_category = ['B-PER', 'B-ORG', 'B-LOC', 'I-ORG', 'I-PER', 'I-LOC', 'O', 'CLS', 'SEP', 'PAD', 'UNK']
#类型个数
label_category_total_num = len(label_category)
#句子长度，包含几个字
max_length = 128
#小于128的句子，mask用0填补
mask_padding_with_zero=True
pad_token=0
pad_token_segment_id=0
#虚拟的数据，HuggingFace Transformer2.0的bert模型实例化会使用到，默认是3, 5，这边我们需要keras.build初始128个所有shape=(3,128)
DUMMY_INPUTS = [np.random.randint(0,128,size=128), np.random.randint(0,128,size=128), np.random.randint(0,128,size=128)]

#该损失函数，其实是tf复制过来的，方便调试
def sparse_categorical_crossentropy(y_true, y_pred, from_logits=False, axis=-1):
    return tf.keras.backend.sparse_categorical_crossentropy(
        y_true, y_pred, from_logits=True, axis=axis)

#从HuggingFace Transformer2.0 继承，这样可从bert返回结果，自己方便扩展
class TFMyBertModel(TFBertPreTrainedModel):
    @property
    def dummy_inputs(self):
        """ Dummy inputs to build the network.

        Returns:
            tf.Tensor with dummy inputs
        """
        return {"input_ids": tf.constant(DUMMY_INPUTS)}

    def __init__(self, config, *inputs, **kwargs):
        super().__init__(config, *inputs, **kwargs)
        self.bert = TFBertMainLayer(config, name="bert")
        #根据句子长度，生成类别的网络，这边是128个
        self.classifiers = []
        for i in range(max_length):
            self.classifiers.append(tf.keras.layers.Dense(label_category_total_num, name="classifier"+str(i)))

    def call(self, inputs, **kwargs):
        sequence_output, pooled_output = self.bert(inputs, **kwargs)
        print(sequence_output.shape)

        #传入的数据是[None, 128, 768] 转为list(128, [None, 768])，我们需要对每个字分类属于哪种的ner类型 label_category = ['B-PER', 'B-ORG', 'B-LOC', 'I-ORG', 'I-PER', 'I-LOC', 'O', 'CLS', 'SEP', 'PAD', 'UNK']
        words_output = tf.split(sequence_output, sequence_output.shape[1], 1)
        #words_output数组长度为句子长度
        logits = []
        for i,o in enumerate(words_output):
            #删除多余的维度，o这边是三维，当tf.split根据 字分组后，字还会存在多余的维度
            ot = tf.squeeze(o, axis=1)
            #生成分类结果
            logit = self.classifiers[i](ot)
            logits.append(logit)
        return logits

train_path = './data_ner/train.txt'
valid_path = './data_ner/dev.txt'

#HuggingFace Transformer2.0需要的bert目录文件，这边用tf2的h5文件
pretrained_path = './my-bert-base-chinese'
config_path = os.path.join(pretrained_path, 'config.json')
vocab_path = os.path.join(pretrained_path, 'vocab.txt')

tokenizer = BertTokenizer.from_pretrained(vocab_path)
# 加载config
config = BertConfig.from_json_file(config_path)
# 加载tf原始模型
model = TFMyBertModel.from_pretrained('./mysavener/',from_pt=False) #from_pt是否来自pytorch，这边用tf所有设置假

#被预测的句子
text = '中国的华先生，我和他谈笑风生。'

#生成符合bert的输入数据input_ids attention_mask token_type_ids
inputs = tokenizer.encode_plus(text, add_special_tokens=True, max_length=max_length, )
input_ids, token_type_ids = inputs["input_ids"], inputs["token_type_ids"]
attention_mask = [1 if mask_padding_with_zero else 0] * len(input_ids)
padding_length = max_length - len(input_ids)
input_ids = input_ids + ([pad_token] * padding_length)
attention_mask = attention_mask + ([0 if mask_padding_with_zero else 1] * padding_length)
token_type_ids = token_type_ids + ([pad_token_segment_id] * padding_length)

input_ids = tf.convert_to_tensor(input_ids)[None, :]
attention_mask = tf.convert_to_tensor(attention_mask)[None, :]

pred = model(inputs={"input_ids":input_ids, 'attention_mask':attention_mask})
print(pred[0].numpy().argmax().item())
print(pred[1].numpy().argmax().item())
print(pred[2].numpy().argmax().item())
print(pred[3].numpy().argmax().item())

完整代码参考github

https://github.com/wengmingdong/tf2-stu/tree/master/bert4huggingface4tran

需要的数据在百度网盘

链接：https://pan.baidu.com/s/1dvAMo59FffwC4nKDKG-5zQ
提取码：heeh

你可能感兴趣的:(tf2 HuggingFace Transformer2.0 bert ner命名实体)

  • 一文带你了解——Spring IoC 棕豆兔＆ Springspringjava
    目录一、IoC介绍二、Bean存储2.1@Controller(控制器存储)2.1.1获取bean对象的其他方式2.1.2Bean的命名约定2.2@Service(服务存储)2.3@Repository(仓库存储)2.4@Component(组件存储)2.5@Configuration(配置存储)2.6方法注解@Bean2.6.1方法注解的使用2.6.2定义多个对象2.6.3重命名Bean2.7扫
  • springboot+redis+mybatis体会布隆过滤器 落魄程序员在线炒饼 springbootredismybatis
    1.建立数据库表和对应实体类CREATETABLE`user`(`id`int(11)NOTNULLAUTO_INCREMENT,`uname`varchar(50)DEFAULTNULL,`usex`varchar(20)DEFAULTNULL,`uage`int(11)DEFAULTNULL,PRIMARYKEY(`id`)USINGBTREE)ENGINE=InnoDBAUTO_INCREM
  • graphRAG原理解析——基于微软graphRAG+Neo4j llm-graph-builder 赖皮猫 neo4j
    知识图谱生成llm-graph-builder（以下简称LGB）也使用了最新的graph+RAG的思路，使用知识图谱来加持RAG，提供更加准确和丰富的知识问答。知识图谱的生成上，利用大模型的泛化能力来自动生成和构建知识图谱，包括实体、关系和属性等。其相较于微软开源的GraphRAG（以下简称MS-GRAG）有很多相似和同源之处，但也有很多的不同。模块能力llm-graph-builderGraph
  • 《伪装学渣》要出漫画了，作为读者的你，会支持吗？ 撒野伪装学渣188男团
    《伪装学渣》是网络作家木瓜黄创作的一部校园类青春小说，主要讲述了谢俞与贺朝伪装学渣，后来共同努力一起考上北大的故事。全书除了文字轻快幽默，带给读者无数的欢乐之外，还激励了不少的读者向谢俞、贺朝等人学习，立志考上北大。虽然这部网络小说在许多读者的心目当中地位不同凡响，但是值得一提的是，《伪装学渣》除了有实体书之外，就没有什么衍生改编作品了，其实对于很多读者来说，一直希望能够看见《伪装学渣》的动漫版本
  • 一听早上的雨 等工人
    一连几个凌晨，下几场早晨的雨，我一听，雨在窗户外说话，一边走来。我听窗边的雨，拉上散漫的脚步声，猜想雨的身影，断定性情，和雨的身体，揣摩雨的内心，轻松的雨，没有一点载重；雨点是春天中的话，和脚步，雨点属定一剂能量。天，让天地的无形物，当作苍穹，地球叫实体，当作躯体。我白天，走在马路上，看到一片大地止，张开翅膀，张开口，张开毛孔，雨水落下来，它吮上湿润，吮上甜甜的雨点，把雨水，循环在每一处大地上。两
  • Java特性 忽晚♪‎( ᷇࿀ ᷆ و(و java开发语言
    目录1.封装Java修饰符2.继承分类super关键字重载与重写的区别3.多态接口与抽象类的区别面向对象三大特性：封装，继承，多态1.封装封装（Encapsulation）是面向对象方法的重要原则，就是把对象的属性和操作（或服务）结合为一个独立的整体，并尽可能隐藏对象的内部实现细节。Java封装的主要作用是保护数据安全和提高代码的可维护性‌。‌一个简单例子：实体类的封装publicclassUse
  • 行唐县教师进修学校学习民法典 xichaoyang
    2020年8月7日，行唐县教师进修学校召开学习宣传民法典专题会议，《中华人民共和国民法典》作为一部新中国成立以来第一部以“法典”命名的法律，是新时代中国特色社会主义法制建设的重大成就。学校组织班子人员，带头学习，营造浓厚的学习气氛，吹响宣传发动的号声。我校站在全面依法治县、建设法治行唐的高度，充分认识加强民法典法制教育的重要性。学校结合实际，发动领导干部，通过悬挂宣传条幅、张贴宣传海报、微信公众号
  • http请求，结合springboot 开发爱好者er tomcat服务器与http协议学习java学习httpspringboot网络协议
    目录简单参数&实体参数get请求post请求简单参数&实体参数【总结】springboot中接受简单参数@RequestParam注解实体参数接收数组集合参数数组接收集合接收数组集合参数【总结】日期参数请求JSON参数请求路径参数请求所有请求参数类型总结简单参数实体参数数组集合参数日期参数JSON参数路径参数简单参数&实体参数get请求请求url：http://localhost:8080/sim
  • 个人docker相关笔记 知香 docker笔记容器
    `删除镜像dockerrmi-f800294d91e31#可以是镜像id或者镜像名称进入容器内部dockerexec-itnginx/bin/bash#nginx位要进入的容器名称exit#`退出容器内部将镜像打包dockersave-orabbitmq.tarrabbitmq#rabbitmq.tar将要指定的镜像打成rabbitmq.tar格式，rabbitmq是给新打的报命名将新打的镜像包复
  • 【ERPNext】采购 烟话6 python
    文章目录供应商组供应商供应商组供应商组是在某些方面相似的供应商的集合。供应商可以与承包商或分包商区分开来，后者通常会向可交付成果添加专门的输入。根据商品和他们供应的产品。ERPNext允许您创建自己的供应商类别。这些类别称为SupplierGroups。例如，如果您的供应商是主要是制药公司和快消品经销商，可以创建新的SupplierGroups并相应地命名组。供应商供应商是为您提供产品或服务的公司
  • 【ERPNext】概念与术语 烟话6 python
    文章目录公司客户供应商物料科目地址联系人财年成本中心日记账分录销售发票采购发票客户组线索商机报价销售订单区域销售合作伙伴销售人员采购订单物料需求仓库物料移动销售出货单采购收货单序列号批号物料移动凭证库存调账质量检查物料组员工公司表示系统中的公司记录，可以创建多个公司，每个公司记录代表一个单独的法人实体，每个公司的会计独立，可共享客户、供应商和物料记录主页→会计→公司客户客户可以是个人或组织机构，可
  • Bert中文预训练模型（Bert-base-chinese） 好好学习Py 自然语言处理bert人工智能深度学习pytorchpython自然语言处理
    介绍Bert-base-chinese模型是一个在简体和繁体中文文本上训练得到的预训练模型，具有以下特点：12个隐层输出768维张量12个自注意力头110M参数量该模型的主要作用是获取每个汉字的向量表示，后续通过微调可应用于各种简体和繁体中文任务。使用importtorchfromtransformersimportBertTokenizer,BertModel#第一步：离线下载#fromtran
  • 大模型是如何炼成的：揭秘深度学习训练的秘密与优化技巧 AI大模型_学习君 深度学习人工智能大模型训练ai大模型LLM大语言模型大模型应用
    引言：近年来，人工智能领域的突破性进展与大模型的崛起密不可分。从GPT-3到BERT，这些大型预训练模型在各种任务上展现出了惊人的能力。那么，这些大模型是如何训练出来的呢？本文将通过具体案例，带你走进深度学习训练的世界，一探究竟，并分享一些大模型训练过程中的优化技巧。一、数据收集与预处理数据收集：大模型的训练需要海量的数据。例如，GPT-3的训练数据包含了数十亿网页文本，而BERT则使用了维基百科
  • 结合用户生命周期，如何做用户增长？ lsp_ec22
    据网络资料显示，生命周期最早出现在营销学中，并经常与“客户”一词共同出现，指的是从企业计划与客户进行经济活动开始，直到客户与企业的经济交互完全终止的这一个过程。和实体行业提供商品服务不同，互联网用户使用app的功能及服务，不一定（往往都不）要付费，可能是因为少了点“客似云来，银财满钵”的感觉，所以看到互联网人在概述从app企图“勾搭”用户到修成正果或者分道扬镳的过程时，用“用户生命周期”会多一点。
  • 开发API如何选择数据库，看这篇就够了！ 流浪的大萝卜 学习分享数据库jsonsql
    在开发API时选择合适的数据库需考虑多方面因素：一、数据特性数据关系：若数据间关系复杂，像电商平台API需管理商品、订单、用户等多实体关联，关系型数据库如MySQL、PostgreSQL较合适。例如电商下单时需同时更新多个表数据，它们可借助事务确保数据一致性。代码示例（以MySQL为例）：sql--创建用户表CREATETABLEusers(idINTAUTO_INCREMENTPRIMARYKE
  • 今日霜降-注意养生啦 郭小
    今日霜降霜降，是二十四节气中的第十八个节气，秋季的最后一个节气。斗指戌；太阳黄经为210°；于每年公历10月23—24日交节。进入霜降节气后，深秋景象明显，冷空气南下越来越频繁。霜降时节，万物毕成，毕入于戌，阳下入地，阴气始凝，天气渐寒始于霜降。由于“霜”是天冷、昼夜温差变化大的表现，故以“霜降”命名这个表示“气温骤降、昼夜温差大”的节气。霜通常人们都认为霜降就是降霜的意思，其实不是这样的。“霜降
  • 如果一个sggk命名空间下的函数func调用了函数yu，yu所在的cpp不在namespace sggk下。yu中调用了pre，但是sggk::pre类，而且在yu函数依赖的yu.h中也定义了pre类 2401_86127755 c++
    如果一个sggk命名空间下的函数func调用了函数yu，yu所在的cpp不在namespacesggk下。yu中调用了pre，但是sggk::pre类，而且在yu函数依赖的yu.h中也定义了pre类，那么yu调用的pre类是用哪个pre在这个场景中，有几个关键点需要明确，以便确定yu函数中调用的pre类具体是哪个：命名空间的作用域：命名空间sggk下的函数func调用了不在sggk命名空间下的函数
  • 如果一个函数func定义在namespace sggk::test中，pre类定义在namespace sggk中，那么func能否调用类pre 2401_86127755 c++
    在C++中，如果一个函数func定义在命名空间sggk::test中，而类pre定义在命名空间sggk中，那么func函数可以调用pre类，但需要通过适当的命名空间解析来访问它。有几种方式可以实现这一点：使用完全限定名：在func函数内部，你可以直接使用sggk::pre来引用pre类。这是最直接且明确的方式，因为它完全指定了pre类所在的命名空间。cppnamespacesggk{classpr
  • SpringBoot集成EasyExcel实现Excel文件导入/出 码届艺术家 springbootexcel
    一，添加依赖com.alibabaeasyexcel最新版本org.projectlomboklombokorg.springframework.bootspring-boot-starter-logging二，创建实体类@ExcelProperty的属性说明value按列名去匹配Excel数据，如果名字重复，会导致只有一个实体类字段读取到数据index按列的下标去匹配Excel数据不建议inde
  • 揭示灵活分布式云平台的速效降本之道 Akamai中国 云计算分布式服务器云服务云计算云原生云存储Akamai
    如果没有云计算，商业产业会发展到何种程度？很可能至今仍然是实体产业为主。云计算和多云战略的出现使在线购物经历了一场革命。然而，如今多云本身所固有的复杂性也成为该产业的主要痛点。商业IT领袖需要改善性能控制云成本。2023年，Akamai委托ForresterConsulting进行了一项研究，重点关注了商业企业如何通过分布式云架构满足自己的各项需求。本文我们就一起看看这项研究的主要成果。“底线”是
  • ES6--《每日学习》 Oswaldhs es6学习javascript
    一、ES6相关介绍1.1、什么是ES61995年的美国，有一家名为netscape(网景)的公司打造了一款主要用于check验证的脚本语言，而恰在此时，Sun公司的java语言火的一塌糊涂，netscape公司为蹭其热度，便将该脚本语言命名为JavaScript。不料JavaScript居然被越来越多的人使用，后效仿大秦的货币统一政策将其提交给国际标准组织ECMA。该组织发布的标准被称做ECMAS
  • Vue.js之绑定style样式 cloudOnSkyline JavaScriptvue.jsjavascript
    上文介绍了如何利用Vue.js绑定类，本文将介绍通过Vue.js进行样式修改的另一种方法，即通过style来修改。核心：为元素绑定style属性，通过对象的形式赋予样式，属性名为样式名（要使用驼峰命名法），属性值为字符串。若要引入多组样式，可以利用数组，后面出现的重复属性会覆盖之前的属性，如下例中的height。当然，也可以于元素行内赋予样式，例如:style="{backgroundColor:
  • 高仿手表一般在哪里买,推荐四个靠谱渠道 鸿运工作室
    高仿手表一般在哪里买？这是很多钟表爱好者经常问的问题。随着复刻手表的流行，越来越多的人开始关注高仿手表，但是很多人不知道从哪里购买。下面，我将为大家推荐四个靠谱的购买渠道。更多详情加薇信了解：FB2260一、实体店购买对于初次购买高仿手表的人来说，实体店购买是一个不错的选择。在实体店购买可以亲自试戴，更好地感受手表的质量和大小，同时还能与店员面对面交流，了解更多关于手表的知识和注意事项。此外，实体
  • Python入门阶段---------容易错的点 记得多吃点 Python基础python开发语言
    Python中笔试中容易出错的知识点汇总前言一、Python的变量命名规范二、Python中的可变与不可变类型二、List列表1.返回值2.列表中添加新元素3.列表中append()和extend()的区别三、字符串中的切片四、字典中键值对1.字典中的键也分类型2.字典中的查总结前言本文总结了Python入门中容易混乱的知识点，大家可以在笔试前或者面试前用来回顾回顾。一、Python的变量命名规范
  • Python基础03变量与函数 向日葵般的数学人～ pythonpythonnumpy开发语言
    ###### Chapter3变量与函数VariablesandFunctions##############变量：标签物理空间存储的位置调用的时候会指向“门牌号”x=5print(x)print(x*2)y=10print(y-2)y=True##布尔类型print(y)#新的值会覆盖掉旧的值！！！#新值的数据类型不必与旧值相同##变量命名规则：#必须以字母或下划线（_）开头#命名可由字母、数字
  • 一般买高仿手表在哪里买，这5大途径不要错过 富腕表之家
    高仿手表是一种外观与高档品牌手表几乎一模一样的仿制品。由于其相似度高，并且价格相对较低，所以受到一些人的喜爱。那么，大家可能会问，高仿手表在哪里可以购买到呢？接下来我将为大家推荐十个购买高仿手表的渠道。商家联系微信:kb137139一、高仿手表在哪里买1、实体店购买，实体店是购买高仿手表最常见的渠道之一。各大品牌的实体店都可以购买到机械表，而且有各种款式可供选择，同时还能享受品牌的服务和售后保障。
  • ubuntu python环境变量_ubuntu－设置系统环境变量 jun zheng ubuntupython环境变量
    环境变量简介bashshell用一个叫做环境变量(environmentvariable)的特性来存储有关shell会话和工作环境的信息．环境变量的使用大大方便了程序或者shell中运行的脚本查找和访问内存中存储的数据和系统信息．环境变量分为全局环境变量和局部环境变量，标准的命名方式是：全局变量名用大写字母命名，局部变量用小写字母命名．这里主要介绍全局环境变量．bashshell中操作环境变量声明
  • Linux入门级常用命令行（二） 杨咩咩ing linux运维服务器
    目录1、mv指令2、rm指令3、通配符*4、chmod指令5、tar指令1、mv指令功能用于移动或重命名文件和目录的命令基本用法mv[选项]源文件或目录目标文件或目录常用选项-i：在覆盖文件之前提示用户确认。-f：强制移动或重命名，不提示用户。-n：不覆盖现有的文件。-v：显示详细的操作过程。示例移动文件：将文件file1.txt移动到目录dir1：mvfile1.txtdir1/重命名文件：将文
  • springboot jar 配置文件同级目录 启动脚本sh 并添加日志文件，日志文件定时分文件 iteye_10392 javaspringbootjar后端
    为了创建一个SpringBoot应用的启动脚本，并且配置日志输出到一个会定期分割的日志文件中，你可以按照以下步骤来进行：创建启动脚本：首先，创建一个shell脚本文件，比如命名为start-your-app.sh。配置日志文件：使用logback.xml或者application.properties来配置日志输出。如果你的应用已经有一个日志配置文件，那么你可能只需要稍微修改一下配置即可。日志文件
  • Tableau日常分析小技巧(17): 自定义日期(二) Tableau日常小技巧
    上一个技巧我们说到自定义日期功能，我们来看它的应用，数据源还是超市数据。创建一个参数，【数据类型】选择【字符串】，【允许的值】选择【列表】，在列表中输入1显示为【年】，2显示为【季度】，3显示为【月】，参数命名为日期转化，如图所示:将创建好的参数显示参数控件，再创建一个计算与创建的参数【日期转化】产生联系，if[日期转换]='1'then[订单日期(年)]elseif[日期转换]='2'then[
  • mongodb3.03开启认证 21jhf mongodb
    下载了最新mongodb3.03版本，当使用--auth 参数命令行开启mongodb用户认证时遇到很多问题，现总结如下： （百度上搜到的基本都是老版本的，看到db.addUser的就是，请忽略） Windows下我做了一个bat文件，用来启动mongodb，命令行如下： mongod --dbpath db\data --port 27017 --directoryperdb --logp
  • 【Spark103】Task not serializable bit1129 Serializable
    Task not serializable是Spark开发过程最令人头疼的问题之一，这里记录下出现这个问题的两个实例，一个是自己遇到的，另一个是stackoverflow上看到。等有时间了再仔细探究出现Task not serialiazable的各种原因以及出现问题后如何快速定位问题的所在，至少目前阶段碰到此类问题，没有什么章法 1.   package spark.exampl
  • 你所熟知的 LRU(最近最少使用) dalan_123 java
    关于LRU这个名词在很多地方或听说，或使用，接下来看下lru缓存回收的实现 1、大体的想法     a、查询出最近最晚使用的项     b、给最近的使用的项做标记 通过使用链表就可以完成这两个操作，关于最近最少使用的项只需要返回链表的尾部；标记最近使用的项，只需要将该项移除并放置到头部，那么难点就出现 你如何能够快速在链表定位对应的该项？ 这时候多
  • Javascript 跨域 周凡杨 JavaScriptjsonp跨域cross-domain
                                       
  • linux下安装apache服务器 g21121 apache
    安装apache 下载windows版本apache，下载地址：http://httpd.apache.org/download.cgi   1.windows下安装apache Windows下安装apache比较简单，注意选择路径和端口即可，这里就不再赘述了。 2.linux下安装apache： 下载之后上传到linux的相关目录，这里指定为/home/apach
  • FineReport的JS编辑框和URL地址栏语法简介 老A不折腾 finereportweb报表报表软件语法总结
      JS编辑框： 1.FineReport的js。 作为一款BS产品，browser端的JavaScript是必不可少的。 FineReport中的js是已经调用了finereport.js的。 大家知道，预览报表时，报表servlet会将cpt模板转为html，在这个html的head头部中会引入FineReport的js，这个finereport.js中包含了许多内置的fun
  • 根据STATUS信息对MySQL进行优化 墙头上一根草 status
    mysql  查看当前正在执行的操作，即正在执行的sql语句的方法为:      show processlist 命令   mysql> show global status;可以列出MySQL服务器运行各种状态值，我个人较喜欢的用法是show status like '查询值%';一、慢查询mysql> show variab
  • 我的spring学习笔记7-Spring的Bean配置文件给Bean定义别名 aijuans Spring 3
    本文介绍如何给Spring的Bean配置文件的Bean定义别名？ 原始的 <bean id="business" class="onlyfun.caterpillar.device.Business"> <property name="writer"> <ref b
  • 高性能mysql 之 性能剖析 annan211 性能mysqlmysql 性能剖析剖析
    1 定义性能优化 mysql服务器性能，此处定义为 响应时间。 在解释性能优化之前，先来消除一个误解，很多人认为，性能优化就是降低cpu的利用率或者减少对资源的使用。 这是一个陷阱。 资源时用来消耗并用来工作的，所以有时候消耗更多的资源能够加快查询速度，保持cpu忙绿，这是必要的。很多时候发现 编译进了新版本的InnoDB之后，cpu利用率上升的很厉害，这并不
  • 主外键和索引唯一性约束 百合不是茶 索引唯一性约束主外键约束联机删除
    目标;第一步;创建两张表 用户表和文章表         第二步;发表文章       1,建表; ---用户表 BlogUsers --userID唯一的 --userName --pwd --sex create
  • 线程的调度 bijian1013 java多线程thread线程的调度java多线程
    1.       Java提供一个线程调度程序来监控程序中启动后进入可运行状态的所有线程。线程调度程序按照线程的优先级决定应调度哪些线程来执行。   2.       多数线程的调度是抢占式的（即我想中断程序运行就中断，不需要和将被中断的程序协商） a) 
  • 查看日志常用命令 bijian1013 linux命令unix
    一.日志查找方法，可以用通配符查某台主机上的所有服务器grep "关键字" /wls/applogs/custom-*/error.log   二.查看日志常用命令1.grep '关键字' error.log：在error.log中搜索'关键字'2.grep -C10 '关键字' error.log：显示关键字前后10行记录3.grep '关键字' error.l
  • 【持久化框架MyBatis3一】MyBatis版HelloWorld bit1129 helloworld
    MyBatis这个系列的文章，主要参考《Java Persistence with MyBatis 3》。   样例数据 本文以MySQL数据库为例，建立一个STUDENTS表，插入两条数据，然后进行单表的增删改查     CREATE TABLE STUDENTS ( stud_id int(11) NOT NULL AUTO_INCREMENT,
  • 【Hadoop十五】Hadoop Counter bit1129 hadoop
       1. 只有Map任务的Map Reduce Job File System Counters FILE: Number of bytes read=3629530 FILE: Number of bytes written=98312 FILE: Number of read operations=0 FILE: Number of lar
  • 解决Tomcat数据连接池无法释放 ronin47 tomcat 连接池　优化
    近段时间，公司的检测中心报表系统(SMC)的开发人员时不时找到我，说用户老是出现无法登录的情况。前些日子因为手头上 有Jboss集群的测试工作，发现用户不能登录时，都是在Tomcat中将这个项目Reload一下就好了，不过只是治标而已，因为大概几个小时之后又会 再次出现无法登录的情况。 今天上午，开发人员小毛又找到我，要我协助将这个问题根治一下，拖太久用户难保不投诉。 简单分析了一
  • java-75-二叉树两结点的最低共同父结点 bylijinnan java
    import java.util.LinkedList; import java.util.List; import ljn.help.*; public class BTreeLowestParentOfTwoNodes { public static void main(String[] args) { /* * node data is stored in
  • 行业垂直搜索引擎网页抓取项目 carlwu LuceneNutchHeritrixSolr
    公司有一个搜索引擎项目，希望各路高人有空来帮忙指导，谢谢！ 这是详细需求： （1） 通过提供的网站地址(大概100-200个网站)，网页抓取程序能不断抓取网页和其它类型的文件（如Excel、PDF、Word、ppt及zip类型），并且程序能够根据事先提供的规则，过滤掉不相干的下载内容。 （2） 程序能够搜索这些抓取的内容，并能对这些抓取文件按照油田名进行分类，然后放到服务器不同的目录中。
  • [通讯与服务]在总带宽资源没有大幅增加之前,不适宜大幅度降低资费 comsci 资源
          降低通讯服务资费，就意味着有更多的用户进入，就意味着通讯服务提供商要接待和服务更多的用户，在总体运维成本没有由于技术升级而大幅下降的情况下，这种降低资费的行为将导致每个用户的平均带宽不断下降，而享受到的服务质量也在下降，这对用户和服务商都是不利的。。。。。。。。     &nbs
  • Java时区转换及时间格式 Cwind java
    本文介绍Java API 中 Date, Calendar, TimeZone和DateFormat的使用，以及不同时区时间相互转化的方法和原理。   问题描述： 向处于不同时区的服务器发请求时需要考虑时区转换的问题。譬如，服务器位于东八区（北京时间，GMT+8:00），而身处东四区的用户想要查询当天的销售记录。则需把东四区的“今天”这个时间范围转换为服务器所在时区的时间范围。
  • readonly,只读，不可用 dashuaifu jsjspdisablereadOnlyreadOnly
    readOnly 和 readonly 不同，在做js开发时一定要注意函数大小写和jsp黄线的警告！！！我就经历过这么一件事： 使用readOnly在某些浏览器或同一浏览器不同版本有的可以实现“只读”功能，有的就不行，而且函数readOnly有黄线警告！！！就这样被折磨了不短时间！！！（期间使用过disable函数，但是发现disable函数之后后台接收不到前台的的数据！！！）  
  • LABjs、RequireJS、SeaJS 介绍 dcj3sjt126com jsWeb
    LABjs 的核心是 LAB（Loading and Blocking）：Loading 指异步并行加载，Blocking 是指同步等待执行。LABjs 通过优雅的语法（script 和 wait）实现了这两大特性，核心价值是性能优化。LABjs 是一个文件加载器。RequireJS 和 SeaJS 则是模块加载器，倡导的是一种模块化开发理念，核心价值是让 JavaScript 的模块化开发变得更
  • [应用结构]入口脚本 dcj3sjt126com PHPyii2
    入口脚本 入口脚本是应用启动流程中的第一环，一个应用（不管是网页应用还是控制台应用）只有一个入口脚本。终端用户的请求通过入口脚本实例化应用并将将请求转发到应用。 Web 应用的入口脚本必须放在终端用户能够访问的目录下，通常命名为 index.php，也可以使用 Web 服务器能定位到的其他名称。 控制台应用的入口脚本一般在应用根目录下命名为 yii（后缀为.php），该文
  • haoop shell命令 eksliang hadoophadoop shell
    cat chgrp chmod chown copyFromLocal copyToLocal cp du dus expunge get getmerge ls lsr mkdir movefromLocal mv put rm rmr setrep stat tail test text
  • MultiStateView不同的状态下显示不同的界面 gundumw100 android
    只要将指定的view放在该控件里面，可以该view在不同的状态下显示不同的界面，这对ListView很有用，比如加载界面，空白界面，错误界面。而且这些见面由你指定布局，非常灵活。 PS：ListView虽然可以设置一个EmptyView，但使用起来不方便，不灵活，有点累赘。 <com.kennyc.view.MultiStateView xmlns:android=&qu
  • jQuery实现页面内锚点平滑跳转 ini JavaScripthtmljqueryhtml5css
    平时我们做导航滚动到内容都是通过锚点来做，刷的一下就直接跳到内容了，没有一丝的滚动效果，而且 url 链接最后会有“小尾巴”，就像#keleyi，今天我就介绍一款 jquery 做的滚动的特效，既可以设置滚动速度，又可以在 url 链接上没有“小尾巴”。   效果体验：http://keleyi.com/keleyi/phtml/jqtexiao/37.htmHTML文件代码： &
  • kafka offset迁移 kane_xie kafka
    在早前的kafka版本中（0.8.0），offset是被存储在zookeeper中的。   到当前版本（0.8.2）为止，kafka同时支持offset存储在zookeeper和offset manager（broker）中。   从官方的说明来看，未来offset的zookeeper存储将会被弃用。因此现有的基于kafka的项目如果今后计划保持更新的话，可以考虑在合适
  • android > 搭建 cordova 环境 mft8899 android
      1 , 安装 node.js        http://nodejs.org      node -v   查看版本   2, 安装 npm   可以先从  https://github.com/isaacs/npm/tags  下载 源码 解压到
  • java封装的比较器，比较是否全相同，获取不同字段名字 qifeifei
     非常实用的java比较器，贴上代码： import java.util.HashSet; import java.util.List; import java.util.Set; import net.sf.json.JSONArray; import net.sf.json.JSONObject; import net.sf.json.JsonConfig; i
  • 记录一些函数用法 .Aky. 位运算PHP数据库函数IP
    高手们照旧忽略。 想弄个全天朝IP段数据库，找了个今天最新更新的国内所有运营商IP段，copy到文件，用文件函数，字符串函数把玩下。分割出startIp和endIp这样格式写入.txt文件，直接用phpmyadmin导入.csv文件的形式导入。（生命在于折腾，也许你们觉得我傻X，直接下载人家弄好的导入不就可以，做自己的菜鸟，让别人去说吧） 当然用到了ip2long()函数把字符串转为整型数
  • sublime text 3 rust wudixiaotie Sublime Text
    1.sublime text 3 => install package => Rust 2.cd ~/.config/sublime-text-3/Packages 3.mkdir rust 4.git clone https://github.com/sp0/rust-style 5.cd rust-style 6.cargo build --release 7.ctrl
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他