论文复现：Learning both Weights and Connections for Efficient Neural Networks

论文核心

论文提出了非结构化剪枝策略，针对卷积层权重进行剪枝，并提出了著名的三步走剪枝策略。判断权重重要性的方式是对权重进行 $L 1$ 或 $L 2$ 正则化，然后按照一定的剪枝比例使正则化值较小的权重为0。

论文细节品读

模型压缩意义：论文从功耗方面讨论了模型需要被压缩的原因，神经网络越大，参数量和计算量越大，导致模型在前向推理时功耗越大，这对移动端和嵌入式端是残酷的。并且大模型无法存储在SRAM 中（由于工艺原因，SRAM 一般只有几M 到几十M ），只能存储在DRAM 中，而从DRAM 中读取模型数据时，功耗会是SRAM 的100多倍。

正则化方式：论文提出了 $L 1$ 和 $L 2$ 正则化两种方式来判断权重重要性，经过实验， $L 2$ 正则化效果更好。

神经元剪枝：经过权重修剪后，修剪部分权重为0，因此可将对应的神经元、梯度同时剪枝（置零）。论文有提到这一点，但是看论文作者提供的源码，没有进行这一步操作（也许是代码版本原因，该部分可自行拓展）。

论文复现

一：选取数据集、模型、优化器等
本人在此选择 cifar10 数据集，模型选择 resnet18 ,其他细节略过。（作者源码都有此部分的配置，可阅读源码）

二：模型训练
在作者论文基础上添加了可视化部分代码

def paint_vinz(epoch):
    global test_loss, train_loss, train_top1, test_top1, train_error_history, test_error_history

    viz.line(X=epoch_p,
             Y=np.column_stack((np.array(train_error_history), np.array(test_error_history))),
             win=line, opts=dict(legend=['train_error', 'test_error']))

    # visdom text 支持html语句
    viz.text(
        "epoch: {}

"
        "train_loss: {:.4f}

"
        "test_loss: {:.4f}

"
        "train_top1: {:.4f}

"
        "test_top1: {:.4f}

"
        "Time: {}
".format(
            epoch+1, train_loss, test_loss, train_top1, test_top1,
            time.strftime('%H:%M:%S', time.gmtime(time.time() - start_time))), win=text)

三：未剪枝模型params & FLOPs 计算
这里使用的 torhcstat 包用来统计模型相关参数，贴上个人代码。论文作者在源码中统计的不是模型的参数量，而是非零参数，这一点后面讨论。

# 注意该部分代码也要配合论文作者源码，才能正常使用
import os
import torch
from utils import*
from models import get_model
import argparse
from torchstat import stat

parser = argparse.ArgumentParser(description="model params counting test")
parser.add_argument('--resume', default='', type=str, metavar='PATH',
                    help='path to latest checkpoint (default: none)')

args = parser.parse_args()

model = get_model('resnet18')

if args.resume:
    if os.path.isfile(args.resume):
        print("=> loading checkpoint '{}'".format(args.resume))
        checkpoint = torch.load(args.resume)
        model.load_state_dict(checkpoint['net'], strict=False)
    else:
        print("=> no checkpoint found at '{}'".format(args.resume))

stat(model, (3, 32, 32))

```python
                          module name  input shape output shape      params memory(MB)             MAdd          Flops  MemRead(B)  MemWrite(B) duration[%]   MemR+W(B)
0                   conv_bn_relu.conv    3  32  32   64  32  32      1728.0       0.25      3,473,408.0    1,769,472.0     19200.0     262144.0       0.00%    281344.0
1                     conv_bn_relu.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
2                   conv_bn_relu.relu   64  32  32   64  32  32         0.0       0.25         65,536.0       65,536.0    262144.0     262144.0       0.00%    524288.0
3                 layer1.0.conv1.conv   64  32  32   64  32  32     36864.0       0.25     75,431,936.0   37,748,736.0    409600.0     262144.0       0.00%    671744.0
4                   layer1.0.conv1.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
5                 layer1.0.conv1.relu   64  32  32   64  32  32         0.0       0.25         65,536.0       65,536.0    262144.0     262144.0       0.00%    524288.0
6                 layer1.0.conv2.conv   64  32  32   64  32  32     36864.0       0.25     75,431,936.0   37,748,736.0    409600.0     262144.0       0.00%    671744.0
7                   layer1.0.conv2.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
8                 layer1.0.conv2.relu   64  32  32   64  32  32         0.0       0.25              0.0            0.0         0.0          0.0       0.00%         0.0
9                   layer1.0.shortcut   64  32  32   64  32  32         0.0       0.25              0.0            0.0         0.0          0.0       0.00%         0.0
10                layer1.1.conv1.conv   64  32  32   64  32  32     36864.0       0.25     75,431,936.0   37,748,736.0    409600.0     262144.0       0.00%    671744.0
11                  layer1.1.conv1.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
12                layer1.1.conv1.relu   64  32  32   64  32  32         0.0       0.25         65,536.0       65,536.0    262144.0     262144.0       0.00%    524288.0
13                layer1.1.conv2.conv   64  32  32   64  32  32     36864.0       0.25     75,431,936.0   37,748,736.0    409600.0     262144.0       0.00%    671744.0
14                  layer1.1.conv2.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
15                layer1.1.conv2.relu   64  32  32   64  32  32         0.0       0.25              0.0            0.0         0.0          0.0       0.00%         0.0
16                  layer1.1.shortcut   64  32  32   64  32  32         0.0       0.25              0.0            0.0         0.0          0.0       0.00%         0.0
17                layer2.0.conv1.conv   64  32  32  128  16  16     73728.0       0.12     37,715,968.0   18,874,368.0    557056.0     131072.0       0.00%    688128.0
18                  layer2.0.conv1.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
19                layer2.0.conv1.relu  128  16  16  128  16  16         0.0       0.12         32,768.0       32,768.0    131072.0     131072.0       0.00%    262144.0
20                layer2.0.conv2.conv  128  16  16  128  16  16    147456.0       0.12     75,464,704.0   37,748,736.0    720896.0     131072.0       0.00%    851968.0
21                  layer2.0.conv2.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
22                layer2.0.conv2.relu  128  16  16  128  16  16         0.0       0.12              0.0            0.0         0.0          0.0       0.00%         0.0
23     layer2.0.shortcut.conv_bn.conv   64  32  32  128  16  16      8192.0       0.12      4,161,536.0    2,097,152.0    294912.0     131072.0       0.00%    425984.0
24       layer2.0.shortcut.conv_bn.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
25     layer2.0.shortcut.conv_bn.relu  128  16  16  128  16  16         0.0       0.12              0.0            0.0         0.0          0.0       0.00%         0.0
26                layer2.1.conv1.conv  128  16  16  128  16  16    147456.0       0.12     75,464,704.0   37,748,736.0    720896.0     131072.0       0.00%    851968.0
27                  layer2.1.conv1.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
28                layer2.1.conv1.relu  128  16  16  128  16  16         0.0       0.12         32,768.0       32,768.0    131072.0     131072.0       0.00%    262144.0
29                layer2.1.conv2.conv  128  16  16  128  16  16    147456.0       0.12     75,464,704.0   37,748,736.0    720896.0     131072.0       0.00%    851968.0
30                  layer2.1.conv2.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
31                layer2.1.conv2.relu  128  16  16  128  16  16         0.0       0.12              0.0            0.0         0.0          0.0       0.00%         0.0
32                  layer2.1.shortcut  128  16  16  128  16  16         0.0       0.12              0.0            0.0         0.0          0.0       0.00%         0.0
33                layer3.0.conv1.conv  128  16  16  256   8   8    294912.0       0.06     37,732,352.0   18,874,368.0   1310720.0      65536.0       0.00%   1376256.0
34                  layer3.0.conv1.bn  256   8   8  256   8   8       512.0       0.06         65,536.0       32,768.0     67584.0      65536.0       0.00%    133120.0
35                layer3.0.conv1.relu  256   8   8  256   8   8         0.0       0.06         16,384.0       16,384.0     65536.0      65536.0       0.00%    131072.0
36                layer3.0.conv2.conv  256   8   8  256   8   8    589824.0       0.06     75,481,088.0   37,748,736.0   2424832.0      65536.0       0.00%   2490368.0
37                  layer3.0.conv2.bn  256   8   8  256   8   8       512.0       0.06         65,536.0       32,768.0     67584.0      65536.0       0.00%    133120.0
38                layer3.0.conv2.relu  256   8   8  256   8   8         0.0       0.06              0.0            0.0         0.0          0.0       0.00%         0.0
39     layer3.0.shortcut.conv_bn.conv  128  16  16  256   8   8     32768.0       0.06      4,177,920.0    2,097,152.0    262144.0      65536.0       0.00%    327680.0
40       layer3.0.shortcut.conv_bn.bn  256   8   8  256   8   8       512.0       0.06         65,536.0       32,768.0     67584.0      65536.0       0.00%    133120.0
41     layer3.0.shortcut.conv_bn.relu  256   8   8  256   8   8         0.0       0.06              0.0            0.0         0.0          0.0       0.00%         0.0
42                layer3.1.conv1.conv  256   8   8  256   8   8    589824.0       0.06     75,481,088.0   37,748,736.0   2424832.0      65536.0       0.00%   2490368.0
43                  layer3.1.conv1.bn  256   8   8  256   8   8       512.0       0.06         65,536.0       32,768.0     67584.0      65536.0       0.00%    133120.0
44                layer3.1.conv1.relu  256   8   8  256   8   8         0.0       0.06         16,384.0       16,384.0     65536.0      65536.0       0.00%    131072.0
45                layer3.1.conv2.conv  256   8   8  256   8   8    589824.0       0.06     75,481,088.0   37,748,736.0   2424832.0      65536.0       0.00%   2490368.0
46                  layer3.1.conv2.bn  256   8   8  256   8   8       512.0       0.06         65,536.0       32,768.0     67584.0      65536.0       0.00%    133120.0
47                layer3.1.conv2.relu  256   8   8  256   8   8         0.0       0.06              0.0            0.0         0.0          0.0       0.00%         0.0
48                  layer3.1.shortcut  256   8   8  256   8   8         0.0       0.06              0.0            0.0         0.0          0.0       0.00%         0.0
49                layer4.0.conv1.conv  256   8   8  512   4   4   1179648.0       0.03     37,740,544.0   18,874,368.0   4784128.0      32768.0       0.00%   4816896.0
50                  layer4.0.conv1.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.00%     69632.0
51                layer4.0.conv1.relu  512   4   4  512   4   4         0.0       0.03          8,192.0        8,192.0     32768.0      32768.0       0.00%     65536.0
52                layer4.0.conv2.conv  512   4   4  512   4   4   2359296.0       0.03     75,489,280.0   37,748,736.0   9469952.0      32768.0       0.00%   9502720.0
53                  layer4.0.conv2.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.00%     69632.0
54                layer4.0.conv2.relu  512   4   4  512   4   4         0.0       0.03              0.0            0.0         0.0          0.0       0.00%         0.0
55     layer4.0.shortcut.conv_bn.conv  256   8   8  512   4   4    131072.0       0.03      4,186,112.0    2,097,152.0    589824.0      32768.0       0.00%    622592.0
56       layer4.0.shortcut.conv_bn.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.00%     69632.0
57     layer4.0.shortcut.conv_bn.relu  512   4   4  512   4   4         0.0       0.03              0.0            0.0         0.0          0.0       0.00%         0.0
58                layer4.1.conv1.conv  512   4   4  512   4   4   2359296.0       0.03     75,489,280.0   37,748,736.0   9469952.0      32768.0       0.00%   9502720.0
59                  layer4.1.conv1.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.00%     69632.0
60                layer4.1.conv1.relu  512   4   4  512   4   4         0.0       0.03          8,192.0        8,192.0     32768.0      32768.0       0.00%     65536.0
61                layer4.1.conv2.conv  512   4   4  512   4   4   2359296.0       0.03     75,489,280.0   37,748,736.0   9469952.0      32768.0       0.00%   9502720.0
62                  layer4.1.conv2.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.00%     69632.0
63                layer4.1.conv2.relu  512   4   4  512   4   4         0.0       0.03              0.0            0.0         0.0          0.0       0.00%         0.0
64                  layer4.1.shortcut  512   4   4  512   4   4         0.0       0.03              0.0            0.0         0.0          0.0       0.00%         0.0
65                             linear          512           10      5130.0       0.00         10,230.0        5,120.0     22568.0         40.0       0.00%     22608.0
total                                                            11173962.0       7.75  1,112,999,926.0  556,962,816.0     22568.0         40.0       0.00%  57227600.0
=======================================================================================================================================================================
Total params: 11,173,962
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------
Total memory: 7.75MB
Total MAdd: 1.11GMAdd
Total Flops: 556.96MFlops
Total MemR+W: 54.58MB

使用论文作者代码计算卷积层非零参数个数，代码如下：

# count only conv params for now
def get_no_params(net, verbose=False, mask=False):
    params = net
    tot = 0
    for p in params:
        no = torch.sum(params[p] != 0)
        if "conv" in p:
            tot += no
    return tot

实验结果如下：

tensor(11178452)

论文作者虽然只是统计了卷积层参数量，发现结果和使用 torchstat 几乎相同，这是因为 resnet 卷积层参数占绝大部分比重，可以通过上图各层参数量统计结果看出原因所在。此时还未剪枝，所有参数均不为零，所以卷积层非零参数量即为卷积层总参数量。

四：模型权重剪枝
论文作者源码提供的是使用L1正则化的策略，unstructured_prune函数，并非直接修改模型 state_dict ，而是生成 mask ，也就是说，模型经过该函数处理后，只是更新了模型的 mask 。阅读源码发现模型权重实质改变发生在在前向推理过程中。

    def unstructured_prune(self, model, prune_rate=50.0):

        # get all the prunable convolutions
        convs = model.get_prunable_layers(pruning_type=self.pruning_type)

        # collate all weights into a single vector so l1-threshold can be calculated
        all_weights = torch.Tensor()
        if torch.cuda.is_available():
            all_weights = all_weights.cuda()
        for conv in convs:
            # 将所有层的weight拼接起来
            all_weights = torch.cat((all_weights.view(-1), conv.conv.weight.view(-1)))
        abs_weights = torch.abs(all_weights.detach())
        # 找出百分位数，设置阈值
        threshold = np.percentile(abs_weights.cpu().numpy(), prune_rate)
        # prune anything beneath l1-threshold
        for conv in model.get_prunable_layers(pruning_type=self.pruning_type):
            conv.mask.update(
                # 逐乘
                torch.mul(
                    torch.gt(torch.abs(conv.conv.weight), torch.as_tensor(np.array(threshold).astype('float')).cuda()).float(),
                    conv.mask.mask.weight.cuda(),
                )
            )

剪枝完之后就是微调-finetune操作，即每修剪一次，就进行100个 batch 的训练。每次微调之后权重为0的参数会再训练，得到更新后不再为0。

def finetune(model, trainloader, criterion, optimizer, steps=100):
    # switch to train mode
    model.train()
    dataiter = iter(trainloader)
    for i in range(steps):
        try:
            input, target = dataiter.next()
        except StopIteration:
            dataiter = iter(trainloader)
            input, target = dataiter.next()

        input, target = input.to(device), target.to(device)

        # compute output
        output = model(input)
        loss = criterion(output, target)

        # compute gradient and do SGD step
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()

测试微调之后权重为0的参数变化情况：

pruner.prune(model, prune_rate)
print("训练前=================={}".format(get_no_params(model.state_dict())))
finetune(model, trainloader, criterion, optimizer, args.finetune_steps)
print("训练后=================={}".format(get_no_params(model.state_dict())))
validate(model, prune_rate, testloader, criterion, optimizer)
print("测试后=================={}".format(get_no_params(model.state_dict())))

结果如下：

训练前==================11178452
训练后==================11178452
测试后==================10062528

上面实验证明，微调之后所有零参数重新得到训练成为非零参数，模型更鲁棒。而真正产生权重剪枝效果发生在测试时前向推理的过程。

依次递增剪枝率，实验结果如下，可见在剪枝率为85%时还有很好的表现效果。

prune rate:0.0, no zero param:11178451, err:4.16
prune rate:5.0, no zero param:10620490, err:4.64
prune rate:10.0, no zero param:10062528, err:4.66
prune rate:15.0, no zero param:9504567, err:4.69
prune rate:20.0, no zero param:8946605, err:4.5
prune rate:25.0, no zero param:8388644, err:4.52
prune rate:30.0, no zero param:7830680, err:4.53
prune rate:35.0, no zero param:7272721, err:4.53
prune rate:40.0, no zero param:6714759, err:4.51
prune rate:45.0, no zero param:6156797, err:4.44
prune rate:50.0, no zero param:5598836, err:4.52
prune rate:55.0, no zero param:5040874, err:4.5
prune rate:60.0, no zero param:4482913, err:4.68
prune rate:65.0, no zero param:3924949, err:4.67
prune rate:70.0, no zero param:3366990, err:4.64
prune rate:75.0, no zero param:2809028, err:4.67
prune rate:80.0, no zero param:2251067, err:5.01
prune rate:85.0, no zero param:1693105, err:5.46
prune rate:90.0, no zero param:1135143, err:8.22
prune rate:95.0, no zero param:577182, err:31.93

下面是关键部分实验，使用 torchstat 测试剪枝率为85%的模型，结果如下，通过结果发现，模型的参数量、计算量没有发生任何改变，即使权重非零参数只有1.7M，只有最初的11.17M的十分之一。

                          module name  input shape output shape      params memory(MB)             MAdd          Flops  MemRead(B)  MemWrite(B) duration[%]   MemR+W(B)
0                   conv_bn_relu.conv    3  32  32   64  32  32      1728.0       0.25      3,473,408.0    1,769,472.0     19200.0     262144.0       0.00%    281344.0
1                     conv_bn_relu.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
2                   conv_bn_relu.relu   64  32  32   64  32  32         0.0       0.25         65,536.0       65,536.0    262144.0     262144.0       0.00%    524288.0
3                 layer1.0.conv1.conv   64  32  32   64  32  32     36864.0       0.25     75,431,936.0   37,748,736.0    409600.0     262144.0      89.46%    671744.0
4                   layer1.0.conv1.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
5                 layer1.0.conv1.relu   64  32  32   64  32  32         0.0       0.25         65,536.0       65,536.0    262144.0     262144.0       0.00%    524288.0
6                 layer1.0.conv2.conv   64  32  32   64  32  32     36864.0       0.25     75,431,936.0   37,748,736.0    409600.0     262144.0       0.00%    671744.0
7                   layer1.0.conv2.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
8                 layer1.0.conv2.relu   64  32  32   64  32  32         0.0       0.25              0.0            0.0         0.0          0.0       0.00%         0.0
9                   layer1.0.shortcut   64  32  32   64  32  32         0.0       0.25              0.0            0.0         0.0          0.0       0.00%         0.0
10                layer1.1.conv1.conv   64  32  32   64  32  32     36864.0       0.25     75,431,936.0   37,748,736.0    409600.0     262144.0       0.00%    671744.0
11                  layer1.1.conv1.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
12                layer1.1.conv1.relu   64  32  32   64  32  32         0.0       0.25         65,536.0       65,536.0    262144.0     262144.0       0.00%    524288.0
13                layer1.1.conv2.conv   64  32  32   64  32  32     36864.0       0.25     75,431,936.0   37,748,736.0    409600.0     262144.0       0.00%    671744.0
14                  layer1.1.conv2.bn   64  32  32   64  32  32       128.0       0.25        262,144.0      131,072.0    262656.0     262144.0       0.00%    524800.0
15                layer1.1.conv2.relu   64  32  32   64  32  32         0.0       0.25              0.0            0.0         0.0          0.0       0.00%         0.0
16                  layer1.1.shortcut   64  32  32   64  32  32         0.0       0.25              0.0            0.0         0.0          0.0       0.00%         0.0
17                layer2.0.conv1.conv   64  32  32  128  16  16     73728.0       0.12     37,715,968.0   18,874,368.0    557056.0     131072.0       0.00%    688128.0
18                  layer2.0.conv1.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
19                layer2.0.conv1.relu  128  16  16  128  16  16         0.0       0.12         32,768.0       32,768.0    131072.0     131072.0       0.00%    262144.0
20                layer2.0.conv2.conv  128  16  16  128  16  16    147456.0       0.12     75,464,704.0   37,748,736.0    720896.0     131072.0       0.00%    851968.0
21                  layer2.0.conv2.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
22                layer2.0.conv2.relu  128  16  16  128  16  16         0.0       0.12              0.0            0.0         0.0          0.0       0.00%         0.0
23     layer2.0.shortcut.conv_bn.conv   64  32  32  128  16  16      8192.0       0.12      4,161,536.0    2,097,152.0    294912.0     131072.0       0.00%    425984.0
24       layer2.0.shortcut.conv_bn.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
25     layer2.0.shortcut.conv_bn.relu  128  16  16  128  16  16         0.0       0.12              0.0            0.0         0.0          0.0       0.00%         0.0
26                layer2.1.conv1.conv  128  16  16  128  16  16    147456.0       0.12     75,464,704.0   37,748,736.0    720896.0     131072.0       9.69%    851968.0
27                  layer2.1.conv1.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
28                layer2.1.conv1.relu  128  16  16  128  16  16         0.0       0.12         32,768.0       32,768.0    131072.0     131072.0       0.00%    262144.0
29                layer2.1.conv2.conv  128  16  16  128  16  16    147456.0       0.12     75,464,704.0   37,748,736.0    720896.0     131072.0       0.00%    851968.0
30                  layer2.1.conv2.bn  128  16  16  128  16  16       256.0       0.12        131,072.0       65,536.0    132096.0     131072.0       0.00%    263168.0
31                layer2.1.conv2.relu  128  16  16  128  16  16         0.0       0.12              0.0            0.0         0.0          0.0       0.00%         0.0
32                  layer2.1.shortcut  128  16  16  128  16  16         0.0       0.12              0.0            0.0         0.0          0.0       0.00%         0.0
33                layer3.0.conv1.conv  128  16  16  256   8   8    294912.0       0.06     37,732,352.0   18,874,368.0   1310720.0      65536.0       0.00%   1376256.0
34                  layer3.0.conv1.bn  256   8   8  256   8   8       512.0       0.06         65,536.0       32,768.0     67584.0      65536.0       0.00%    133120.0
47                layer3.1.conv2.relu  256   8   8  256   8   8         0.0       0.06              0.0            0.0         0.0          0.0       0.00%         0.0
48                  layer3.1.shortcut  256   8   8  256   8   8         0.0       0.06              0.0            0.0         0.0          0.0       0.00%         0.0
49                layer4.0.conv1.conv  256   8   8  512   4   4   1179648.0       0.03     37,740,544.0   18,874,368.0   4784128.0      32768.0       0.00%   4816896.0
50                  layer4.0.conv1.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.00%     69632.0
51                layer4.0.conv1.relu  512   4   4  512   4   4         0.0       0.03          8,192.0        8,192.0     32768.0      32768.0       0.00%     65536.0
52                layer4.0.conv2.conv  512   4   4  512   4   4   2359296.0       0.03     75,489,280.0   37,748,736.0   9469952.0      32768.0       0.00%   9502720.0
53                  layer4.0.conv2.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.84%     69632.0
54                layer4.0.conv2.relu  512   4   4  512   4   4         0.0       0.03              0.0            0.0         0.0          0.0       0.00%         0.0
55     layer4.0.shortcut.conv_bn.conv  256   8   8  512   4   4    131072.0       0.03      4,186,112.0    2,097,152.0    589824.0      32768.0       0.00%    622592.0
56       layer4.0.shortcut.conv_bn.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.00%     69632.0
57     layer4.0.shortcut.conv_bn.relu  512   4   4  512   4   4         0.0       0.03              0.0            0.0         0.0          0.0       0.00%         0.0
58                layer4.1.conv1.conv  512   4   4  512   4   4   2359296.0       0.03     75,489,280.0   37,748,736.0   9469952.0      32768.0       0.00%   9502720.0
59                  layer4.1.conv1.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.00%     69632.0
60                layer4.1.conv1.relu  512   4   4  512   4   4         0.0       0.03          8,192.0        8,192.0     32768.0      32768.0       0.00%     65536.0
61                layer4.1.conv2.conv  512   4   4  512   4   4   2359296.0       0.03     75,489,280.0   37,748,736.0   9469952.0      32768.0       0.00%   9502720.0
62                  layer4.1.conv2.bn  512   4   4  512   4   4      1024.0       0.03         32,768.0       16,384.0     36864.0      32768.0       0.00%     69632.0
63                layer4.1.conv2.relu  512   4   4  512   4   4         0.0       0.03              0.0            0.0         0.0          0.0       0.00%         0.0
64                  layer4.1.shortcut  512   4   4  512   4   4         0.0       0.03              0.0            0.0         0.0          0.0       0.00%         0.0
65                             linear          512           10      5130.0       0.00         10,230.0        5,120.0     22568.0         40.0       0.00%     22608.0
total                                                            11173962.0       7.75  1,112,999,926.0  556,962,816.0     22568.0         40.0     100.00%  57227600.0
=======================================================================================================================================================================
Total params: 11,173,962
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------
Total memory: 7.75MB
Total MAdd: 1.11GMAdd
Total Flops: 556.96MFlops
Total MemR+W: 54.58MB

总结

通过对该篇论文的复现，深刻体会到了非结构化剪枝的绝望之处，0参数的数量不会对模型实际作用产生任何正面作用，这也是多篇论文提到为何稀疏矩阵无法产生实际加速效果，稀疏矩阵无法利用BLAS库，。若想加速稀疏矩阵，则需要配套相应的硬件和软件驱动，这是一个大工程，本人就不继续研究了。
不过本篇论文的三步走思想，确实是经典，在结构化剪枝中也发挥着重要的作用，后续会继续更新结构化剪枝相关论文的复现实验。

女儿考研完报考雅思捡拾流年
是否我过于焦虑？会不会无形间让女儿觉得压力太大了啊。2022年对于我们家来说是不平常的一年。女儿今年大四，为了准备考研，暑假也没回家，年初去了学校到了年末才回家。女儿自己一个人面对考研，没有参加培训，大四学校作业论文等课业也多，她同时也是很努力复习考研的。在疫情开放很多羊的时期，女儿终于顺顺利利参加12月24、25号的考研，我们和家人都觉得女儿回家来要好好休息调养。可女儿回到家，我再查阅考研信息，
Table列表复现框实现【勾选-搜索-再勾选】～四时春～ java 开发语言 elementui vue
Table列表复现框实现【勾选-搜索-再勾选】概要整体架构流程代码实现技术细节注意参考文献概要最近在开发时遇到一个问题，在进行表单渲染时，正常选中没有问题，单如果需要搜索选中时，一个是已选中的不会回填，二是在搜索的结果中进行选中，没有实现，经过排查，查找资料后实现。例如：整体架构流程具体的实现效果如下：代码实现{{scope.row.userName}}已选区{{userItem.userName
绝招曝光！3小时高效利用ChatGPT写出精彩论文 kkai人工智能 chatgpt 人工智能 ai 学习媒体
在这份指南中，我将深入解析如何利用ChatGPT4.0的高级功能，指导整个学术研究和写作过程。从初步探索研究主题，到撰写结构严谨的学术论文，我将一步步展示如何在每个环节中有效运用ChatGPT。如果您还未使用PLUS版本，可以参考相关教程。**初步探索与主题的确定**起初，我处于庞大的知识领域中，寻找一个可深入研究的领域。ChatGPT如同灯塔，通过深入分析最新研究趋势和领域热点，帮助我在广阔的学
自动写论文的网站推荐这5款实用类工具小猪包333 写论文人工智能深度学习计算机视觉 AI写作
在当今学术研究和写作领域，AI论文写作工具的出现极大地提高了写作效率和质量。这些工具不仅能够帮助研究人员快速生成论文草稿，还能进行内容优化、查重和排版等操作。以下是五款实用类工具推荐，特别是千笔-AIPassPaper。1.千笔-AIPassPaper千笔-AIPassPaper是一款功能强大且全面的AI论文写作助手，用户只需输入基本的研究需求和关键词，便能迅速生成一篇完整的论文。该工具利用先进的
推荐3家毕业AI论文可五分钟一键生成！文末附免费教程！小猪包333 写论文人工智能 AI写作深度学习计算机视觉
在当前的学术研究和写作领域，AI论文生成器已经成为许多研究人员和学生的重要工具。这些工具不仅能够帮助用户快速生成高质量的论文内容，还能进行内容优化、查重和排版等操作。以下是三款值得推荐的AI论文生成器：千笔-AIPassPaper、懒人论文以及AIPaperPass。千笔-AIPassPaper千笔-AIPassPaper是一款基于深度学习和自然语言处理技术的AI写作助手，旨在帮助用户快速生成高质
4款毕业论文参考文献格式生成器（附加详细步骤）小猪包333 写论文人工智能深度学习计算机视觉 AI写作
在撰写毕业论文时，参考文献的格式规范是至关重要的。为了帮助学生和学者们更高效地生成符合要求的参考文献格式，本文将详细介绍四款推荐的参考文献格式生成器，并提供详细的使用步骤。1.千笔-AIPassPaper千笔-AIPassPaper是一款先进的AI辅助论文写作工具，不仅能够自动生成大纲、开题报告，还能一键生成参考文献。AI论文，免费大纲，10分钟3万字https://www.aipaperpass
AI论文写作推荐哪个好？分享5款AI论文写作带数据图表网站小猪包333 写论文人工智能深度学习计算机视觉
在当今学术研究和写作领域，AI论文写作工具的出现极大地提高了写作效率和质量。这些工具不仅能够帮助研究人员快速生成论文草稿，还能进行内容优化、查重和排版等操作。以下是五款推荐的AI论文写作工具，包括千笔-AIPassPaper。千笔-AIPassPaper千笔-AIPassPaper是一款功能强大的AI论文写作助手，旨在帮助用户快速生成高质量的论文内容。AI论文，免费大纲，10分钟3万字https:
AI论文题目生成器怎么用？9款论文写作网站简单3步搞定小猪包333 写论文人工智能深度学习计算机视觉
在当今信息爆炸的时代，AI写作工具的出现极大地提高了写作效率和质量。本文将详细介绍9款优秀的论文写作网站，并重点推荐千笔-AIPassPaper。一、千笔-AIPassPaper千笔-AIPassPaper是一款功能强大的AI论文生成器，基于最新的自然语言处理技术，能够一键生成高质量的毕业论文、开题报告等文本内容。它不仅提供智能选题、文献推荐和论文润色等功能，还具有较高的用户评价。其文献综述生成功
毕业论文附录一般都写什么?大学生写论文是干嘛用的写个原创论文人工智能深度学习 AI写作 chatgpt 论文阅读
毕业论文的附录通常包含一些在正文中不便于展示或详细阐述的内容，但对理解论文整体又具有重要意义的资料。具体来说，附录可能包含以下内容：AI论文，免费大纲，10分钟3万字，查重高于15%退费，支持数据图表！！AIPaperPass-AI论文写作指导平台AIPaperPass是AI原创论文写作平台，免费千字大纲，5分钟生成3万字初稿，提供答辩汇报ppt、开题报告、任务书等，40篇真实中英文知网参考文献，
【加密算法基础——RSA 加密】 XWWW668899 网络服务器笔记 python
RSA加密RSA（Rivest-Shamir-Adleman）加密是非对称加密，一种广泛使用的公钥加密算法，主要用于安全数据传输。公钥用于加密，私钥用于解密。RSA加密算法的名称来源于其三位发明者的姓氏：R:RonRivestS:AdiShamirA:LeonardAdleman这三位计算机科学家在1977年共同提出了这一算法，并发表了相关论文。他们的工作为公钥加密的基础奠定了重要基础，使得安全通
《拖延心理学》（一）你为什么会拖延？|木盒笔记纯se蓝调
《拖延心理学》是帮助你向拖延症宣战的一本书，作者简·博克和莱诺拉·袁是全球知名的拖延症治疗专家。大概每个人或多或少总会有一点拖延症的行为。比如明天要叫论文了，今天你还没有写好，你一边在焦虑症怎么办，一边又拿着手机漫无目的的刷新闻；比如你想了很久准备减肥，但是迟迟又没有行动，想着今天晚上少吃一点吧、明天我就开始运动。今天分析的笔记来告诉你“你为什么会拖延？”，解读人杨坚。有人说拖延就像巨大的泥沼，让
2024年华为杯数学建模研赛C题思路代码+论文助攻 DS数模 2024华为杯数学建模华为 2024华为杯 2024研究生数学建模 2024研赛
2024年华为杯研究生数学建模竞赛（以下简研赛）将于9月21日上午8时正式开始。下文包含：2024研赛思路解析、研赛参赛时间及规则信息说明、好用的数模技巧及如何备战数学建模竞赛C君将会第一时间发布选题建议、所有题目的思路解析、相关代码、参考文献、参考论文等多项资料，帮助大家取得好成绩。2024年研赛将于9月21日上午8时正式开始这里有些资料，大家可以看看：【2024最全国赛研赛数模资料包】C君珍贵
轻量级模型解读——轻量transformer系列 lishanlu136 #图像分类轻量级模型 transformer 图像分类
先占坑，持续更新。。。文章目录1、DeiT2、ConViT3、Mobile-Former4、MobileViTTransformer是2017谷歌提出的一篇论文，最早应用于NLP领域的机器翻译工作，Transformer解读，但随着2020年DETR和ViT的出现(DETR解读，ViT解读)，其在视觉领域的应用也如雨后春笋般渐渐出现，其特有的全局注意力机制给图像识别领域带来了重要参考。但是tran
基于JavaWeb开发的Java+SpringMvc+vue+element实现上海汽车博物馆平台网顺技术团队成品程序项目 java vue.js 汽车课程设计 spring boot
基于JavaWeb开发的Java+SpringMvc+vue+element实现上海汽车博物馆平台作者主页网顺技术团队欢迎点赞收藏⭐留言文末获取源码联系方式查看下方微信号获取联系方式承接各种定制系统精彩系列推荐精彩专栏推荐订阅不然下次找不到哟Java毕设项目精品实战案例《1000套》感兴趣的可以先收藏起来，还有大家在毕设选题，项目以及论文编写等相关问题都可以给我留言咨询，希望帮助更多的人文章目录基
深度学习-点击率预估-研究论文2024-09-14速读 sp_fyf_2024 深度学习人工智能
深度学习-点击率预估-研究论文2024-09-14速读1.DeepTargetSessionInterestNetworkforClick-ThroughRatePredictionHZhong,JMa,XDuan,SGu,JYao-2024InternationalJointConferenceonNeuralNetworks,2024深度目标会话兴趣网络用于点击率预测摘要：这篇文章提出了一种新
discuz discuz_admincp.php 讲解,Discuz! 1.5-2.5 命令执行漏洞分析(CVE-2018-14729) weixin_39740419 discuz 讲解
0x00漏洞简述漏洞信息8月27号有人在GitHub上公布了有关Discuz1.5-2.5版本中后台数据库备份功能存在的命令执行漏洞的细节。漏洞影响版本Discuz!1.5-2.50x01漏洞复现官方论坛下载相应版本就好。0x02漏洞分析需要注意的是这个漏洞其实是需要登录后台的，并且能有数据库备份权限，所以比较鸡肋。我这边是用Discuz!2.5完成漏洞复现的，并用此进行漏洞分析的。漏洞点在：so
推荐开源项目：Zotero引用计数管理器——学术研究的智能助手蔡鸿烈Hope
推荐开源项目：Zotero引用计数管理器——学术研究的智能助手zotero-citationcountsZoteropluginforauto-fetchingcitationcountsfromvarioussources项目地址:https://gitcode.com/gh_mirrors/zo/zotero-citationcounts项目介绍在学术界，每篇论文背后都承载着学者们辛勤的研究成
overleaf如何下载论文的pdf 风也温柔☆ overleaf pdf overleaf
用overleaf写完英文论文后，要将论文保存为PDF格式点击图片中的下载按钮然后选择一个路径保存论文的PDF格式即可。
通过与AI代理结对编程在集成课程中促进AI辅助学习循环的方法神一样的老师论文阅读分享人工智能结对编程学习
本篇论文提出了一种新的方法论，利用人工智能（AI）技术的最新进展，为学生制定一个AI辅助的代码学习循环。这种方法在现有的学习过程中创新性地融入了结对编程，以增强学生的互动式学习体验。以下是论文的主要内容概述：摘要(Abstract)：提出了一种新方法，利用AI技术来辅助学生学习编程。方法包括将示例代码转化为脚手架代码作为练习，通过教师与AI的配对来实现。脚手架代码作为学生在硬件平台上迭代完成和调试
系统架构师软考历年论文题目（2009-2024年）及分析 pccai-vip 系统架构师系统架构
时间题目20091.论基于DSSA的软件架构设计与应用；2.论信息系统建模方法；3.论基于REST服务的Web应用系统设计；4.论软件可靠性设计与应用20101.论软件的静态演化和动态演化及其应用；2.论数据挖掘技术的应用；3.论大规模分布式系统缓存设计策略；4.论软件可靠性评价20111.论模型驱动架构在系统开发中的应用；2.论企业集成平台的架构设计；3.论企业架构管理与应用；4.论软件需求获取
吾日三省吾身:DAY4 眼前一亮
做得好的三件事:开车去机场接亲戚，没让老婆跑受累，并且开车前去校验了车，降低了开车风险；看了一小会论文，虽然时间很短；陪小孩玩了一会，发现小孩子的想象力很好。做得不好的三件事:没有看书学习；没有健身运动，没给家人打个电话。
【每日精进】务必开始第三战役金台望道
9月3日星期六天气：晴早晨：6点才起，完成早起事务；考虑本月计划。2022年还剩下4个月，务必完成我的三大战役之三《网络空间社会思潮批判》；今年的小说务必要安排时间修改完。——这是业余主要做的事。另外，近期《讲话与丁玲的创作》、瑞金会议的征文，也还要做的。此后与主要事务无关的论文就不再写了。——这四个月，要注意修改好已有的论文并投稿发表。以后这件事要提到议事日程上来。这都是在教学事务之外的工作。幸
【读书清单】硅谷钢铁侠馋人小博
1.出生在南非埃隆马斯克，出生在南非，自幼总是因为思考而陷入发呆的状态；他对读书如饥似渴，每天可以花上10个小时看书，甚至将两套百科全书读得烂熟于心。十二岁就设计了名为“炸弹”的游戏源代码。这大概就是我们嘴里的“别人家的孩子”2.挺进加拿大父母离异，17岁的马斯克被允许母亲的加拿大国际，他毫不犹豫的离开了南非，再也没回去过。在加拿大，他上了大学，遇见爱情，之后转学，转学后的论文让教授眼前一亮。3.
【笔记】扩散模型（七）：Latent Diffusion Models（Stable Diffusion）论文解读与代码实现 LittleNyima Diffusion Models 笔记 stable diffusion AIGC 人工智能
论文链接：High-ResolutionImageSynthesiswithLatentDiffusionModels官方实现：CompVis/latent-diffusion、CompVis/stable-diffusion这一篇文章的内容是LatentDiffusionModels（LDM），也就是大名鼎鼎的StableDiffusion。先前的扩散模型一直面临的比较大的问题是采样空间太大，学
【漏洞复现】2023HVV WPS Office 远程代码执行漏洞(RCE) 李火火安全阁漏洞复现应用安全 WPS Office
文章目录前言声明一、漏洞描述二、影响范围三、漏洞复现服务端的功能客户端的功能四、修复建议前言2023HVV期间曝出的WPSOffice存在RCE漏洞，攻击者可通过该漏洞执行任意命令，获取服务器控制权限。声明请勿利用文章内的相关技术从事非法测试，由于传播、利用此文所提供的信息或者工具而造成的任何直接或者间接的后果及损失，均由使用者本人负责，所产生的一切不良后果与文章作者无关。该文章仅供学习用途使用。
论文分享系列（三）——论软件架构风格马斯洛金字塔下的小灵猴儿 #软考高项架构师论软件架构风格论文
论软件架构风格摘要2023年5月，我司启动了精彩购电商系统的开发工作，该项目组中我担任系统架构师岗位，主要负责整体架构设计与中间件选型。本文以该电商平台为例，主要讨论了软件架构风格在该项目中的具体应用。整个系统采用具有三层的层次式软件架构的设计思想，分别是应用层，服务层，数据层。在应用层中的业务逻辑层的设计中，将整个业务系统划分为十余个子系统。服务层以springcloud服务框架为核心，数据采用
论文分享系列（二）——论微服务架构及其应用马斯洛金字塔下的小灵猴儿 #软考高项架构师论微服务架构及其应用论文
论微服务架构及其应用摘要2023年5月，我司启动了精彩购电商系统的开发工作，该项目组中我担任系统架构师岗位，主要负责整体架构设计与中间件选型。本文以该电商平台为例，将介绍微服务架构的特点、应用场景以及实现方法。系统以SpringCloud微服务框架开发，分为前端Web服务、平台保障服务、业务服务三部分。前端Web服务由负载均衡与服务器集群结合，实现高并发的前台界面；平台保障服务以Eureka为中心
《心理治疗师的刻意练习》读后记海涛心理咨询
读后记：这本书主要是写一位心理咨询师从小白到合格咨询师的刻意练习。开篇写了自己初做心理咨询师的美好体验与尴尬——50%的来访者没有变好（而这居然是行业平均水平）；希望自己的咨询水平能够提高而查阅了相关论文，请教了相关专家，开始了刻意练习之路；刻意练习如何降低了自己的焦虑，最终提高了自己的咨询表现，并且要和读者分享自己的成功之路。书中也提供了一些科学研究和统计调查：资深咨询师的来访者反馈与新手咨询师
基于springboot+vue的“考研资讯平台”程序设计实现【毕业论文，源码】一枚务实的码农毕业设计毕设考研 spring boot 毕业论文系统源码
摘要随着现在网络的快速发展，网络的应用在各行各业当中它很快融入到了许多学校的眼球之中，他们利用网络来做这个电商的服务，随之就产生了“考研资讯平台”，这样就让学生考研资讯平台更加方便简单。对于本考研资讯平台的设计来说，它主要是采用java技术。在整个系统的设计当中它是应用mysql数据库来完成的，具体根据网上考研资讯平台的现状来进行开发的，具体根据学生需求实现网上考研资讯平台网络化的管理，各类信息有
HBase介绍 mingyu1016 数据库
概述HBase是一个分布式的、面向列的开源数据库,源于google的一篇论文《bigtable：一个结构化数据的分布式存储系统》。HBase是GoogleBigtable的开源实现，它利用HadoopHDFS作为其文件存储系统，利用HadoopMapReduce来处理HBase中的海量数据，利用Zookeeper作为协同服务。HBase的表结构HBase以表的形式存储数据。表有行和列组成。列划分为
jsonp 常用util方法 hw1287789687 jsonp jsonp常用方法 jsonp callback
jsonp 常用java方法 (1)以jsonp的形式返回:函数名(json字符串) /*** * 用于jsonp调用 * @param map : 用于构造json数据 * @param callback : 回调的javascript方法名 * @param filters : <code>SimpleBeanPropertyFilter theFilt
多线程场景 alafqq 多线程
0 能不能简单描述一下你在java web开发中需要用到多线程编程的场景？0 对多线程有些了解，但是不太清楚具体的应用场景，能简单说一下你遇到的多线程编程的场景吗？ Java多线程 2012年11月23日 15:41 Young9007 Young9007 4 0 0 4 Comment添加评论关注(2) 3个答案按时间排序按投票排序 0 0 最典型的如： 1、
Maven学习——修改Maven的本地仓库路径 Kai_Ge maven
安装Maven后我们会在用户目录下发现.m2 文件夹。默认情况下，该文件夹下放置了Maven本地仓库.m2/repository。所有的Maven构件(artifact)都被存储到该仓库中，以方便重用。但是windows用户的操作系统都安装在C盘，把Maven仓库放到C盘是很危险的，为此我们需要修改Maven的本地仓库路径。
placeholder的浏览器兼容 120153216 placeholder
【前言】自从html5引入placeholder后，问题就来了，不支持html5的浏览器也先有这样的效果，各种兼容，之前考虑，今天测试人员逮住不放，想了个解决办法，看样子还行，记录一下。【原理】不使用placeholder，而是模拟placeholder的效果，大概就是用focus和focusout效果。【代码】 <scrip
debian_用iso文件创建本地apt源 2002wmj Debian
1.将N个debian-506-amd64-DVD-N.iso存放于本地或其他媒介内，本例是放在本机/iso/目录下 2.创建N个挂载点目录如下： debian:~#mkdir –r /media/dvd1 debian:~#mkdir –r /media/dvd2 debian:~#mkdir –r /media/dvd3 …. debian:~#mkdir –r /media
SQLSERVER耗时最长的SQL 357029540 SQL Server
对于DBA来说，经常要知道存储过程的某些信息： 1. 执行了多少次 2. 执行的执行计划如何 3. 执行的平均读写如何 4. 执行平均需要多少时间列名 &
com/genuitec/eclipse/j2eedt/core/J2EEProjectUtil 7454103 eclipse
今天eclipse突然报了com/genuitec/eclipse/j2eedt/core/J2EEProjectUtil 错误，并且工程文件打不开了，在网上找了一下资料，然后按照方法操作了一遍，好了，解决方法如下：错误提示信息： An error has occurred.See error log for more details. Reason: com/genuitec/
用正则删除文本中的html标签 adminjun java html 正则表达式去掉html标签
使用文本编辑器录入文章存入数据中的文本是HTML标签格式，由于业务需要对HTML标签进行去除只保留纯净的文本内容，于是乎Java实现自动过滤。如下： public static String Html2Text(String inputString) { String htmlStr = inputString; // 含html标签的字符串 String textSt
嵌入式系统设计中常用总线和接口 aijuans linux 基础
嵌入式系统设计中常用总线和接口任何一个微处理器都要与一定数量的部件和外围设备连接，但如果将各部件和每一种外围设备都分别用一组线路与CPU直接连接，那么连线
Java函数调用方式——按值传递 ayaoxinchao java 按值传递对象基础数据类型
Java使用按值传递的函数调用方式，这往往使我感到迷惑。因为在基础数据类型和对象的传递上，我就会纠结于到底是按值传递，还是按引用传递。其实经过学习，Java在任何地方，都一直发挥着按值传递的本色。首先，让我们看一看基础数据类型是如何按值传递的。 public static void main(String[] args) { int a = 2;
ios音量线性下降 bewithme ios音量
直接上代码吧 //second 几秒内下降为0 - (void)reduceVolume:(int)second { KGVoicePlayer *player = [KGVoicePlayer defaultPlayer]; if (!_flag) { _tempVolume = player.volume;
与其怨它不如爱它 bijian1013 选择理想职业规划
抱怨工作是年轻人的常态，但爱工作才是积极的心态，与其怨它不如爱它。一般来说，在公司干了一两年后，不少年轻人容易产生怨言，除了具体的埋怨公司“扭门”，埋怨上司无能以外，也有许多人是因为根本不爱自已的那份工作，工作完全成了谋生的手段，跟自已的性格、专业、爱好都相差甚远。
一边时间不够用一边浪费时间 bingyingao 工作时间浪费
一方面感觉时间严重不够用，另一方面又在不停的浪费时间。每一个周末，晚上熬夜看电影到凌晨一点，早上起不来一直睡到10点钟，10点钟起床，吃饭后玩手机到下午一点。精神还是很差，下午像一直野鬼在城市里晃荡。为何不尝试晚上10点钟就睡，早上7点就起，时间完全是一样的，把看电影的时间换到早上，精神好，气色好，一天好状态。控制让自己周末早睡早起，你就成功了一半。有多少个工作
【Scala八】Scala核心二：隐式转换 bit1129 scala
Implicits work like this: if you call a method on a Scala object, and the Scala compiler does not see a definition for that method in the class definition for that object, the compiler will try to con
sudoku slover in Haskell (2) bookjovi haskell sudoku
继续精简haskell版的sudoku程序，稍微改了一下，这次用了8行，同时性能也提高了很多，对每个空格的所有解不是通过尝试算出来的，而是直接得出。 board = [0,3,4,1,7,0,5,0,0, 0,6,0,0,0,8,3,0,1, 7,0,0,3,0,0,0,0,6, 5,0,0,6,4,0,8,0,7,
Java-Collections Framework学习与总结-HashSet和LinkedHashSet BrokenDreams linkedhashset
本篇总结一下两个常用的集合类HashSet和LinkedHashSet。它们都实现了相同接口java.util.Set。Set表示一种元素无序且不可重复的集合；之前总结过的java.util.List表示一种元素可重复且有序
读《研磨设计模式》-代码笔记-备忘录模式-Memento bylijinnan java 设计模式
声明：本文只为方便我个人查阅和理解，详细的分析以及源代码请移步原作者的博客http://chjavach.iteye.com/ import java.util.ArrayList; import java.util.List; /* * 备忘录模式的功能是，在不破坏封装性的前提下，捕获一个对象的内部状态，并在对象之外保存这个状态，为以后的状态恢复作“备忘”
《RAW格式照片处理专业技法》笔记 cherishLC PS
注意，这不是教程！仅记录楼主之前不太了解的一、色彩（空间）管理作者建议采用ProRGB（色域最广），但camera raw中设为ProRGB，而PS中则在ProRGB的基础上，将gamma值设为了1.8（更符合人眼）注意：bridge、camera raw怎么设置显示、输出的颜色都是正确的（会读取文件内的颜色配置文件），但用PS输出jpg文件时，必须先用Edit->conv
使用 Git 下载 Spring 源码编译 for Eclipse crabdave eclipse
使用 Git 下载 Spring 源码编译 for Eclipse 1、安装gradle，下载 http://www.gradle.org/downloads 配置环境变量GRADLE_HOME，配置PATH %GRADLE_HOME%/bin，cmd，gradle -v 2、spring4 用jdk8 下载 https://jdk8.java.
mysql连接拒绝问题 daizj mysql 登录权限
mysql中在其它机器连接mysql服务器时报错问题汇总一、[running][email protected]:~$mysql -uroot -h 192.168.9.108 -p //带-p参数，在下一步进行密码输入 Enter password: //无字符串输入 ERROR 1045 (28000): Access
Google Chrome 为何打压 H.264 dsjt apple html5 chrome Google
Google 今天在 Chromium 官方博客宣布由于 H.264 编解码器并非开放标准，Chrome 将在几个月后正式停止对 H.264 视频解码的支持，全面采用开放的 WebM 和 Theora 格式。 Google 在博客上表示，自从 WebM 视频编解码器推出以后，在性能、厂商支持以及独立性方面已经取得了很大的进步，为了与 Chromium 现有支持的編解码器保持一致，Chrome
yii 获取控制器名和方法名 dcj3sjt126com yii framework
1. 获取控制器名在控制器中获取控制器名: $name = $this->getId(); 在视图中获取控制器名: $name = Yii::app()->controller->id; 2. 获取动作名在控制器beforeAction()回调函数中获取动作名: $name =
Android知识总结（二） come_for_dream android
明天要考试了，速速总结如下 1、Activity的启动模式 standard：每次调用Activity的时候都创建一个（可以有多个相同的实例，也允许多个相同Activity叠加。） singleTop：可以有多个实例，但是不允许多个相同Activity叠加。即，如果Ac
高洛峰收徒第二期：寻找未来的“技术大牛” ——折腾一年，奖励20万元 gcq511120594 工作项目管理
高洛峰，兄弟连IT教育合伙人、猿代码创始人、PHP培训第一人、《细说PHP》作者、软件开发工程师、《IT峰播》主创人、PHP讲师的鼻祖！首期现在的进程刚刚过半，徒弟们真的很棒，人品都没的说，团结互助，学习刻苦，工作认真积极，灵活上进。我几乎会把他们全部留下来，现在已有一多半安排了实际的工作，并取得了很好的成绩。等他们出徒之日，凭他们的能力一定能够拿到高薪，而且我还承诺过一个徒弟，当他拿到大学毕
linux expect heipark expect
1. 创建、编辑文件go.sh #!/usr/bin/expect spawn sudo su admin expect "*password*" { send "13456\r\n" } interact 2. 设置权限 chmod u+x go.sh 3.
Spring4.1新特性——静态资源处理增强 jinnianshilongnian spring 4.1
目录 Spring4.1新特性——综述 Spring4.1新特性——Spring核心部分及其他 Spring4.1新特性——Spring缓存框架增强 Spring4.1新特性——异步调用和事件机制的异常处理 Spring4.1新特性——数据库集成测试脚本初始化 Spring4.1新特性——Spring MVC增强 Spring4.1新特性——页面自动化测试框架Spring MVC T
idea ubuntuxia 乱码 liyonghui160com
1.首先需要在windows字体目录下或者其它地方找到simsun.ttf 这个字体文件。 2.在ubuntu 下可以执行下面操作安装该字体： sudo mkdir /usr/share/fonts/truetype/simsun sudo cp simsun.ttf /usr/share/fonts/truetype/simsun fc-cache -f -v
改良程序的11技巧 pda158 技巧
有很多理由都能说明为什么我们应该写出清晰、可读性好的程序。最重要的一点，程序你只写一次，但以后会无数次的阅读。当你第二天回头来看你的代码时，你就要开始阅读它了。当你把代码拿给其他人看时，他必须阅读你的代码。因此，在编写时多花一点时间，你会在阅读它时节省大量的时间。让我们看一些基本的编程技巧：尽量保持方法简短永远永远不要把同一个变量用于多个不同的
300个涵盖IT各方面的免费资源（下）——工作与学习篇 shoothao 创业免费资源学习课程远程工作
工作与生产效率: A. 背景声音 Noisli:背景噪音与颜色生成器。 Noizio:环境声均衡器。 Defonic:世界上任何的声响都可混合成美丽的旋律。 Designers.mx:设计者为设计者所准备的播放列表。 Coffitivity:这里的声音就像咖啡馆里放的一样。 B. 避免注意力分散 Self Co
深入浅出RPC uule rpc
深入浅出RPC-浅出篇深入浅出RPC-深入篇 RPC Remote Procedure Call Protocol 远程过程调用协议它是一种通过网络从远程计算机程序上请求服务，而不需要了解底层网络技术的协议。RPC协议假定某些传输协议的存在，如TCP或UDP，为通信程序之间携带信息数据。在OSI网络通信模型中，RPC跨越了传输层和应用层。RPC使得开发

论文复现：Learning both Weights and Connections for Efficient Neural Networks

论文核心

论文细节品读

论文复现

总结

你可能感兴趣的:(论文复现,论文精读)