Pytorch 实践 —— 乳腺癌预测

欢迎关注 “小白玩转Python”,发现更多 “有趣”

1. 数据集

检测乳腺癌一般有30项特征,加载数据集来了解一下这些特征变量:

数据的尺寸

Pytorch 实践 —— 乳腺癌预测_第1张图片

变量及其类型

在检查重复数据和空数据并确认数据集不受此限制之后,是时候检查不必要的数据了。从数据集的33列中,id 和 Unnamed:32 被删除了:

df.drop(['id','Unnamed: 32'],axis=1,inplace=True)

完成第一部分,用 .describe() 函数来了解统计学:

Pytorch 实践 —— 乳腺癌预测_第2张图片

2. 可视化

检查良恶性肿瘤的数量:

Pytorch 实践 —— 乳腺癌预测_第3张图片

有357例良性肿瘤诊断和212例恶性肿瘤诊断,这似乎是一个相当平衡的数据集。

现在可视化其他变量的分布:

Pytorch 实践 —— 乳腺癌预测_第4张图片

每个变量的分布

Pytorch 实践 —— 乳腺癌预测_第5张图片

变量之间的相关性

从上面的数据情况我们可以得到以下的结论:

  • 这是一个相当复杂的模型,能够可视化的相关性

  • 肿瘤平均半径为14.12,最小为6.98,最大为28.11

  • 维度相关的变量是正相关的(例如 area_se 和 perimeter_se)

  • 数据集中62.7% 的肿瘤是良性的,37.3% 是恶性的

3. 为机器学习准备数据

更换标签

我们想要预测的数值在“diagnosis”一栏中ーー这些是标签。我们想预测一个肿瘤是恶性的(M)还是良性的(B)。数据框架中的所有其他列都是模型的预测变量:

Pytorch 实践 —— 乳腺癌预测_第6张图片

标签由字母 M(恶性)和 B(良性)表示。第一步是将这些信息转换成数值型的数据,良性的数据为0,恶性的数据为1:

lab ={'B':0,'M':1}
df = df.replace({'diagnosis':lab})
df.head()

Pytorch 实践 —— 乳腺癌预测_第7张图片

现在,数据可以分为两个部分:

预测变量:我们将提供的数据作为模型的输入,以作出预测

predictors = df.iloc[:, 2:31]
predictors

Pytorch 实践 —— 乳腺癌预测_第8张图片

标签:我们要预测的信息,即根据预测数据集中的信息,预测该肿瘤是恶性的还是良性的

labels = df.iloc[:, 0:1]
labels

Pytorch 实践 —— 乳腺癌预测_第9张图片

转换为张量,并将数据分割为训练和测试子集

使用 scikit learn 库,使用20% 的比例将数据集分成训练和测试数据:

predictors_train, predictors_test, labels_train, labels_test = train_test_split(predictors,labels,test_size = 0.20)

到目前为止,这些数据都存储在 pandas 的数据帧中。由于我们将使用张量流来实现深度学习模型,因此必须将数据转换为张量。首先,将 pandas 数据帧转换为数组:

type(np.array(predictors_train))

Out[20]:

type(np.array(labels_train))

Out[21]:

numpy.ndarray

该模型将使用 PyTorch 实现,因此下一步是将该数组转换为一个 torch 元素:

predictors_train = torch.tensor(np.array(predictors_train), dtype=torch.float)


labels_train = torch.tensor(np.array(labels_train), dtype = torch.float)


df_tf = torch.utils.data.TensorDataset(predictors_train, labels_train)
type(df_tf)

Pytorch 对模型进行了小批量的训练。有一个名为 DataLoader 的类用于在数据集上执行迭代。批量大小参数给出了在调整模型权重时考虑的样本数:

train_loader = torch.utils.data.DataLoader(df_tf, batch_size=15, shuffle=True)

4. 模型的实现与评估

在本项目中,将实现一个具有两个隐藏层的神经网络。要实现这个模型,我们需要:

  • 定义模型的结构(定义层数,神经元,激活函数)

  • 选择一个训练策略

  • 选择一个优化器

由于问题的复杂性和未知性,这种类型的实现被建模为一个最佳化问题。因此,选择一个优化器是整个过程的一部分。

在最佳化问题中,我们有目标函数(称为成本函数或损失函数)。这就是我们要优化的函数。在神经网络的目标是最小化的误差,因此最小化的损失(或成本)函数。

构建模型

神经网络模型的定义如下:

classifier = nn.Sequential(
  
    nn.Linear(in_features=29, out_features=15),
    nn.ReLU(),
    nn.Linear(15, 15),
    nn.ReLU(),
    nn.Linear(15, 1),
    nn.Sigmoid()
)
  • Input features = 29(我们在预测数据集中有29个特性)

  • 2个隐藏层,每层有15个神经元

  • 输出层有一个神经元,输出标记0(良性肿瘤)和1(恶性肿瘤)

  • ReLu:内部层的非线性激活函数

  • Sigmoid:输出层的非线性激活函数,返回的概率介于0和1之间

ReLu 是一种非线性激活函数,它的优点是不会同时激活所有的神经元。ReLu 被选中做第一次尝试,以建立更有效的计算成本方面的模型。

据报道,Sigmoid 在分类问题上效果很好。因为我们有一个输出层分类肿瘤良性或恶性,Sigmoid 被选为激活函数。

训练策略

现在,我们必须选择神经网络的训练策略。由于这是一个二元分类任务,选择二元交叉熵准则是:

criterion = nn.BCELoss()

优化器

第三步,也是最后一步:选择优化器。Adam 优化算法是深度学习问题中一种非常流行的选择算法。这是随机梯度下降算法的扩展,但与 SGD 算法不同,Adam 优化器在训练期间并不保持相同的学习速率。

optimizer = torch.optim.Adam(classifier.parameters(), lr=0.001, weight_decay=0.0001)

训练模型

更新后的权重将运行100次,如下面的 for 循环所示:

for epoch in range(100):
  #To store the error:
  run_loss = 0.


  for data in train_loader:
    inputs, labels = data
    optimizer.zero_grad()


    outputs = classifier(inputs)     error = criterion(outputs, labels)
    error.backward()
    optimizer.step() 


    run_loss += error.item()
  print('Epoch %3d: loss %.5f' % (epoch+1, run_loss/len(train_loader)))
  • 训练数据加载器将训练数据分批加载(这个模型选择的批量大小是15个样本)

  • zero_grad() 在反向传播过程之前,将梯度设置为零

  • outputs 计算对模型的预测

  • error 计算出计算中的误差,并将预测结果与实际数据进行比较

  • error.backward() 是神经网络中的反向传播过程来更新权值

  • optimizer.step() 更新权重

评估模型

这个模型的准确率达到了94.73% ,在我们的混淆矩阵中可以看到这一点:

Pytorch 实践 —— 乳腺癌预测_第10张图片

分类器总共做出了114个预测,从中可以看出:

  • 70例标本被正确估计为良性肿瘤

  • 38例标本正确诊断为恶性肿瘤

  • 有3个样本被估计为假阴性,这些应该被分类为恶性肿瘤,但被分类为良性

  • 3个样本被估计为假阳性

·  END  ·

HAPPY LIFE

你可能感兴趣的:(神经网络,python,机器学习,人工智能,深度学习)