第一次打卡

Task 01

1. 线性回归

线性回归的基本要素:

            研究问题的模型
            所需要的数据集
            定义损失函数 
                   解析解
                   数值解 小批量随机梯度下降是一例典型
           矢量计算

2. Softmax与分类模型

softmax的基本概念:

         分类问题
         权重矢量
         神经网络图
         输出问题
         小批量矢量数据表达式

交叉熵损失函数

          平方损失估计

3. 多层感知机

多层感知机的基本知识

隐藏层及表达公式

激活函数

           ReLU
           sigmoid
           tanh函数
           如何选择激活函数

多层感知机

Task 02

1. 文本预处理

步骤:

        读入文本
        分词
        建立字典,将每个词映射到一个唯一的索引(index)
        将文本从词的序列转换为索引的序列,方便输入模型

2. 语言模型

        语言模型
        n元语法
        时序数据采样
        随机采样
        相邻采样

3. 循环神经网络基础

       循环神经网络的构造
       梯度裁剪
       定义预测函数
       困惑度

你可能感兴趣的:(深度学习)