《简单粗暴TensorFlow2.0》—学习笔记

• 中文版手册：简单粗暴 TensorFlow 2.0 | A Concise Handbook of TensorFlow 2.0
• github：snowkylin/tensorflow-handbook
  TensorFlow 2.0是基于Keras和Eager Execution（即时运行）模式。

基础

安装和环境配置

• pycharm
  

TensorFlow基础

TensorFlow模型建立与训练

模型（Model）与层（Layer）

多层感知机（MLP）

交叉熵（cross entropy）用来求目标与预测值之间的差距。

信息论

• 信息量
  
• 熵
  
• 相对熵（KL散度）
  相对熵又称KL散度,如果我们对于同一个随机变量 x 有两个单独的概率分布 P(x) 和 Q(x)，我们可以使用 KL 散度（Kullback-Leibler (KL) divergence）来衡量这两个分布的差异。
  
• 交叉熵
  

机器学习中交叉熵的应用

• 单分类问题中的应用
  
  
• 多分类问题中的应用
  
  

卷积神经网络（CNN）

循环神经网络（RNN）

深度强化学习（DRL）

Keras Pipeline*

自定义层、损失函数和评估指标*

TensorFlow 常用模块

tf.train.Checkpoint：变量的保存与恢复

TensorBoard：训练过程可视化

Permission denied: ‘/tmp/.tensorboard-info/pid-30349.info’

tf.data：数据的构建与预处理

TFRecord：TensorFlow数据集存储格式

@tf.function：Graph Execution模式 *

tf.TensorArray：TensorFlow动态数组 *

tf.config：GPU的使用与分配 *

部署

TensorFlow模型导出

TensorFlow Serving

TensorFlow Lite

TensorFlow in JavaScript

大规模训练与加速

TensorFlow分布式训练

使用TPU训练TensorFlow模型

扩展

TensorFlow Hub模型复用

TensorFlow Datasets数据集载入

参考资料
一文搞懂交叉熵在机器学习中的使用，透彻理解交叉熵背后的直觉
tensorboard 提示权限不足