TensorFlow笔记

深度学习网络__tensorflow__第四讲__神经网络优化

本文为转载北京大学《人工智能实践：Tensorflow笔记》课程链接：https://www.icourse163.org/course/PKU-1002536002Tensorflow笔记：第四讲神经网络优化
KGback·2022-05-13 07:49

Tensorflow笔记-神经网络优化

参考链接https://www.icourse163.org/learn/PKU-1002536002?tid=1002700003#/learn/content?type=detail&id=1004033052&sm=1一、基本概念神经元模型：用数学公式表示为：(∑+)，f为激活函数。神经网络是以神经元为基本单元构成的。激活函数：引入非线性激活因素，提高模型的表达力。常用的激活函数有relu、
ATM006·2022-05-13 07:42

TensorFlow笔记_神经网络优化

目录1.预备知识2.神经网络复杂度3.学习率4.激活函数4.1Sigmoid函数4.2Tanh函数4.3ReLU函数4.4LeakyReLU函数5.损失函数5.1均方差5.2交叉熵6.欠拟合与过拟合7.优化器7.1SGD7.2SGDM7.3Adagrad7.4RMSProp7.5Adam7.6五种优化器对比7.6.1SGD7.6.2SGDM7.6.3Adagrad7.6.4RMSProp7.6.5
精灵耶·2022-05-13 07:27

Tensorflow2.0：（三）神经网络搭建八股

第三章神经网络搭建八股本次Tensorflow2.0学习笔记参考北京大学曹健老师《人工智能实践：Tensorflow笔记》课程。
黑小板·2022-05-04 07:46

（tensorflow笔记）神经网络中的一些关键概念（学习率、激活函数、损失函数、欠拟合和过拟合、正则化和优化器）

目录1.神经网络复杂度空间复杂度时间复杂度2.学习率策略指数衰减学习率分段常数衰减3.激活函数sigmoidtanhReLULeakyReLU建议4.损失函数均方误差损失函数交叉熵损失函数自定义损失函数5.欠拟合与过拟合6.正则化减少过拟合概念可视化7.优化器更新网络参数SGDvanillaSGDSGDwithMomentum(SGDM)SGDwithNesterovAcceleration（NA
克里斯大炮·2022-03-14 07:23

tensorboard ckpt pb 模型的输出节点_Tensorflow笔记：模型保存、加载和Fine-tune

前言尝试过迁移学习的同学们都知道，Tensorflow的模型保存加载有不同格式，使用方法也不一样，新手会觉得乱七八糟，所以本文做一个梳理。从模型的保存到加载，再到使用，力求理清这个流程。1.保存Tensorflow的保存分为三种：1.checkpoint模式；2.pb模式；3.saved_model模式。1.1先假设有这么个模型首先假定我们已经有了这样一个简单的线性回归网络结构：import我们来
weixin_39578516·2022-02-17 07:47

机器学习实战-基于scikit-learn、keras和tensorflow笔记 - 19

第十九章：大规模训练和部署tensorflow模型为TensorFlow模型提供服务当然可以用Flask搭建服务，但是使用TensorFlowServing会更加方便导出SavedModel(目录中含有版本号0001、0002，包含有一个或多个元图，元图中有tag标记比如train、serve、gpu，其中serve标记的元图中包含初始化函数和默认服务函数)运行docker容器：tensorflo
angangi·2022-02-17 07:02

TensorFlow笔记-tensorboard的使用

参考:①Tensorflow的可视化工具Tensorboard的初步使用Link:https://blog.csdn.net/sinat_33761963/article/details/62433234?utm_source=copyTensorboard可视化可以记录的数据类型(1)scalar(2)Graph(3)Distribution...可视化的过程(1)建立graph(2)确定在哪些
李2狗子·2022-02-06 01:00

人工智能实践：Tensorflow笔记 Class 5：卷积神经网络

目录5.1卷积计算过程5.2感受野5.3全零填充5.4TF描述卷积计算层5.5批标准化5.6池化5.7舍弃5.8卷积神经网络5.9CIFAR10数据集5.10卷积神经网络搭建5.11LeNet5.12AlexNet5.13VGGNet5.14InceptionNet5.15ResNet5.1卷积计算过程输入特征图的深度，决定了当前层卷积核的深度当前层卷积核的个数，决定了当前层输出特征图的深度5.2
By4te·2021-11-10 20:18

TensorFlow笔记(4)——优化手写数字识别模型之代价函数和拟合

前言上篇笔记我们利用MNIST数据集训练了一个手写数字识别的模型，但是准确率非常的低，维持在91%左右，我们可以尝试着将准确率提高到96%以上，在实验之前我们需要先了解一些基本的概念，本篇文章可能会有些枯燥，因为大多都是理论知识。本文重点激活函数代价函数拟合什么是激活函数？激活函数是干嘛的？想了解什么是激活函数，就要先了解神经网络的基本模型，下图所示为一单一人工神经网络的基本模型图：单一人工神经网
雇个城管打天下·2021-06-20 23:39

TensorFlow笔记3

TensorFlow的运作方式。今天的歌可能否今天终于完成了深度学习入门版的HelloWorld和进阶版的HelloWorld。开始了新的部分。今天的主要部分：跑了运作方式部分的代码，遇到问题，解决问题，然后通过代码了解如何运行的。本来用的VSCode，后来发现配置有些问题有些包找不到，就弃了VSCode，装上了pycharm。今天的小问题就从编辑器开始吧。另外，本文多图预警。问题1：在VSCod
bobika·2021-06-13 07:52

TensorFlow笔记4

墙外的入门今天的歌可能否单曲循环中中文社区里的内容，文章划定了建议使用者，显然我即使跑了也对内容熟悉了一下但是还是不甚理解，而且其中的内容还是在python2.7的环境下的，版本问题虽然修改起来也不是很费劲但是终究还是麻烦的，今天爬出墙看了看外面的这里是外面的教程。也是挺喜欢的了，果然还是要看外面的。其教程的主要内容也不是基于TensorFlow本身的图、op之类的了，而是从高阶API入手（如Ke
bobika·2021-06-12 17:45

MNIST手写识别系列

【嵌牛正文】转载自：tensorflow笔记（五）之MNIST手写识别系列二-FANG_YANG-博客园前言#由于这一篇博客需要要有一定的基
13d813107eae·2021-06-06 10:28

新电脑win7系统搭建TensorFlow笔记

联想E470笔记本OS：win7旗舰版64bit配置：CPU：Intel(R)Core(TM)[email protected]内存：8G坑：python3.6已经支持，但是但是，不能同时安装TensorFlowCPU和GPU版本，会出现import错误。坑：没有DLL支持，需要安装visualstudio2015。坑：运行测试代码，可能会出现警告，具体说明这里有解释。stacko
努力努力再努力的顿顿·2021-05-08 07:49

TensorFlow笔记

文章目录基础知识损失函数比较实验过拟合优化器tensorboardCNNTensorFlow：2015年谷歌，支持python、C++，底层是C++，主要用python。支持CNN、RNN等算法，分CPUTensorFlow/GPUTensorFlow。TensorBoard：训练中的可视化。快捷键：shift+enter执行命令,Tab键进行补全，ctrl+b隐藏导航栏，shift+tab显示函
BlackEyes_SGC·2021-04-13 23:49

tensorflow学习笔记1

tensorflow学习笔记1本文主要记录我在慕课上观看北大曹建老师的《人工智能实践：Tensorflow笔记》，链接：https://www.icourse163.org/course/PKU-1002536002
吴大炮·2021-02-02 11:40

Tensorflow笔记--基础部分

相关说明：本文是基于北京大学曹健老师的Tensorflow课程摘录的部分笔记，仅供自己学习使用，欢迎各位大佬留言评论交流。视频环境篇：python3.7+tensorflow2.2.0我的环境：python3.8.3+tensorflow(已安装2.3.1，且通过多种方式安装但不成功且不能import)需要添加安装的：英伟达的SDK10.1版本cudatoolkit=10.1/英伟达深度学习软件包
Lyyyyyyyy?·2021-01-18 16:42

tensorflow模型保存后继续训练_Tensorflow笔记：模型保存、加载和Fine-tune

前言尝试过迁移学习的同学们都知道，Tensorflow的模型保存加载有不同格式，使用方法也不一样，新手会觉得乱七八糟，所以本文做一个梳理。从模型的保存到加载，再到使用，力求理清这个流程。1.保存Tensorflow的保存分为三种：1.checkpoint模式；2.pb模式；3.saved_model模式。1.1先假设有这么个模型首先假定我们已经有了这样一个简单的线性回归网络结构：importten
湘轩沪栈·2021-01-07 06:13

RNN循环神经网络——embedding的理解

循环计算层二、tf描述一个循环计算层2.1基本函数2.1进入RNN时，x_train的维度2.3循环计算过程三、Embedding编码代替独热码3.1思想：3.2代码实现：3.3参数理解感谢北京大学曹健老师的《tensorflow
plus_left·2020-10-31 15:01

人工智能实践：TensorFlow笔记2——测验与作业答案汇总（北京大学-曹健-MOOC课程有字幕）（6章已更完）

测验与作业笔记课程信息第一讲神经网络计算[1015]第二讲神经网络优化[1015]第三讲神经网络八股[1015]第四讲网络八股扩展[1016]第五讲卷积神经网络[1017]第六讲循环神经网络[1017]课程信息课程链接：人工智能实践：Tensorflow
不唐·2020-10-15 11:06

自制数据集，搭建八股神经网络训练模型并实现图片的预测

参考资源北京大学人工智能实践：Tensorflow笔记上诉视频里面教我们一步一步如何制作属于自己的数据集。我自己通过实现了制作自己的数据改出了结合出了这篇文章。我会把改动的地方标识出来。
被风伤过·2020-10-02 14:21

Tensorflow笔记——第四讲：网络八股扩展

目录4.1搭建神经网络八股4.2自制数据集4.3数据增强（增大数据量）4.4断点续训，存取模型4.4.1读取模型：4.4.2保存模型：4.5参数提取，写至文本4.6acc/loss可视化，查看效果4.7给图识物4.1搭建神经网络八股4.2自制数据集观察数据集数据结构，配成特征标签对：mnist_image_label文件夹：四个文件分别对应为训练集图片、训练集标签、测试集图片、测试集标签。图片文件
Ma Sizhou·2020-09-30 15:08

Tensorflow笔记

Tensorflow笔记第一章神经网络的计算1.1人工智能三个学派人工智能让机器具备人的思维和意识。人工智能的三学派行为主义：基于控制论，构建感知-动作控制系统。
井里呆·2020-09-25 11:14

TensorFlow笔记day4（图片美化效果）

美化效果（1）彩色图片直方图importcv2importnumpyasnpdefImageHist(image,type):color=(255,255,255)windowName='gray'iftype==31:color=(255,0,0)windowName='BHist'eliftype==32:color=(0,255,0)windowName='GHist'eliftype==3
拼搏的小白·2020-09-14 14:17

TensorFlow笔记day3（图像特效）

图像特效（1）灰度处理#方法1imread的第二个参数设置成0importcv2img0=cv2.imread(r"C:\Users\Administrator\Desktop\222\233.jpg",0)img1=cv2.imread(r"C:\Users\Administrator\Desktop\222\233.jpg",1)cv2.imshow('image',img0)print(im
拼搏的小白·2020-09-14 14:17

tensorflow笔记day2（图片的几何变换）

图片的几何变换（1）图片缩放1获取图片info2创建空白模板3计算每一个位置的像素值importcv2importnumpyasnpimg=cv2.imread(r'C:\Users\Administrator\Desktop\222\333.jpg',1)imgInfo=img.shapeheight=imgInfo[0]width=imgInfo[1]mode=imgInfo[2]print(
拼搏的小白·2020-09-14 14:17

公开课列表

二免费公开课2.1机器学习类吴恩达机器学习李宏毅机器学习（2017）阿里巴巴机器学习系列课程人工智能实践：Tensorflow笔记人工智能PK人类智能Tensorflow搭建自己的神经网络(莫烦Python
weixin_30657999·2020-09-12 20:49

tensorflow笔记：tf.argmax()和tf.equal()的使用

原文：https://blog.csdn.net/abc13526222160/article/details/852999011、tf.argmax(vector,1)返回的是vector中的最大值的索引号，如果vector是一个向量，那就返回一个值，如果是一个矩阵，那就返回一个向量，这个向量的每一个维度都是相对应矩阵行的最大值元素的索引号。importtensorflowastfimportn
m0_38144126·2020-09-11 02:15

tensorflow笔记第五讲CNN

目录引入卷积感受野全零填充tensorflow描述卷积层函数tf.ketas.layers.conv2D批标准化池化Poolingtf.keras.layers.MaxPool2D函数舍弃DropoutCNN总结Cifar10数据集搭建卷积网络经典卷积网络LeNetLeNet核心代码AlexNetAlexNet核心代码VGGNet2014InceptionNet2014InceptionNet核心
Drone_xjw·2020-09-10 21:46

tensorflow笔记第六讲RNN

我们通过上一讲的CNN，可以知道，CNN是依据于尺寸不变性，平移不变性，旋转不变性。空间共享，通过不同位置的参数共享那么接下来，我们来学习时间共享，通过不同时刻的参数共享。目录循环核循环横向按时间展开循环计算层TF描述循环计算层循环计算过程Embedding编码RNN实现股票预测LSTMGRU网络循环核循环核：参数时间共享，循环层提取时间信息。记忆体内存储的状态信息ht，在每个时刻都被更新循环横向
Drone_xjw·2020-09-10 21:12

tensorflow笔记第三讲

目录八股搭建神经网络六步法sequential相当于网络容器compile（）指定优化器、损失函数model.fit()model.summary()classMyModel(Model)model=MyModelMNIST数据集FASHION数据集八股搭建神经网络六步法导入函数包，指定训练集测试集，设定模型，指定损失函数和优化器，告知迭代多少次数据集，打印网络结构和参数统计。sequential
Drone_xjw·2020-09-10 21:12

【神经网络八股扩展】：数据增强

课程来源：人工智能实践:Tensorflow笔记2文章目录前言TensorFlow2数据增强函数数据增强+网络八股代码：总结前言本讲目标:数据增强，增大数据量关于我们为何要使用数据增强以及常用的几种数据增强的手法
拾牙慧者·2020-09-07 23:47

【神经网络八股扩展】：自制数据集

课程来源：人工智能实践:Tensorflow笔记2文章目录前言1、文件一览2、将load_data()函数替换掉2、调用generateds函数4、效果总结前言本讲目标:自制数据集，解决本领域应用将我们手中的图片和标签信息制作为可以直接导入的
拾牙慧者·2020-09-07 20:19

【神经网络计算】——神经网络实现鸢尾花分类

本blog为观看MOOC视频与网易云课堂所做的笔记课堂链接：人工智能实践:TensorFlow笔记吴恩达机器学习疑问与思考为什么按照batch喂入数据之前看的视频里面处理数据都是一次性将所有数据喂入，现在看的这个视频对数据进行了分组投入
拾牙慧者·2020-08-30 22:57

【tensorflow笔记视频课】的笔记大集合

这篇文章记录我所看的视频课【tensorflow笔记】的代码，这些代码并不是课上讲的代码，而是我自己听了课之后根据自己的想法敲写的，所以不是100%还原老师的代码。
chenyi9981·2020-08-26 23:44

人工智能实践：Tensorflow笔记 # 9 卷积神经网络基础

全连接NN：每个神经元与前后相邻层的每一个神经元都有连接关系，输入是特征，输出为预测的结果参数个数：∑\sum∑(前层×后层+后层)一张分辨率仅仅是28x28的黑白图像，就有近40万个待优化的参数。现实生活中高分辨率的彩色图像，像素点更多，且为红绿蓝三通道信息。待优化的参数过多，容易导致模型过拟合。为避免这种现象，实际应用中一般不会将原始图片直接喂入全连接网络。在实际应用中，会先对原始图像进行特征
真·skysys·2020-08-26 13:44

TensorFlow笔记（五）——数据读取（二）

读取机制Tensorflow中数据读取机制可见下图关于这张图，这篇文章已经介绍的非常详细，简而言之，Tensorflow为了不让数据读取成为代码的事件瓶颈，用了两个队列来进行文件的读取：文件队列，通过tf.train.string_input_producer()函数来创建，文件名队列不包含文件的具体内容，只是在队列中记录所有的文件名，所以可以在这个函数中对文件设置多个epoch，并对其进行shu
马大哈先生·2020-08-24 01:58

tensorflow笔记API 快速查函数

基于tensorflow1.121.基本运作&张量定义importtensorflowastfx1=tf.Variable([1,2],dtype=tf.int64)#变量c1=tf.constant([1,2,3],dtype=tf.float64)#常量c2=tf.zeros((3,2))#全0张量c3=tf.ones((4,3))#全1张量c4=tf.fill((2,4),9.9)#全9.9
winter2121·2020-08-23 03:14

DL with python(7)——TensorFlow实现自制mnist数据集

本文涉及到的是中国大学慕课《人工智能实践：Tensorflow笔记》第四讲的内容，对神经网络八股进行拓展。这里介绍的是自制数据集的实现。数据集的自制是个人实现网络具体应用的前提。
生也有涯知也无涯·2020-08-22 02:55

TensorFlow笔记之神经网络优化——正则化

过拟合：神经网络模型在训练数据集上的准确率较高，在新的数据进行预测或分类时准确率较低，说明模型的泛化能力差。正则化：在损失函数中给每个参数w加上权重，引入模型复杂度指标，从而抑制模型噪声，减小过拟合。使用正则化后，损失函数loss变为两项之和：loss=loss(y与y_)+REGULARIZER*loss(w)其中，第一项是预测结果与标准答案之间的差距，如之前讲过的交叉熵、均方误差等；第二项是正
ElephantFlySong·2020-08-21 16:33

tensorflow笔记-20170329

转载自：https://sanwen8.cn/p/63flBuU.htmlTensorFlow从入门到实战资料汇总2017-02-0206:08|数据派来源：DataCastle数据城堡TensorFlow是谷歌基于DistBelief进行研发的第二代人工智能学**系统，其命名来源于本身的运行原理。Tensor（张量）意味着N维数组，Flow（流）意味着基于数据流图的计算，TensorFlow为张
whiffen_cann·2020-08-20 02:10

tensorflow笔记 cross entropy loss

交叉熵损失函数是模型中非常常见的一种损失函数，tensorflow中有一个计算交叉熵的函数：tf.nn.sigmoid_cross_entropy_with_logits，也可以调用keras中的函数：tf.keras.backend.binary_crossentropy，需要注意的是两者的输入有一些不同。先来看看tf自带的sigmoid_cross_entropy_with_logits：tf
thormas1996·2020-08-19 20:08

tensorflow笔记 tf.Print()

调试程序的时候，经常会需要检查中间的参数，这些参数一般是定义在model或是别的函数中的局部参数，由于tensorflow要求先构建计算图再运算的机制，也不能定义后直接print出来。tensorflow有一个函数tf.Print()，当然用python本身的print也可以，这个稍后提及。tf.Print(input,data,message=None,first_n=None,summariz
thormas1996·2020-08-19 20:07

TensorFlow笔记（一）

一：变量管理#在生成上下文管理器时，将参数reuse设置为True。#这样tf.get_variable函数将直接获取已经声明的变量.#可是，若该命名空间还未创建变量v1将报错。#相反的，若将参数reuse设置为False或None，tf.get_variable将创建新变量，若同名变量已经存在，将报错withtf.variable_scope('foo',reuse=True):v1=tf.ge
濯君·2020-08-19 10:01

tensorflow笔记

tf.name_scope()在某个tf.name_scope()指定的区域中定义的所有对象及各种操作，他们的“name”属性上会增加该命名区的区域名，用以区别对象属于哪个区域ref:tensorflow中的“tf.name_scope()”有什么用？tf.placeholdertf.placeholder(dtype,shape=None,name=None)此函数用于定义过程，在执行的时候再赋
梓笠·2020-08-19 05:55

TensorFlow笔记：环境的安装--只针对MacOs

MacOs安装tensorflow1.安装virtualenv$sudoeasy_installpip#安装pip$pipinstall—upgradevirtualenv#安装virtualenv2.创建一个虚拟环境$virtualenv—system-site-packages-ppython3~/tensorflow#用python3并安装在～/tensorflow目录下$cd~/tenso
破魔·2020-08-17 05:21

05：Tensorflow高级API的进阶--利用tf.contrib.learn建立输入函数

标签（空格分隔）：王小草Tensorflow笔记笔记整理者：王小草笔记整理时间：2017年2月27日笔记对应的官方文档：https://www.tensorflow.org/get_started/input_fn
王小小小草·2020-08-16 23:10

助教的tensorflow笔记之cnn

卷积神经网络结构图前向传播.pyimporttensorflowastf"""lenet结构"""IMAGE_SIZE=28NUM_CHANNELS=1CONV1_SIZE=5CONV1_KERNEL_NUM=32CONV2_SIZE=5CONV2_KERNEL_NUM=64FC_SIZE=512#全连接层第一层512个神经元OUTPUT_NODE=10defget_weight(shape,re
xiaowu_wu·2020-08-16 17:57

20180929 北京大学 人工智能实践：Tensorflow笔记08

20180929北京大学人工智能实践：Tensorflow笔记08https://www.bilibili.com/video/av22530538/?
轮子去哪儿了·2020-08-16 16:57

《人工智能实践：Tensorflow笔记》听课笔记18_4.5神经网络搭建八股

附：课程链接第四讲.神经网络优化4.5神经网络搭建八股由于个人使用Win7系统，并未完全按照课程所讲，以下记录的也基本是我的结合课程做的Windows系统+PyCharm操作。且本人有python基础，故一些操作可能简略。并未完全按照网课。记住编写代码时，除注释内容外，字符均使用英文格式。三、神经网络搭建的八股搭建模块化的神经网络八股：前向传播就是搭建网络，设计网络结构(一般新建一个文件forwa
RENeast·2020-08-16 16:48
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他