叫什么就是什么
叫什么就是什么

卷积层的梯度

第l层的卷积操作的一个简单的例子，s=1：

⎡⎣⎢⎢⎢⎢⎢⎢a[l−1]0a[l−1]4a[l−1]8a[l−1]12a[l−1]1a[l−1]5a[l−1]9a[l−1]13a[l−1]2a[l−1]6a[l−1]10a[l−1]14a[l−1]3a[l−1]7a[l−1]11a[l−1]15⎤⎦⎥⎥⎥⎥⎥⎥∗⎡⎣⎢⎢⎢f[l]0f[l]3f[l]6f[l]1f[l]4f[l]7f[l]2f[l]5f[l]8⎤⎦⎥⎥⎥=[z[l]0z[l]2z[l]1z[l]3] [ a 0 [ l − 1 ] a 1 [ l − 1 ] a 2 [ l − 1 ] a 3 [ l − 1 ] a 4 [ l − 1 ] a 5 [ l − 1 ] a 6 [ l − 1 ] a 7 [ l − 1 ] a 8 [ l − 1 ] a 9 [ l − 1 ] a 10 [ l − 1 ] a 11 [ l − 1 ] a 12 [ l − 1 ] a 13 [ l − 1 ] a 14 [ l − 1 ] a 15 [ l − 1 ] ] ∗ [ f 0 [ l ] f 1 [ l ] f 2 [ l ] f 3 [ l ] f 4 [ l ] f 5 [ l ] f 6 [ l ] f 7 [ l ] f 8 [ l ] ] = [ z 0 [ l ] z 1 [ l ] z 2 [ l ] z 3 [ l ] ]

a的梯度：

第1次卷积的梯度：

⎡⎣⎢⎢⎢⎢⎢⎢da[l−1]0da[l−1]4da[l−1]8da[l−1]12da[l−1]1da[l−1]5da[l−1]9da[l−1]13da[l−1]2da[l−1]6da[l−1]10da[l−1]14da[l−1]3da[l−1]7da[l−1]11da[l−1]15⎤⎦⎥⎥⎥⎥⎥⎥=⎡⎣⎢⎢⎢⎢⎢f[l]0dz[l]0f[l]3dz[l]0f[l]6dz[l]00f[l]1dz[l]0f[l]4dz[l]0f[l]7dz[l]00f[l]2dz[l]0f[l]5dz[l]0f[l]8dz[l]000000⎤⎦⎥⎥⎥⎥⎥ [ d a 0 [ l − 1 ] d a 1 [ l − 1 ] d a 2 [ l − 1 ] d a 3 [ l − 1 ] d a 4 [ l − 1 ] d a 5 [ l − 1 ] d a 6 [ l − 1 ] d a 7 [ l − 1 ] d a 8 [ l − 1 ] d a 9 [ l − 1 ] d a 10 [ l − 1 ] d a 11 [ l − 1 ] d a 12 [ l − 1 ] d a 13 [ l − 1 ] d a 14 [ l − 1 ] d a 15 [ l − 1 ] ] = [ f 0 [ l ] d z 0 [ l ] f 1 [ l ] d z 0 [ l ] f 2 [ l ] d z 0 [ l ] 0 f 3 [ l ] d z 0 [ l ] f 4 [ l ] d z 0 [ l ] f 5 [ l ] d z 0 [ l ] 0 f 6 [ l ] d z 0 [ l ] f 7 [ l ] d z 0 [ l ] f 8 [ l ] d z 0 [ l ] 0 0 0 0 0 ]

第2次卷积的梯度：
⎡⎣⎢⎢⎢⎢⎢⎢da[l−1]0da[l−1]4da[l−1]8da[l−1]12da[l−1]1da[l−1]5da[l−1]9da[l−1]13da[l−1]2da[l−1]6da[l−1]10da[l−1]14da[l−1]3da[l−1]7da[l−1]11da[l−1]15⎤⎦⎥⎥⎥⎥⎥⎥=⎡⎣⎢⎢⎢⎢⎢0000f[l]0dz[l]1f[l]3dz[l]1f[l]6dz[l]10f[l]1dz[l]1f[l]4dz[l]1f[l]7dz[l]10f[l]2dz[l]1f[l]5dz[l]1f[l]8dz[l]10⎤⎦⎥⎥⎥⎥⎥ [ d a 0 [ l − 1 ] d a 1 [ l − 1 ] d a 2 [ l − 1 ] d a 3 [ l − 1 ] d a 4 [ l − 1 ] d a 5 [ l − 1 ] d a 6 [ l − 1 ] d a 7 [ l − 1 ] d a 8 [ l − 1 ] d a 9 [ l − 1 ] d a 10 [ l − 1 ] d a 11 [ l − 1 ] d a 12 [ l − 1 ] d a 13 [ l − 1 ] d a 14 [ l − 1 ] d a 15 [ l − 1 ] ] = [ 0 f 0 [ l ] d z 1 [ l ] f 1 [ l ] d z 1 [ l ] f 2 [ l ] d z 1 [ l ] 0 f 3 [ l ] d z 1 [ l ] f 4 [ l ] d z 1 [ l ] f 5 [ l ] d z 1 [ l ] 0 f 6 [ l ] d z 1 [ l ] f 7 [ l ] d z 1 [ l ] f 8 [ l ] d z 1 [ l ] 0 0 0 0 ]

第3次卷积的梯度：
⎡⎣⎢⎢⎢⎢⎢⎢da[l−1]0da[l−1]4da[l−1]8da[l−1]12da[l−1]1da[l−1]5da[l−1]9da[l−1]13da[l−1]2da[l−1]6da[l−1]10da[l−1]14da[l−1]3da[l−1]7da[l−1]11da[l−1]15⎤⎦⎥⎥⎥⎥⎥⎥=⎡⎣⎢⎢⎢⎢⎢0f[l]0dz[l]2f[l]3dz[l]2f[l]6dz[l]20f[l]1dz[l]2f[l]4dz[l]2f[l]7dz[l]20f[l]2dz[l]2f[l]5dz[l]2f[l]8dz[l]20000⎤⎦⎥⎥⎥⎥⎥ [ d a 0 [ l − 1 ] d a 1 [ l − 1 ] d a 2 [ l − 1 ] d a 3 [ l − 1 ] d a 4 [ l − 1 ] d a 5 [ l − 1 ] d a 6 [ l − 1 ] d a 7 [ l − 1 ] d a 8 [ l − 1 ] d a 9 [ l − 1 ] d a 10 [ l − 1 ] d a 11 [ l − 1 ] d a 12 [ l − 1 ] d a 13 [ l − 1 ] d a 14 [ l − 1 ] d a 15 [ l − 1 ] ] = [ 0 0 0 0 f 0 [ l ] d z 2 [ l ] f 1 [ l ] d z 2 [ l ] f 2 [ l ] d z 2 [ l ] 0 f 3 [ l ] d z 2 [ l ] f 4 [ l ] d z 2 [ l ] f 5 [ l ] d z 2 [ l ] 0 f 6 [ l ] d z 2 [ l ] f 7 [ l ] d z 2 [ l ] f 8 [ l ] d z 2 [ l ] 0 ]

第4次卷积的梯度：
⎡⎣⎢⎢⎢⎢⎢⎢da[l−1]0da[l−1]4da[l−1]8da[l−1]12da[l−1]1da[l−1]5da[l−1]9da[l−1]13da[l−1]2da[l−1]6da[l−1]10da[l−1]14da[l−1]3da[l−1]7da[l−1]11da[l−1]15⎤⎦⎥⎥⎥⎥⎥⎥=⎡⎣⎢⎢⎢⎢⎢00000f[l]0dz[l]3f[l]3dz[l]3f[l]6dz[l]30f[l]1dz[l]3f[l]4dz[l]3f[l]7dz[l]30f[l]2dz[l]3f[l]5dz[l]3f[l]8dz[l]3⎤⎦⎥⎥⎥⎥⎥ [ d a 0 [ l − 1 ] d a 1 [ l − 1 ] d a 2 [ l − 1 ] d a 3 [ l − 1 ] d a 4 [ l − 1 ] d a 5 [ l − 1 ] d a 6 [ l − 1 ] d a 7 [ l − 1 ] d a 8 [ l − 1 ] d a 9 [ l − 1 ] d a 10 [ l − 1 ] d a 11 [ l − 1 ] d a 12 [ l − 1 ] d a 13 [ l − 1 ] d a 14 [ l − 1 ] d a 15 [ l − 1 ] ] = [ 0 0 0 0 0 f 0 [ l ] d z 3 [ l ] f 1 [ l ] d z 3 [ l ] f 2 [ l ] d z 3 [ l ] 0 f 3 [ l ] d z 3 [ l ] f 4 [ l ] d z 3 [ l ] f 5 [ l ] d z 3 [ l ] 0 f 6 [ l ] d z 3 [ l ] f 7 [ l ] d z 3 [ l ] f 8 [ l ] d z 3 [ l ] ]

加起来

⎡⎣⎢⎢⎢⎢⎢⎢da[l−1]0da[l−1]4da[l−1]8da[l−1]12da[l−1]1da[l−1]5da[l−1]9da[l−1]13da[l−1]2da[l−1]6da[l−1]10da[l−1]14da[l−1]3da[l−1]7da[l−1]11da[l−1]15⎤⎦⎥⎥⎥⎥⎥⎥=⎡⎣⎢⎢⎢⎢⎢⎢f[l]0dz[l]0+0+0+0f[l]3dz[l]0+0+f[l]0dz[l]2+0f[l]6dz[l]0+0+f[l]3dz[l]2+00+0+f[l]6dz[l]2+0f[l]1dz[l]0+f[l]0dz[l]1+0+0f[l]4dz[l]0+f[l]3dz[l]1+f[l]1dz[l]2+f[l]0dz[l]3f[l]7dz[l]0+f[l]6dz[l]1+f[l]4dz[l]2+f[l]3dz[l]30+0+f[l]7dz[l]2+f[l]6dz[l]3f[l]2dz[l]0+f[l]1dz[l]1+0+0f[l]5dz[l]0+f[l]4dz[l]1+f[l]2dz[l]2+f[l]1dz[l]3f[l]8dz[l]0+f[l]7dz[l]1+f[l]5dz[l]2+f[l]4dz[l]30+0+f[l]8dz[l]2+f[l]7dz[l]30+f[l]2dz[l]1+0+00+f[l]5dz[l]1+0+f[l]2dz[l]30+f[l]8dz[l]1+0+f[l]5dz[l]30+0+0+f[l]8dz[l]3⎤⎦⎥⎥⎥⎥⎥⎥ [ d a 0 [ l − 1 ] d a 1 [ l − 1 ] d a 2 [ l − 1 ] d a 3 [ l − 1 ] d a 4 [ l − 1 ] d a 5 [ l − 1 ] d a 6 [ l − 1 ] d a 7 [ l − 1 ] d a 8 [ l − 1 ] d a 9 [ l − 1 ] d a 10 [ l − 1 ] d a 11 [ l − 1 ] d a 12 [ l − 1 ] d a 13 [ l − 1 ] d a 14 [ l − 1 ] d a 15 [ l − 1 ] ] = [ f 0 [ l ] d z 0 [ l ] + 0 + 0 + 0 f 1 [ l ] d z 0 [ l ] + f 0 [ l ] d z 1 [ l ] + 0 + 0 f 2 [ l ] d z 0 [ l ] + f 1 [ l ] d z 1 [ l ] + 0 + 0 0 + f 2 [ l ] d z 1 [ l ] + 0 + 0 f 3 [ l ] d z 0 [ l ] + 0 + f 0 [ l ] d z 2 [ l ] + 0 f 4 [ l ] d z 0 [ l ] + f 3 [ l ] d z 1 [ l ] + f 1 [ l ] d z 2 [ l ] + f 0 [ l ] d z 3 [ l ] f 5 [ l ] d z 0 [ l ] + f 4 [ l ] d z 1 [ l ] + f 2 [ l ] d z 2 [ l ] + f 1 [ l ] d z 3 [ l ] 0 + f 5 [ l ] d z 1 [ l ] + 0 + f 2 [ l ] d z 3 [ l ] f 6 [ l ] d z 0 [ l ] + 0 + f 3 [ l ] d z 2 [ l ] + 0 f 7 [ l ] d z 0 [ l ] + f 6 [ l ] d z 1 [ l ] + f 4 [ l ] d z 2 [ l ] + f 3 [ l ] d z 3 [ l ] f 8 [ l ] d z 0 [ l ] + f 7 [ l ] d z 1 [ l ] + f 5 [ l ] d z 2 [ l ] + f 4 [ l ] d z 3 [ l ] 0 + f 8 [ l ] d z 1 [ l ] + 0 + f 5 [ l ] d z 3 [ l ] 0 + 0 + f 6 [ l ] d z 2 [ l ] + 0 0 + 0 + f 7 [ l ] d z 2 [ l ] + f 6 [ l ] d z 3 [ l ] 0 + 0 + f 8 [ l ] d z 2 [ l ] + f 7 [ l ] d z 3 [ l ] 0 + 0 + 0 + f 8 [ l ] d z 3 [ l ] ]

f的梯度

和求a的梯度相似
第1次卷积的梯度：

⎡⎣⎢⎢⎢df[l]0df[l]3df[l]6df[l]1df[l]4df[l]7df[l]2df[l]5df[l]8⎤⎦⎥⎥⎥=⎡⎣⎢⎢⎢a[l−1]0dz[l]0a[l−1]4dz[l]0a[l−1]8dz[l]0a[l−1]1dz[l]0a[l−1]5dz[l]0a[l−1]9dz[l]0a[l−1]2dz[l]0a[l−1]6dz[l]0a[l−1]10dz[l]0⎤⎦⎥⎥⎥ [ d f 0 [ l ] d f 1 [ l ] d f 2 [ l ] d f 3 [ l ] d f 4 [ l ] d f 5 [ l ] d f 6 [ l ] d f 7 [ l ] d f 8 [ l ] ] = [ a 0 [ l − 1 ] d z 0 [ l ] a 1 [ l − 1 ] d z 0 [ l ] a 2 [ l − 1 ] d z 0 [ l ] a 4 [ l − 1 ] d z 0 [ l ] a 5 [ l − 1 ] d z 0 [ l ] a 6 [ l − 1 ] d z 0 [ l ] a 8 [ l − 1 ] d z 0 [ l ] a 9 [ l − 1 ] d z 0 [ l ] a 10 [ l − 1 ] d z 0 [ l ] ]

第2次卷积的梯度：
⎡⎣⎢⎢⎢df[l]0df[l]3df[l]6df[l]1df[l]4df[l]7df[l]2df[l]5df[l]8⎤⎦⎥⎥⎥=⎡⎣⎢⎢⎢a[l−1]1dz[l]1a[l−1]5dz[l]1a[l−1]9dz[l]1a[l−1]2dz[l]1a[l−1]6dz[l]1a[l−1]10dz[l]1a[l−1]3dz[l]1a[l−1]7dz[l]1a[l−1]11dz[l]1⎤⎦⎥⎥⎥ [ d f 0 [ l ] d f 1 [ l ] d f 2 [ l ] d f 3 [ l ] d f 4 [ l ] d f 5 [ l ] d f 6 [ l ] d f 7 [ l ] d f 8 [ l ] ] = [ a 1 [ l − 1 ] d z 1 [ l ] a 2 [ l − 1 ] d z 1 [ l ] a 3 [ l − 1 ] d z 1 [ l ] a 5 [ l − 1 ] d z 1 [ l ] a 6 [ l − 1 ] d z 1 [ l ] a 7 [ l − 1 ] d z 1 [ l ] a 9 [ l − 1 ] d z 1 [ l ] a 10 [ l − 1 ] d z 1 [ l ] a 11 [ l − 1 ] d z 1 [ l ] ]

第3次卷积的梯度：
⎡⎣⎢⎢⎢df[l]0df[l]3df[l]6df[l]1df[l]4df[l]7df[l]2df[l]5df[l]8⎤⎦⎥⎥⎥=⎡⎣⎢⎢⎢a[l−1]4dz[l]2a[l−1]8dz[l]2a[l−1]12dz[l]2a[l−1]5dz[l]2a[l−1]9dz[l]2a[l−1]13dz[l]2a[l−1]6dz[l]2a[l−1]10dz[l]2a[l−1]14dz[l]2⎤⎦⎥⎥⎥ [ d f 0 [ l ] d f 1 [ l ] d f 2 [ l ] d f 3 [ l ] d f 4 [ l ] d f 5 [ l ] d f 6 [ l ] d f 7 [ l ] d f 8 [ l ] ] = [ a 4 [ l − 1 ] d z 2 [ l ] a 5 [ l − 1 ] d z 2 [ l ] a 6 [ l − 1 ] d z 2 [ l ] a 8 [ l − 1 ] d z 2 [ l ] a 9 [ l − 1 ] d z 2 [ l ] a 10 [ l − 1 ] d z 2 [ l ] a 12 [ l − 1 ] d z 2 [ l ] a 13 [ l − 1 ] d z 2 [ l ] a 14 [ l − 1 ] d z 2 [ l ] ]

第4次卷积的梯度：
⎡⎣⎢⎢⎢df[l]0df[l]3df[l]6df[l]1df[l]4df[l]7df[l]2df[l]5df[l]8⎤⎦⎥⎥⎥=⎡⎣⎢⎢⎢a[l−1]5dz[l]3a[l−1]9dz[l]3a[l−1]13dz[l]3a[l−1]6dz[l]3a[l−1]10dz[l]3a[l−1]14dz[l]3a[l−1]7dz[l]3a[l−1]11dz[l]3a[l−1]15dz[l]3⎤⎦⎥⎥⎥ [ d f 0 [ l ] d f 1 [ l ] d f 2 [ l ] d f 3 [ l ] d f 4 [ l ] d f 5 [ l ] d f 6 [ l ] d f 7 [ l ] d f 8 [ l ] ] = [ a 5 [ l − 1 ] d z 3 [ l ] a 6 [ l − 1 ] d z 3 [ l ] a 7 [ l − 1 ] d z 3 [ l ] a 9 [ l − 1 ] d z 3 [ l ] a 10 [ l − 1 ] d z 3 [ l ] a 11 [ l − 1 ] d z 3 [ l ] a 13 [ l − 1 ] d z 3 [ l ] a 14 [ l − 1 ] d z 3 [ l ] a 15 [ l − 1 ] d z 3 [ l ] ]

最后加起来。（不写了，公式太长了。。。）

你可能感兴趣的:(deeplearning.ai)

  • Coursera | Andrew Ng (02-week2-2.10)—局部最优的问题 ZJ_Improve 深度学习正则化以及优化深度学习吴恩达局部最优深度学习
    该系列仅在原课程基础上部分知识点添加个人学习笔记，或相关推导补充等。如有错误，还请批评指教。在学习了AndrewNg课程的基础上，为了更方便的查阅复习，将其整理成文字。因本人一直在学习英语，所以该系列以英文为主，同时也建议读者以英文为主，中文辅助，以便后期进阶时，为学习相关领域的学术论文做铺垫。-ZJCoursera课程|deeplearning.ai|网易云课堂转载请注明作者和出处：ZJ微信公众
  • 6、5 门关于 AI 和 ChatGPT 的免费课程，带您从 0-100 AI算法蒋同学 一起来学习下ChatGPT吧人工智能chatgpt
    5门关于AI和ChatGPT的免费课程，带您从0-100想在2024年免费了解有关AI和ChatGPT的更多信息吗？图片由DALLE3提供活着是多么美好的时光啊。还有什么比现在更适合了解生成式人工智能（尤其是ChatGPT）等人工智能元素的呢！许多人对这个行业感兴趣，但有些人需要更多关于如何到达那里的知识。该博客为您提供了来自哈佛、IBM、DeepLearning.AI等可信机构的免费课程列表。让
  • 吴恩达深度学习-学习笔记p1-p6 丢了橘子的夏天 深度学习学习笔记
    哔哩哔哩网站视频-[双语字幕]吴恩达深度学习deeplearning.ai网站：up主：mHarvey，视频：[双语字幕]吴恩达深度学习deeplearning.ai一.p11.1欢迎二.p21.2什么是神经网络1.举例：根据面积预测房价假设有六个房子的房屋面积和价格，根据这个数据集，房屋面积预测房价的函数，这些是一个简单的神经网络神经元的功能就是输入面积完成线性运算，取不小于0的值，最后得到预测
  • 【吴恩达机器学习】第一周课程笔记 Estella_07 机器学习笔记人工智能
    Hello，这里是小梁。下面是我近期学习机器学习的笔记，出发点是希望对自己起到一个督促和输出的作用如果你对我的笔记感兴趣欢迎Like，有不足之处也欢迎评论留言B站【2022吴恩达机器学习Deeplearning.ai课程】笔记参考【吴恩达《MachineLearning》精炼笔记】1机器学习的定义与分类1.1监督学习Supervisedlearning1.2无监督学习Unsupervisedlea
  • Coursera | Andrew Ng (01-week-2-2.11)—向量化 ZJ_Improve 深度学习深度学习吴恩达吴恩达深度学习
    该系列仅在原课程基础上部分知识点添加个人学习笔记，或相关推导补充等。如有错误，还请批评指教。在学习了AndrewNg课程的基础上，为了更方便的查阅复习，将其整理成文字。因本人一直在学习英语，所以该系列以英文为主，同时也建议读者以英文为主，中文辅助，以便后期进阶时，为学习相关领域的学术论文做铺垫。-ZJCoursera课程|deeplearning.ai|网易云课堂转载请注明作者和出处：ZJ微信公众
  • ML学习安排和资源链接 Nice night #ML吴恩达机器学习
    第一阶段：学习前置数学知识机器学习的数学基础_二进制人工智能的博客-CSDN博客第二阶段：认知机器学习吴恩达机器学习【2022中文版教程全集】_哔哩哔哩_bilibili视频5h，看了一点发现后面没字幕了，这个(强推|双字)2022吴恩达机器学习Deeplearning.ai课程_哔哩哔哩_bilibili视频19h。但是这个是属于新课，所以还是先看第三阶段上：仔细了解机器学习视频链接：[中英字幕
  • 吴恩达《ChatGPT Prompt Engineering for Developers》学习笔记 stay_foolish12 人工智能
    来自：口仆本笔记是deeplearning.ai最近推出的短期课程《ChatGPTPromptEngineeringforDevelopers》的学习总结。1引言总的来说，当前有两类大语言模型（LLM）：「基础LLM」和「指令微调LLM」。基础LLM基于大量文本数据训练而成，核心思想为预测一句话的下一个单词（即词语接龙）。基于语料的限制，有时会返回不符合预期的结果（如上图所示）。指令微调LLM基于
  • Assignment | 04-week1 -Convolutional Neural Networks: Application Part_2 ZJ_Improve 深度学习吴恩达-Assignment汇总深度学习吴恩达卷积神经网络tensorflow
    该系列仅在原课程基础上课后作业部分添加个人学习笔记，如有错误，还请批评指教。在学习了AndrewNg课程的基础上，为了更方便的查阅复习，将其整理成文字。因本人一直在学习英语，所以该系列以英文为主，同时也建议读者以英文为主，中文辅助，以便后期进阶时，为学习相关领域的学术论文做铺垫。-ZJCoursera课程|deeplearning.ai|网易云课堂转载请注明作者和出处：ZJ微信公众号-「SelfI
  • 【机器学习小记】【平面数据分类】deeplearning.ai course1 3rd week programming LittleSeedling #初学深度学习机器学习神经网络
    带有一个隐藏层的平面数据分类数据集介绍数据集形状模型搭建参数初始化前向传播隐藏层输出层反向传播输出层隐藏层梯度下降更新参数预测其他np.dot()与np.multiply()的区别结果使用简单逻辑回归测试不同的隐藏层神经元数测试其他数据集原始数据集测试不同的隐藏层神经元数目标：带有一个隐藏层的平面数据分类神经网络参考自：【中文】【吴恩达课后编程作业】Course1-神经网络和深度学习-第三周作业数
  • Coursera | Andrew Ng (02-week-1-1.3)—机器学习基础 ZJ_Improve 深度学习正则化以及优化深度学习吴恩达机器学习深度学习吴恩达coursera
    该系列仅在原课程基础上部分知识点添加个人学习笔记，或相关推导补充等。如有错误，还请批评指教。在学习了AndrewNg课程的基础上，为了更方便的查阅复习，将其整理成文字。因本人一直在学习英语，所以该系列以英文为主，同时也建议读者以英文为主，中文辅助，以便后期进阶时，为学习相关领域的学术论文做铺垫。-ZJCoursera课程|deeplearning.ai|网易云课堂转载请注明作者和出处：ZJ微信公众
  • 进大厂全靠自学，微软&头条实习生现身说法：我是这样自学深度学习的丨课程传送门... QbitAl
    作者SannyKim郭一璞编译量子位出品|公众号QbitAI跟着网络资料自学、刷MOOC是许多人学深度学习的方式，但深度学习相关资源众多，应该从哪儿开始学呢？富有自学经验的GitHub用户SannyKim贡献出了一份深度学习自学指南。她自学成才，有Udacity、deeplearning.ai、Coursera的一大堆课程认证，甚至连大学都是上的以自学、MOOC著称的Minerva大学，自学卓有成
  • 吴恩达机器学习Deeplearning.ai课程学习笔记(Supervised Machine Learning Regression and Classification---week1) 智能提桶工程师 人工智能学习
    一、机器学习定义：机器学习即Machinelearning，涉及很多学科，简单点来说，就是使用计算机通过“学习“大量的数据模拟实现人类的行为，也就是让计算机自己学习到一些所谓的”知识与技能“（例如什么是苹果？什么是香蕉？），而且能够通过一些算法组织其实现不断学习不断完善自身的性能与知识架构，换句话说，让计算机越来越”知识渊博“，也就是-----人工智能。二、机器学习分类：机器学习一般分为监督学习与
  • 大手笔！吴恩达一口气开放了 3 个 AIGC 教程。。 机器学习社区 自然语言机器学习AIGC人工智能自然语言处理大模型算法
    一个月前，DeepLearning.ai创始人吴恩达与OpenAI开发者IzaFulford联手推出了一门面向开发者的技术教程：ChatGPT提示工程。该教程总共分为9个章节，总一个多小时，里面主要涵盖：提示词最佳实践、评论情感分类、文本总结、邮件撰写、文本翻译、快速搭建一个聊天机器人等等。你除了能在这个教程里面学到如何使用Prompt，你还能学到GPT接口调用开发知识。一个月时间过去了，因课程质
  • GitHub Copilot Chat将于12月全面推出；DeepLearning.AI免费新课 go2coding AI日报githubcopilot人工智能
    AI新闻GitHubCopilotChat将于12月全面推出，提升开发者的生产力摘要：GitHub宣布将于12月全面推出GitHubCopilotChat，这是GitHubCopilot的一个新功能，旨在帮助开发者编写代码。它能够集成到开发者的桌面IDE环境中，并能够根据上下文联想出后文，不仅限于代码缺省补充和纠错。与此同时，CopilotChat还能够与开发者进行对话，提供更加细致的人机交互体验
  • 【深度学习】Coursera的TensorFlow课程练习题精华部分 风度78
    大家好，这次给大家翻译的是来自Coursera，由deeplearning.ai提供的TensorFlowinPractice的课程系列的QUIZ部分本文来源：www.kesci.com该系列课程共分为4个专项一、人工智能、机器学习和深度学习的TensorFlow简介二、TensorFlow中的卷积神经网络三、TensorFlow中的自然语言处理四、序列、时间序列与预测原教程链接在此：Tensor
  • sheng的学习笔记-【目录】【中文】【deplearning.ai】【吴恩达课后作业目录】 coldstarry 吴恩达作业-深度学习人工智能
    学习吴恩达的深度学习，用于记录笔记知识目录和引用文章原文见下面，但已经变为收费的：【目录】【中文】【deplearning.ai】【吴恩达课后作业目录】_吴恩达深度学习何宽-CSDN博客免费的用于学习的github地址，包含笔记和代码，资料来源于深度学习GitHub-fengdu78/deeplearning_ai_books:deeplearning.ai（吴恩达老师的深度学习课程笔记及资源）机
  • 微调大型语言模型(一)：为什么要微调(Why finetune)? -派神- NLPLangchainChatGPT语言模型人工智能自然语言处理chatgpt
    今天我们来学习Deeplearning.ai的在线课程微调大型语言模型(一)的第一课：为什么要微调(Whyfinetune)。我们知道像GPT-3.5这样的大型语言模型(LLM)它所学到的知识截止到2021年9月，那么如果我们向ChatGPT询问2022年以后发生的事情，它可能会产生“幻觉”从而给出错误的答案，再比如我们有一些关于企业的某些产品的业务数据，但是由于ChatGPT没有学习过这些数据，
  • 2022吴恩达机器学习Deeplearning.ai课程编程作业C1_W2: Linear Regression alterego2380 机器学习pythonnumpy机器学习线性回归人工智能
    PracticeLab:LinearRegressionWelcometoyourfirstpracticelab!Inthislab,youwillimplementlinearregressionwithonevariabletopredictprofitsforarestaurantfranchise.Outline1-Packages2-Linearregressionwithonevar
  • LangChain 手记 Conclusion结语 从流域到海域 大语言模型langchain
    整理并翻译自DeepLearning.AI×LangChain的官方课程：ConclusionConclusion结语本系列短课展示了大量使用LangChain构建的大语言模型应用，包括处理用户反馈、文档上的问答系统甚至使用LLM来决定发起外部工具的调用（比如搜索）来回答复杂问题。使用LangChain的好处在于能很大程度上提升开发效率，仅需要适量代码，就可以实现复杂的llm应用。课程作者希望大家
  • 卷积神经网络之一维卷积、二维卷积、三维卷积 bebr 机器学习卷积神经网络一维二维
    1.二维卷积图中的输入的数据维度为14×1414×14，过滤器大小为5×55×5，二者做卷积，输出的数据维度为10×1010×10（14−5+1=1014−5+1=10）。如果你对卷积维度的计算不清楚，可以参考我之前的博客吴恩达深度学习笔记（deeplearning.ai）之卷积神经网络（CNN）（上）。上述内容没有引入channel的概念，也可以说channel的数量为1。如果将二维卷积中输入的
  • LangChain手记 Agent 智能体 从流域到海域 大语言模型langchain人工智能
    整理并翻译自DeepLearning.AI×LangChain的官方课程：Agent（源代码可见）“人们有时会将LLM看作是知识库，因为它被训练所以记住了来自互联网或其他地方的海量信息，因而当你向它提问时，它可以回答你的问题。有一个更加有用的认知模式是将LLM看作是一个推理引擎，如果提供给他文本块或者额外信息，它可以理由从互联网或者其他地方学会的背景知识利用新信息来帮助回答问题或者进行文本推理或者
  • LangChain手记 Evalutation评估 从流域到海域 大语言模型langchain人工智能
    整理并翻译自DeepLearning.AI×LangChain的官方课程：Evaluation（源代码可见）基于LLM的应用如何做评估是一个难点，本节介绍了一些思路和工具。“从传统开发转换到基于prompt的开发，开发使用LLM的应用，整个工作流的评估方式需要重新考虑，本节会介绍很多激动人心的概念。”Evaluation评估构建一个上节课介绍过的QAchain：不同之处仅在于加了一个参数：chai
  • DeepLearning.ai学习笔记（一）神经网络和深度学习--Week4深层神经网络 marsggbo 机器学习神经网络深度学习前向传播反向传播Andrew-ng
    一、深层神经网络深层神经网络的符号与浅层的不同，记录如下：-用L表示层数,该神经网络L=4-n[l]表示第l层的神经元的数量，例如n[1]=n[2]=5,n[3]=3,n[4]=1-a[l]表示第l层中的激活函数,a[l]=g[l](z[l])二、前向和反向传播1.第l层的前向传播输入为a[l−1]输出为a[l],cache(z[l])矢量化表示：Z[l]=W[l]⋅A[l−1]+b[l]A[l]
  • LangChain手记 Question Answer 问答系统 从流域到海域 大语言模型langchain
    整理并翻译自DeepLearning.AI×LangChain的官方课程：QuestionAnswer（源代码可见）本节介绍使用LangChian构建文档上的问答系统，可以实现给定一个PDF文档，询问关于文档上出现过的某个信息点，LLM可以给出关于该信息点的详情信息。这种使用方式比较灵活，因为并没有使用PDF上的文本对模型进行训练就可以实现文档上的信息点问答。本节介绍的Chain也比较常用，它涉及
  • LangChain手记 Chains 从流域到海域 langchain人工智能
    整理并翻译自DeepLearning.AI×LangChain的官方课程：Chains（源代码可见）Chains直译链，表达的意思更像是对话链，对话链的背后是思维链LLMChain（LLM链）首先介绍了一个最简单的例子，LLMChain：将一个大语言模型和prompt模板组合起来调用LLMChain，即可得到一个LLMChain对象，该对象的run实现的功能即给定输入自动使用prompt模板生成p
  • LangChain手记 Memory 从流域到海域 大语言模型langchain
    整理并翻译自DeepLearning.AI×LangChain的官方课程：MemoryMemory使用openai的API调用GPT都是单次调用，所以模型并不记得之前的对话，多轮对话的实现其实是将前面轮次的对话过程保留，在下次对话时作为输入的message数组的一部分，再将新一轮对话的提问也放入message数组，再发起一次API调用，即构手动建对话流（以上笔者注）。构建对话流（LangChain
  • LangChain手记 Models,Prompts and Parsers 从流域到海域 大语言模型langchain
    整理并翻译自DeepLearning.AI×LangChain的官方课程：Models,PromptsandParsers模型，提示词和解析器（Models,PromptsandParsers）模型：大语言模型提示词：构建传递给模型的输入的方式解析器：获取模型输入，转换为更为结构化的形式以在下游任务中使用为什么使用提示词模板提示词会非常长且具体在可以的时候能直接复用提示词LangChain也为常用
  • 使用 Gradio 构建生成式 AI 应用程序(一): 图片内容读取app -派神- NLP自然语言处理人工智能自然语言处理深度学习神经网络机器学习
    今天我们来学习DeepLearning.AI的在线课程：BuildingGenerativeAIApplicationswithGradio，该课程主要讲述利用gradio来部署机器学习算法应用程序,今天我们来学习第一课：Imagecaptioningapp，该课程主要讲述如何从图片中读取图片的内容信息，如下图所示：今天我们会使用huggingface的Salesforce/blip-image-
  • 深度学习阶段性回顾 猫咪的白手套 深度学习人工智能
    本文针对过去两周的深度学习理论做阶段性回顾，学习资料来自吴恩达老师的2021版deeplearning.ai课程，内容涵盖深度神经网络改善一直到ML策略的章节。视频链接如下：吴恩达深度学习视频链接（注：本文出自深度学习初学者，此文内容将以初学者的感悟与见解讲述。当然我也会努力搜寻资料以弥补自身认知的不足，希望本文能对深度学习的其他初学者也有所帮助，文章若有不当之处，望大家在评论区多多指正，我将虚心
  • LangChain手记 Overview 从流域到海域 大语言模型langchain
    整理并翻译自DeepLearning.AI×LangChain的官方课程：Overview综述（Overview）LangChain是为大模型应用开发设计的开源框架LangChain目前提供Python和JavaScript（TypeScript）两种语言的包LangChain的主攻方向是聚合和模块化核心附加值：模块化的组件用例：针对常见组合组件的方式提供了简单易用的模板组件模型（Models）集
  • 用MiddleGenIDE工具生成hibernate的POJO（根据数据表生成POJO类） AdyZhang POJOeclipseHibernateMiddleGenIDE
    推荐:MiddlegenIDE插件,   是一个Eclipse   插件.     用它可以直接连接到数据库,   根据表按照一定的HIBERNATE规则作出BEAN和对应的XML ，用完后你可以手动删除它加载的JAR包和XML文件!     今天开始试着使用
  • .9.png Cb123456 android
      “点九”是andriod平台的应用软件开发里的一种特殊的图片形式，文件扩展名为：.9.png 　　智能手机中有自动横屏的功能,同一幅界面会在随着手机(或平板电脑)中的方向传感器的参数不同而改变显示的方向,在界面改变方向后,界面上的图形会因为长宽的变化而产生拉伸,造成图形的失真变形。 　　我们都知道android平台有多种不同的分辨率，很多控件的切图文件在被放大拉伸后，边
  • 算法的效率 天子之骄 算法效率复杂度最坏情况运行时间大O阶平均情况运行时间
    算法的效率 效率是速度和空间消耗的度量。集中考虑程序的速度，也称运行时间或执行时间，用复杂度的阶(O)这一标准来衡量。空间的消耗或需求也可以用大O表示，而且它总是小于或等于时间需求。   以下是我的学习笔记：   1.求值与霍纳法则，即为秦九韶公式。   2.测定运行时间的最可靠方法是计数对运行时间有贡献的基本操作的执行次数。运行时间与这个计数成正比。
  • java数据结构 何必如此 java数据结构
    Java 数据结构 Java工具包提供了强大的数据结构。在Java中的数据结构主要包括以下几种接口和类： 枚举（Enumeration） 位集合（BitSet） 向量（Vector） 栈（Stack） 字典（Dictionary） 哈希表（Hashtable） 属性（Properties） 以上这些类是传统遗留的，在Java2中引入了一种新的框架-集合框架(Collect
  • MybatisHelloWorld 3213213333332132
    //测试入口TestMyBatis package com.base.helloworld.test; import java.io.IOException; import org.apache.ibatis.io.Resources; import org.apache.ibatis.session.SqlSession; import org.apache.ibat
  • Java|urlrewrite|URL重写|多个参数 7454103 javaxmlWeb工作
     个人工作经验！ 如有不当之处，敬请指点 1.0  web -info 目录下建立     urlrewrite.xml  文件 类似如下： <?xml version="1.0" encoding="UTF-8" ?>   <!DOCTYPE u
  • 达梦数据库+ibatis darkranger sqlmysqlibatisSQL Server
    --插入数据方面 如果您需要数据库自增... 那么在插入的时候不需要指定自增列. 如果想自己指定ID列的值, 那么要设置 set identity_insert  数据库名.模式名.表名; ----然后插入数据; example: create table zhabei.test( id bigint identity(1,1) primary key, nam
  • XML 解析 四种方式 aijuans android
    XML现在已经成为一种通用的数据交换格式,平台的无关性使得很多场合都需要用到XML。本文将详细介绍用Java解析XML的四种方法。 XML现在已经成为一种通用的数据交换格式,它的平台无关性,语言无关性,系统无关性,给数据集成与交互带来了极大的方便。对于XML本身的语法知识与技术细节,需要阅读相关的技术文献,这里面包括的内容有DOM(Document Object
  • spring中配置文件占位符的使用 avords
    1.类 <?xml version="1.0" encoding="UTF-8"?><!DOCTYPE beans PUBLIC "-//SPRING//DTD BEAN//EN" "http://www.springframework.o
  • 前端工程化-公共模块的依赖和常用的工作流 bee1314 webpack
    题记： 一个人的项目，还有工程化的问题嘛？   我们在推进模块化和组件化的过程中，肯定会不断的沉淀出我们项目的模块和组件。对于这些沉淀出的模块和组件怎么管理？另外怎么依赖也是个问题？ 你真的想这样嘛？   var BreadCrumb = require(‘../../../../uikit/breadcrumb’); //真心ugly。  
  • 上司说「看你每天准时下班就知道你工作量不饱和」，该如何回应？ bijian1013 项目管理沟通IT职业规划
    问题：上司说「看你每天准时下班就知道你工作量不饱和」，如何回应         正常下班时间6点，只要是6点半前下班的，上司都认为没有加班。   Eno-Bea回答，注重感受，不一定是别人的         虽然我不知道你具体从事什么工作与职业，但是我大概猜测，你是从事一项不太容易出现阶段性成果的工作
  • TortoiseSVN，过滤文件 征客丶 SVN
    环境： TortoiseSVN 1.8 配置： 在文件夹空白处右键 选择  TortoiseSVN -> Settings 在 Global ignote pattern 中添加要过滤的文件： 多类型用英文空格分开 *name ： 过滤所有名称为 name 的文件或文件夹 *.name ： 过滤所有后缀为 name 的文件或文件夹 --------
  • 【Flume二】HDFS sink细说 bit1129 Flume
    1. Flume配置   a1.sources=r1 a1.channels=c1 a1.sinks=k1 ###Flume负责启动44444端口 a1.sources.r1.type=avro a1.sources.r1.bind=0.0.0.0 a1.sources.r1.port=44444 a1.sources.r1.chan
  • The Eight Myths of Erlang Performance bookjovi erlang
    erlang有一篇guide很有意思： http://www.erlang.org/doc/efficiency_guide 里面有个The Eight Myths of Erlang Performance： http://www.erlang.org/doc/efficiency_guide/myths.html   Myth: Funs are sl
  • java多线程网络传输文件(非同步)-2008-08-17 ljy325 java多线程socket
    利用 Socket 套接字进行面向连接通信的编程。客户端读取本地文件并发送；服务器接收文件并保存到本地文件系统中。 使用说明:请将TransferClient, TransferServer, TempFile三个类编译，他们的类包是FileServer. 客户端: 修改TransferClient: serPort, serIP, filePath, blockNum,的值来符合您机器的系
  • 读《研磨设计模式》-代码笔记-模板方法模式 bylijinnan java设计模式
    声明： 本文只为方便我个人查阅和理解，详细的分析以及源代码请移步 原作者的博客http://chjavach.iteye.com/ import java.sql.Connection; import java.sql.DriverManager; import java.sql.PreparedStatement; import java.sql.ResultSet;
  • 配置心得 chenyu19891124 配置
    时间就这样不知不觉的走过了一个春夏秋冬，转眼间来公司已经一年了，感觉时间过的很快，时间老人总是这样不停走，从来没停歇过。 作为一名新手的配置管理员，刚开始真的是对配置管理是一点不懂，就只听说咱们公司配置主要是负责升级，而具体该怎么做却一点都不了解。经过老员工的一点点讲解，慢慢的对配置有了初步了解，对自己所在的岗位也慢慢的了解。 做了一年的配置管理给自总结下： 1.改变 从一个以前对配置毫无
  • 对“带条件选择的并行汇聚路由问题”的再思考 comsci 算法工作软件测试嵌入式领域模型
    2008年上半年，我在设计并开发基于”JWFD流程系统“的商业化改进型引擎的时候，由于采用了新的嵌入式公式模块而导致出现“带条件选择的并行汇聚路由问题”(请参考2009-02-27博文)，当时对这个问题的解决办法是采用基于拓扑结构的处理思想，对汇聚点的实际前驱分支节点通过算法预测出来，然后进行处理，简单的说就是找到造成这个汇聚模型的分支起点，对这个起始分支节点实际走的路径数进行计算，然后把这个实际
  • Oracle 10g 的clusterware 32位 下载地址 daizj oracle
    Oracle 10g 的clusterware 32位 下载地址 http://pan.baidu.com/share/link?shareid=531580&uk=421021908 http://pan.baidu.com/share/link?shareid=137223&uk=321552738 http://pan.baidu.com/share/l
  • 非常好的介绍：Linux定时执行工具cron dongwei_6688 linux
    Linux经过十多年的发展，很多用户都很了解Linux了，这里介绍一下Linux下cron的理解，和大家讨论讨论。cron是一个Linux 定时执行工具，可以在无需人工干预的情况下运行作业，本文档不讲cron实现原理，主要讲一下Linux定时执行工具cron的具体使用及简单介绍。 新增调度任务推荐使用crontab -e命令添加自定义的任务（编辑的是/var/spool/cron下对应用户的cr
  • Yii assets目录生成及修改 dcj3sjt126com yii
    assets的作用是方便模块化，插件化的，一般来说出于安全原因不允许通过url访问protected下面的文件，但是我们又希望将module单独出来，所以需要使用发布，即将一个目录下的文件复制一份到assets下面方便通过url访问。 assets设置对应的方法位置 \framework\web\CAssetManager.php   assets配置方法 在m
  • mac工作软件推荐 dcj3sjt126com mac
    mac上的Terminal + bash ＋ screen组合现在已经非常好用了，但是还是经不起iterm＋zsh＋tmux的冲击。在同事的强烈推荐下，趁着升级mac系统的机会，顺便也切换到iterm＋zsh＋tmux的环境下了。 我为什么要要iterm2 切换过来也是脑袋一热的冲动，我也调查过一些资料，看了下iterm的一些优点： * 兼容性好，远程服务器 vi 什么的低版本能很好兼
  • Memcached(三)、封装Memcached和Ehcache frank1234 memcachedehcachespring ioc
    本文对Ehcache和Memcached进行了简单的封装，这样对于客户端程序无需了解ehcache和memcached的差异，仅需要配置缓存的Provider类就可以在二者之间进行切换，Provider实现类通过Spring IoC注入。 cache.xml <?xml version="1.0" encoding="UTF-8"?>
  • Remove Duplicates from Sorted List II hcx2013 remove
    Given a sorted linked list, delete all nodes that have duplicate numbers, leaving only distinct numbers from the original list. For example,Given 1->2->3->3->4->4->5,
  • Spring4新特性——注解、脚本、任务、MVC等其他特性改进 jinnianshilongnian spring4
    Spring4新特性——泛型限定式依赖注入 Spring4新特性——核心容器的其他改进 Spring4新特性——Web开发的增强 Spring4新特性——集成Bean Validation 1.1(JSR-349)到SpringMVC  Spring4新特性——Groovy Bean定义DSL Spring4新特性——更好的Java泛型操作API  Spring4新
  • MySQL安装文档 liyong0802 mysql
      工作中用到的MySQL可能安装在两种操作系统中，即Windows系统和Linux系统。以Linux系统中情况居多。   安装在Windows系统时与其它Windows应用程序相同按照安装向导一直下一步就即，这里就不具体介绍，本文档只介绍Linux系统下MySQL的安装步骤。   Linux系统下安装MySQL分为三种：RPM包安装、二进制包安装和源码包安装。二
  • 使用VS2010构建HotSpot工程 p2p2500 HotSpotOpenJDKVS2010
    1. 下载OpenJDK7的源码：      http://download.java.net/openjdk/jdk7      http://download.java.net/openjdk/      2. 环境配置     ▶
  • Oracle实用功能之分组后列合并 seandeng888 oracle分组实用功能合并
    1       实例解析 由于业务需求需要对表中的数据进行分组后进行合并的处理，鉴于Oracle10g没有现成的函数实现该功能，且该功能如若用JAVA代码实现会比较复杂，因此，特将SQL语言的实现方式分享出来，希望对大家有所帮助。如下： 表test 数据如下： ID,SUBJECTCODE,DIMCODE,VALUE 1&nbs
  • Java定时任务注解方式实现 tuoni javaspringjvmxmljni
    Spring 注解的定时任务，有如下两种方式： 第一种： <?xml version="1.0" encoding="UTF-8"?> <beans xmlns="http://www.springframework.org/schema/beans"  xmlns:xsi="http
  • 11大Java开源中文分词器的使用方法和分词效果对比 yangshangchuan word分词器ansj分词器Stanford分词器FudanNLP分词器HanLP分词器
    本文的目标有两个： 1、学会使用11大Java开源中文分词器 2、对比分析11大Java开源中文分词器的分词效果 本文给出了11大Java开源中文分词的使用方法以及分词结果对比代码，至于效果哪个好，那要用的人结合自己的应用场景自己来判断。 11大Java开源中文分词器，不同的分词器有不同的用法，定义的接口也不一样，我们先定义一个统一的接口： /** * 获取文本的所有分词结果, 对比
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他