李宏毅机器学习2022春季-第十三课和HW13

李宏毅机器学习2022春季-第十三课和HW13_第1张图片

李宏毅2022课程视频全部以线上视频的形式给出(已经全部录好,你可以选择短时间全部学完),上课时间会直播讲解额外的内容(可以不听)和作业(建议一定要做),目前已更新到作业十三。

第十三课主要内容是Network compression(模型压缩),课程中介绍了五种模型压缩的方法:Network Pruning(模型剪枝), Knowledge Distillation(知识蒸馏), Parameter Quantization(参数量化), Archtecture Design(架构设计), Dynamic Computation(动态计算)。详细内容见课程视频。

  • 课程视频

    b站视频号机器学习手艺人

    https://www.bilibili.com/video/BV1Z34y1C7sj?spm_id_from=333.999.0.0

  • Github:课堂和作业课件及基础代码

    https://github.com/yaoweizhang/LHY2022-SPRING

作业十三需要使用kaggle或者colab下载代码、训练数据集、模型等资料,文末也有助教代码和训练数据集的获得方式。

  • 作业任务:

    Network Compression(模型压缩),训练小模型并且精度不下降很多。本次作业的模型类似于作业三种的食物分类模型,助教代码提供了一个teacher network,准确率大概是0.899,学生需要训练一个student network,参数能不超过100,000个,并且有一定的准确率。

  • 提交地址(Kaggle)

    https://www.kaggle.com/competitions/ml2022spring-hw13

    截止日期

    2022/06/17 23:59(北京时间),去冲榜吧。

  • 评分:学生通过改进代码提升student network的精度。

  • QQ交流群:156013866

    难易程度 分数
    simple acc >= 0.44820
    medium acc >= 0.64840
    strong acc >= 0.82370
    boss acc >= 0.85159

作业十三助教代码和数据获得方式:

  1. 关注微信公众号 “机器学习手艺人” 

  2. 后台回复关键词:202213

     

你可能感兴趣的:(机器学习,人工智能,深度学习)