【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》

from: https://www.bilibili.com/video/BV1J44y1w79r


文章目录

  • 自监督学习年度进展
    • 技术进展趋势一:掩码图像建模的改进
    • 技术进展二:发现掩码图像建模对**大模型**比较友好
    • 技术进展三:针对**小模型**的掩码图像建模训练
    • 技术进展四:挖掘掩码图像建模的性质
    • 技术进展五:拓展到其他模态
  • 小结:自监督学习年度进展——掩码图像建模

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第1张图片

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第2张图片

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第3张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第4张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第5张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第6张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第7张图片

自监督学习年度进展

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第8张图片

技术进展趋势一:掩码图像建模的改进

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第9张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第10张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第11张图片

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第12张图片

技术进展二:发现掩码图像建模对大模型比较友好

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第13张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第14张图片

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第15张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第16张图片

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第17张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第18张图片

技术进展三:针对小模型的掩码图像建模训练

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第19张图片

技术进展四:挖掘掩码图像建模的性质

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第20张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第21张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第22张图片

技术进展五:拓展到其他模态

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第23张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第24张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第25张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第26张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第27张图片

小结:自监督学习年度进展——掩码图像建模

【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第28张图片
【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》_第29张图片

你可能感兴趣的:(【视频总结】,学习,多模态,自监督,计算机视觉)