2019计算视觉最前沿研究领域多模态ITI(Listen to Image)

论文地址
论文源码

论文动机:
帮助盲人通过将视觉信息转化为声音模式来感知视觉环境。为了提高翻译质量,通常利用盲人的任务性能来评价不同的编码方案

我们首先提出了两种不同的跨模态感知模型w.r.t.即晚期盲和先天盲,目的是根据翻译的声音生成具体的视觉内容。为了验证所提出的模型的功能,提出了两种新的优化策略w.r.t.主要编码方案。此外,我们进行了一系列基于人的实验来评估和比较跨模态生成任务中基于机器的评估。不同编码方案的实验结果具有高度的一致性,表明利用机器模型加速优化评价和降低实验成本在一定程度上是可行的,可以极大地促进编码方案的升级,帮助盲人提高视觉感知能力

论文实验:
2019计算视觉最前沿研究领域多模态ITI(Listen to Image)_第1张图片
2019计算视觉最前沿研究领域多模态ITI(Listen to Image)_第2张图片
2019计算视觉最前沿研究领域多模态ITI(Listen to Image)_第3张图片

2019计算视觉最前沿研究领域多模态ITI(Listen to Image)_第4张图片

你可能感兴趣的:(系统科学,神经科学,认知科学)