otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果

目前本文所涉内容均未使用图形处理器。

运行在有图形处理器环境下的实验将在稍后补充,敬请关注。

需要准备的文章和工具有:

一、集成 OTB100

1.1 下载基准测试

在该目录中可以看到:trackers 目录中已经包含了若干跟踪算法。而我们要做的就是把 ECO 和 ECO_HC 的跟踪算法加进去即可。

ECO 和 ECO_HC 的区别就是:前者使用“深度特征”,后者使用 HOG 和 CNN。

1.2 下载 ECO 代码

可以参照 ECO 的 GitHub 页面中提到的部署代码的方法,将代码下载到 trackers 目录中。

由于 ECO 和 ECO_HC 是两种不同的算法,因此,出于分别测试其性能的考虑,需要下载两份代码,并分别命名为 ECO 和 ECO_HC。如下所示:

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第1张图片将 ECO 和 ECO_HC 保存到 OTB100 基准测试的 trackers 目录下。

ECO 和 ECO_HC 的内容完全一样。

1.3 添加集成接口

切换到 ECO 目录下 runfiles 文件夹中,将 OTB_DEEP_settings.m 文件夹复制到上一级目录,并改名为 run_ECO.m,如下所示:

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第2张图片从 runfiles 文件夹中复制 OTB_DEEP_settings.m 文件到此目录,并改名为 run_ECO.m

类似的,在 ECO_HC 目录中,将 runfiles 文件夹中的 OTB_HC_settings.m 文件复制到上一级目录,并改名为 run_ECO_HC.m 即可。

1.4 修改基准测试代码并运行基准测试

由于 tracker_benchmark_v1.0 目录的 results 目录下已经有其它跟踪算法的结果,因此我们只需要运行 ECO 和 ECO_HC 的基准测试即可。

OPE、SRE 和 TRE 评价方法可以并行运行,因此我们将 main_running.m 文件复制为三份,分别命名为 main_running_OPE.m 、 main_running_SRE.m 、 main_running_TRE.m ,并分别将其中第 20 行的 evalType 修改为对应评价方法的名称即可。例如 main_running_OPE.m 的第 20 行可以改为:

evalType='OPE';

main_running_SRE.m 和 main_running_TRE.m 的第 20 行可以参照此法修改。

紧接着在 utils 目录中找到 configTrackers.m 文件,将 trackers 变量赋值为仅包含 ECO 和 ECO_HC,意即只运行 ECO 和 ECO_HC 基准测试。如下所示:

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第3张图片将 trackers 变量修改为只包含 ECO 和 ECO_HC。

基准测试运行完毕后再改回原始状态,以便生成对比图。

接下来运行三个 matlab,然后分别执行 main_running 文件。

注意:SRE 和 TRE 评价方法运行耗时比 OPE 评价方法要长得多,如果要运行完全部 51 个基准测试,约需耗时两天。

如果要并行运行ECO 和 ECO_HC 测试,则需要准备两份 OTB100,并修改对应的 configTrackers.m 的 trackers 变量为分别只包含 ECO 和 ECO_HC

二、OTB100 基准测试下的实验结果对比

三种评价方法运行完毕后,修改 util\configTrackers.m 文件,启用所有跟踪算法,即可开始输出实验结果图。如下所示:

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第4张图片在 trackers1 变量中加入 ECO 和 ECO_HC 的定义。

将这两个定义加到最前面,输出图片时的图例就会排在最前面。

在 Matlab 中运行 perfPlot.m 文件。随后会弹出比较结果图,并且在 figs 目录下生成相应的图片文件。

以下为 ECO 和 ECO_HC 与其它八种跟踪算法的比较结果图(按不同评价方法和排序方法分别显示。按 AUC 排序的评价方法各 12 张图,按阈值排序的评价方法各 24 张图,按文件名顺序排序):

2.1 OPE(按 AUC 排序)

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第5张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第6张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第7张图片

af58d4d1cd27bc28c23bde4f22829a5c.png

2dbfd3d958d6ccd70e944a55b000e76f.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第8张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第9张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第10张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第11张图片

6d27284c3914ae0b77dd5b64a9e57c4f.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第12张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第13张图片

2.2 SRE(按 AUC 排序)

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第14张图片

30f970a9e4baea54bc0b06f16dbef492.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第15张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第16张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第17张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第18张图片

233d6434ca0cb87e3275c158211d8428.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第19张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第20张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第21张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第22张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第23张图片

2.3 TRE(按 AUC 排序)

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第24张图片

898c31acf3d860fc7522e183f300c9c8.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第25张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第26张图片

70bc712c535cf1389b67121b6e169fe6.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第27张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第28张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第29张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第30张图片

5ebd26398e63517af9a2d741f6f5ead1.png

753a4b1aec2f9352231b0fd76d4d587c.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第31张图片

2.4 OPE(按阈值排序,前12张为覆盖阈值,后12张为位置误差阈值,下同)

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第32张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第33张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第34张图片

e594c362d060e347eaf1911277a73879.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第35张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第36张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第37张图片

0cf13e04245d2bd39249f575e20b8a60.png

904f198d7a672220d0c1349530f29bf7.png

be9428af5ee3995f52a23059d6cd0a64.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第38张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第39张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第40张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第41张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第42张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第43张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第44张图片

de709488896128d2b8f0f5b2ec03562a.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第45张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第46张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第47张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第48张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第49张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第50张图片

2.5 SRE(按阈值排序)

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第51张图片

db16c8b1284f8c384431430738d67f7b.png

1a4fa7e24d480ceaf1770506c66c6ec4.png

cd21ab9546e93e7e330e118d2e7f2d8f.png

2db2d13d5b052bdae717b4aefee83cc3.png

ed39650881aae470619361c745556aed.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第52张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第53张图片

dbd1078058a8e318eb08e19e2f7c52e0.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第54张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第55张图片

5fa40d16549d73b129c9cdc6fb8c1fbd.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第56张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第57张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第58张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第59张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第60张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第61张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第62张图片

33cd1025ea2c37d73e0fa26ae25185e5.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第63张图片

6b046c57ab372aab1d67fc97b3af946d.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第64张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第65张图片

2.6 TRE(按阈值排序)

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第66张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第67张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第68张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第69张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第70张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第71张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第72张图片

44b71a99d3fc4456671871cf6f9de85d.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第73张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第74张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第75张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第76张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第77张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第78张图片

440612cadd90dc3bb50092632da43445.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第79张图片

fd8b484847beca831b763cc274deb18c.png

8d1aca34c563a532eb6ff9fcd1e4d2f6.png

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第80张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第81张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第82张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第83张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第84张图片

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第85张图片

从以上评价方法的结果图中可以看出,ECO\ECO_HC 的跟踪算法效果明显优于其它八种算法。

2.7 测试结果和修改后的代码下载

三、集成 VOT2015\VOT2016 数据集

3.1 准备 vot-toolkit

然后在 matlab 中切换到此目录。

3.2 准备工作区

切换到此目录后,新建 VOT2015\VOT2015HC\VOT2016\VOT2016HC,分别用于实验 ECO\ECO_HC 针对 VOT2015\VOT2016 数据集的工作目录。如下所示:

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第86张图片新建 VOT2015\VOT2015HC\VOT2016\VOT2016HC 目录

在此目录中运行 toolkit_path.m,然后分别切换到新建的四个目录中,分别运行 workspace_create 命令,并根据提示为当前跟踪算法命名。如下所示:

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第87张图片

带有 HC 的目录中的跟踪算法可以命名为 ECO_HC,以示区别。

3.3 编写 tracker 文件

回到 ECO 代码目录,在 VOT_integration\configuration_file 目录中找到 tracker_ECO.m 文件,将其内容覆盖刚才生成的四个文件夹下的 tracker_ECO(_HC).m 文件,并修改 ECO_repo_path 变量为 ECO 的根目录。

注意:ECO_repo_path 只接受单引号变量。

切换到 ECO 代码目录,找到 VOT_integration\benchmark_wrapper 目录下的 setup_tracker_paths.m 文件并运行。然后返回四个 VOT 工作目录。

这一步的目的是使 vot 工具能找到 ECO 的目录。

执行每个工作目录下的 run_experiments.m 即可开始实验。

开始实验前会自动下载相应的数据集。由于数据集服务器位于境外,且内容较大,因此建议先自行到官网下载相应的数据集放到 sequences 目录下,然后再运行相关命令。

四个实验可以并行开展。

四、VOT2015\VOT2016 数据集的实验报告

实验运行结束后即可以开始分析实验结果,并与其它跟踪算法进行比较。

其它跟踪算法的结果在 VOT 官网即可找到,在运行分析实验结果命令前,先将对应的结果放置在工作区目录的 results 文件夹中。如下所示:

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第88张图片除了 ECO 文件夹为运行实验时生成外,其他均为从 VOT 官网下载

不必将所有算法的结果都放到 results 目录中,挑选你想要作为参考算法的结果即可。

在运行分析命令前,需要先指定比较的算法列表。打开工作区的 run_analysis.m 文件,根据提示填入你想要比较的算法名称,如下所示:

otb100matlab,ECO for tracking 在 OTB100 基准测试和 VOT2016 数据集中的实验结果_第89张图片红框中即为要比较的算法名称列表

注意:算法名称要与 results 目录下的文件夹名称一致,否则无法加载。

准备就绪后运行 run_analysis.m 文件,分析结束后会在各自工作区目录中生成一个 report 目录。目录中的内容即为此次实验的报告。

由于 VOT 报告均已网页的形式展示,在此不便展示,您可以使用合适的方式下载后查看:

报告说明

因为此次实验的环境与其它实验的环境存在差异,实验报告中提到的帧率(FPS)与运行实验的计算机配置具有很强的相关性,因此帧率测试结果仅供参考。

实验环境:

Windows 10 1809 x64

未使用图形处理器。

未使用图形处理器的原因有二:主要是目前并不具备实验所指定的图形处理器;其次,论文中提到了使用英特尔酷睿i7处理器时,ECO_HC算法的效率即可达到60帧每秒以上,故本次实验全程都使用中央处理器执行。这也是上述提到的“帧率数据仅供参考”的原因。

如果对实验结果有疑问,请直接在下方留言,或来信咨询(i#vistart.me)。

赞过:

赞 正在加载……

相关

你可能感兴趣的:(otb100matlab)