9月5 - 7日,亮风台受邀参与2017华为全联接大会,携HiAR Glasses亮相华为开发者社区,展现了AR眼镜在数字博物馆、工业可视化方面的落地应用,CTO谢炳龙受邀参加“MBB开放互联产业高峰论坛”并发表演讲,与英特尔等合作伙伴共同探讨5G如何助力AR走向现实。
5G时代到来,引发计算效率、数据存储能力与传输速度的提升。AR迎接更大挑战的同时,也会更加垂直地深入到人们的日常生活与工作中,例如AR远程协作,你可以足不出户与远方的朋友亲密交谈,甚至用AR“看”到朋友的情感。亮风台AR眼镜HiAR Glasses,已经可以跨越空间,进行“面对面”的远程工业指导,并有望在5G时代带来更丰富的协作交互内容。
其实任何技术应用,都不是一蹴而就,必有其发展历程,AR远程协作也不例外。
本文通过可穿戴AR语音与交互设计专家、领先的AR研究实验室HIT Lab NZ的创始人、Super Ventures联合创始人Mark Billinghurst的亲身经历与分析,在5G时代来临之际,和大家聊聊AR远程协作的前世今生,以及未来展望。
下面是Mark Billinghurst为大家带来的分享。
从VR共享协作空间说起
二十多年前,1995年的夏天,我有幸参加了一项改变一生的活动。
那是在美国西雅图的华盛顿大学,当我戴上一副VR眼镜后,直接横跨太平洋,进入了日本的一个茶室中,加入了一个面对面的讨论,就像下面这幅图一样。
虽然放在现在,看起来有一些粗糙,但我可以和房间里的其他人自由交谈,用虚拟的脸看向他们、用虚拟的手向他们挥手致意,足够令我惊叹不已了。
这就是HIT Lab的Greenspace项目,这是用智能眼镜进行VR远程空间共享的首次“重量级”尝试。为什么是“重量级”?因为项目的整套硬件成本超过100万美元,几天的通讯费用也有数万美元。
现在,20年过去了,网络技术和硬件性能的提升,让计算能力、数据传输效率有了翻天覆地般的变化。如今的Greenspace项目,已经成为了Facebook中的共享空间,人人都可以以很低的成本参与进来,如下图所示:
不仅是Facebook,High Fidelity、Sansar等公司都在开发这类协作式VR共享空间,比如Altspace VR的虚拟现实共享空间每月有3万多月活跃用户。
VR共享空间的最大吸引力在于,它允许人们足不出户,就像面对面一样进行交流,不仅可以互相交谈,还能打手势、握手,甚至与周围的环境进行交互,比如讨论空间中的物体,或者一起玩游戏。例如Rec Room的玩家可以一起打乒乓球,Facebook上的好友共同进行3D草图绘制。比起传统的音频或视频会议,这种多维度交互的方式,极大地提高了沟通效率。
AR远程协作系统其实是下一代的智能手机?
从上一节我们了解到,VR远程会议有着很大的潜力,至少目前的落地案例已经可圈可点,很多公司甚至投资数十亿美元的虚拟现实协作平台。然而,AR远程会议可能会产生更大的影响,因为它与现实世界产生了联系。
与VR不同,AR增强了与现实世界的互动,或者将现实世界中的元素带入虚拟环境中。
使用AR远程协作的好处包括:
使人们能够在真实世界中得到远程用户的帮助
将远程的虚拟人物带入用户的真实空间
支持AR到VR视角的转换
使用AR图像提供增强的远程通信线索
让用户能够面对面进行眼神交流、分享彼此的观点
消除任务空间与通信空间之间的鸿沟
支持远程协作的自然空间提示
也许AR远程会议最大的好处在于与远程协作者共享工作空间,而不是像传统的视频会议那样,只是参会者的面对面。对于许多现实世界的任务,比如远程辅助检修时,了解对方所处场景和工作状态,比看到对方的脸更有意义。正因如此,混合现实会议可以应用于大量的场景中,从工业远程专业技术援助,到远程医疗会诊,以及共享游戏空间等。
早期AR远程协作系统
大约20年前,我参与开发了第一个AR远程协作系统,可以在真实环境中放置远程用户的实时视频画像。用户可以通过智能眼镜加入会议,感受到解放双手的协作体验。我们发现,这种方式比在直接电脑屏幕上看到他们的影像,有更好的沟通效果。
与此同时,我们还开发了WearCom,这是一个可穿戴的AR会议应用程序,在佩戴好可穿戴设备后,可以体验到多个远程的虚拟形象,在自己的周围出现。这个案例中使用了空间音频定位来自虚拟形象的声音,构建了比较真实的圆桌会议体验。
虽然这项研究向人们展现了十足的潜力,但这些远程参会者的头像只是平面的,如果从侧面观察,就会消失不见。这个问题在几年之后的3D实时混合现实系统中得到了解决,我们使用了多个摄像头从多个角度来捕捉人像。这制造了一个错觉,好像是一个活生生的3D虚拟人正站在你的真实空间中。
2002年的3D实时混合现实应用
“混合现实”一词描述了从纯现实世界到完全沉浸式虚拟环境的连续过渡。大多数协作系统都存在于这个连续过程的离散位置上,例如在现实世界中面对面协作,或者在沉浸式空间中进行虚拟现实会议。混合现实会议可以使人们在连续体中过渡。例如,MagicBook项目支持面对面、AR、VR视角或混合式的协作。使用这个系统,两个人可以阅读一本普通的书,但他们也可以通过一个手持设备来查看以AR的形式展现的书本内容。当用户看到一个有趣的AR场景时,他们可以用手柄轻轻一挥,过渡到沉浸式虚拟现实体验。在虚拟现实场景中,用户可以以上帝视角在现实世界中看到他们的同伴。通过这种方式,MagicBook支持共享现实世界、AR和VR体验之间的无缝转换。
这些研究原型表明,混合现实技术可以被用来将虚拟协作者无缝地放到用户真实的世界中,并提供独特的协作体验。与虚拟现实会议不同的是,混合显示增强了现实世界的协作能力,并使用户能够在现实世界中得到帮助。
目前的混合现实协作系统
新一代AR和VR硬件的出现,带来了新的混合现实协作体验。微软的HoloLens向人们展示了混合现实版Skype。用户可以将虚拟的Skype窗口放到空间中的任何位置,实时查看协作者的远程影像。与此同时,HoloLens摄像头可以将实时视频传输到远程协作者,这样他们就可以看到本地用户的工作空间,并向本地工作空间中添加AR注释,以帮助他们完成真实世界中的任务。通过这种方式,远程协作者仿佛拥有了本地用户的视角,看到第一视角的场景并迅速进行环境理解。
然而,就像近20年前的AR会议应用一样,在HoloLens上的Skype将直播的视频变成了平面虚拟窗口。同理,微软的Holoportation项目克服了这个问题,通过使用多重深度传感摄像头捕捉并实时地将远程用户的三维虚拟模型传输到本地用户的真实世界。结合HoloLens,本地用户可以在现实世界中看到和远程用户一样大的虚拟模型。
也有不少初创公司开始研究这个领域,Mimesys将自己描述为首款全息会议平台提供商,它可以捕捉真实的人,并将他们聚集到共享的虚拟空间中。同样,DoubleMe的Holoportal提供了一个轻量版的Holoportation,这些都专注于捕捉用户。而Envisage AR则专注于捕捉用户的真实环境,并与远程协作者共享。在接下来的几年里,预计在这个领域会有更多的案例出现。
未来畅想
混合现实协作系统正在迅速发展中,可以让工作效率持续提升,主要有以下三种重要的技术趋势:
自然协作:随着5G时代的到来,网速提升,可以传输更复杂的信息(就像视频代替音频那样),带来更自然的协作方式。
环境捕捉:随着软硬件技术的发展,越丰富的环境信息可以被实时捕捉到,就像从图片到3D场景那样。
隐式理解:计算机可以比以前更了解用户和周围的环境。这使他们能够识别隐式行为,比如一个人正在观察什么。
在这三种技术趋势的交界处,就是“Empathic Computing”的研究领域。它允许我们与他人分享我们所看到的、听到的和感觉到的。与传统的会议工具不同,移情系统是为了让你更深入地了解协作者的观点,通过他们的眼睛,听到他们的声音,在某种程度上了解他们的感受。
Empathy Glasses展示了一种从Empathic Computing角度发展来的混合现实协作系统。这是一种可以识别面部表情和捕捉眼神的AR显示器。远程协作者不仅可以看到本地用户所看到的,还能了解到他们注视的位置,理解执行任务时的不悦和困惑。
相信在不久的将来,这一切庞大的数据和分析计算,可以在5G的帮助下成为现实。在4G环境下人人必备的智能手机,在未来将会被具有混合现实远程协助系统的AR眼镜所取代,我们不仅可以实时连接,低时延地感受最自然的交互,还能在计算机的理解下,更懂身边的人。
总结看来,从VR到AR,我们突破了与环境的交互;从AR到MR,我们可以在不同“透明度”的混合空间中自由切换;未来,我们会在交流的同时,真正移情于他人,在得到沟通信息的同时,理解他人的情感。这是不远的未来,亮风台CTO谢炳龙在2017华为全联接大会上表示:MEC可以让未来的到来更快,它成功打破了AR应用普遍存在的计算、存储能力不足的技术瓶颈。当AR遇上MEC,将发酵产生巨大能量,助力各类创新应用大幅提升计算能力和通讯能力,并为用户提供极致体验。
最后,我们不由得想要说一句:智能手机,再见!