一文读懂AR应用程序开发基础知识
改变现实是人机交互的未来,也是人类现实交互的未来。虚拟现实、增强现实和混合现实是新兴交互技术(尤其是移动领域)中经常引用的术语,在所有这些形式中,增强现实和混合现实被认为是改变的现实,虽然混合现实是一个相对较新的概念,但增强现实已经经历了许多发展、应用和成功的商业冒险。随着基于移动平台和可穿戴嵌入式设备找到融合点的所有可能性,任何嵌入式工程师都必须认真考虑类似AR的移动技术发展。当然,谷歌眼镜和微软全息眼镜是一些流行的产品,是嵌入式电子和移动计算相结合的结果。本文将围绕增强现实和移动平台(Android和IOS)AR应用程序的开发展开讲解。
通常,增强现实、虚拟现实和混合现实被误认为是视觉技术,然而,所有这些数字现实都包含视觉和音频媒体作为生成现实的一部分。增强现实意味着将数字信息添加到当前对现实的视觉和听觉感知中,这些额外的数字信息显然是由处理器或计算机生成的。因此,基本上,增强现实技术将虚拟信息叠加在来自周围环境的实时听觉和视觉信息上。
视觉增强
增强现实实质上是将视觉信息(计算机生成的图形和三维图像)增强到当前对现实的视觉感知。增强显然是在一个显示器上完成的,它可以是光学透视(OST)或视频透视。光学透明(OST)显示器是半透明显示屏(透明oled或提词眼镜),处理器可以在其上投影数字内容。现在的现实可以通过半透明屏幕看到,其中数字内容覆盖了通过透明屏幕感知的现实。在OST显示的情况下,视觉增强直接发生在人眼的视网膜上。
在许多OST显示中,虚拟内容保持静态,就像Google眼镜一样。这种OST显示器称为抬头显示器(HUD)。HUD不是真实的AR显示,因为AR中的虚拟内容应该覆盖到当前现实中的固定位置,并且必须跟踪用户的移动,以显示或隐藏周围空间中合并的虚拟和真实内容。
在视频透视显示的情况下,由照相机捕捉当前现实并显示在常规LCD或LED屏幕(移动、计算机或头戴式显示器)上,并且虚拟内容覆盖到屏幕上的当前现实。智能手机屏幕是视频透视显示的最好例子。LCD和LED显示器或电视也可以用作AR应用的VST显示器。
OST显示器目前使用不多。然而,好莱坞科幻电影中经常出现这样的展示。好吧,在惊奇电影宇宙铁人可以经常看到使用OST显示器(透明oled)在电影专营权。
图:显示复仇者电影中增强现实的透明OLED
音频增强
增强现实不仅增强了视觉内容,还增强了音频内容。使用麦克风(如智能手机的麦克风)拾取当前环境中的音频,然后将其与计算机生成的音频混合并传送到扬声器或耳机。音频增强是许多AR应用中的一个重要方面。与基于AR的导航应用程序一样,音频增强可以提供实时语音帮助。
真正的增强现实
对大多数人来说,谷歌眼镜是终极AR的例子,但它不是真正的AR产品,而只是一个平视显示器。数字现实技术刚刚起步。这就是为什么,开发商所想象和渴望的这些东西的真实性质通常不为大众所知和所知(可能直到AR和其他人看到了曙光)。增强现实的真正本质可以通过以下因素来理解-
AR是3D的:增强现实技术将数字内容添加到现实中。人眼把世界看成是三维的图像。因此,AR涉及到将计算机生成的3D图像与当前对现实的感知进行合并。AR之前的一个主要挑战是生成更逼真的高分辨率3D图像,而不是一些动画。
AR是实时的:-必须实时捕捉当前的现实并与虚拟内容合并。在AR中,虚拟与现实必须在每一时刻逐帧地融合。任何在捕捉现实或融合虚拟方面的滞后都无法产生真正的沉浸式体验。
AR必须是交互式的:用户必须能够与通过AR生成的改变后的现实进行交互。AR必须能够感知用户的移动(如移动AR应用中智能手机的位置和移动),并相应地改变屏幕上的虚拟内容。用户还必须能够与虚拟内容进行交互,如移动、删除或浏览虚拟内容。
注册和跟踪
增强现实(Augmented Reality)是指将虚拟内容添加到实时感知中,使虚拟内容看起来是现实的固有部分。捕捉现实并将虚拟内容叠加到周围空间的绝对位置的过程称为“注册”。跟踪用户移动和改变显示改变现实的显示内容的过程称为“跟踪”。因此,注册可以让用户知道事物在空间中的位置,跟踪可以让它们在感知中移动,也可以让用户根据用户的移动来探索事物。注册和跟踪需要实时完成。就像实时注册一样,添加到当前现实中的新事物必须在任何时刻立即被感知,而实时跟踪必须允许用户与更改的现实进行交互,而不会有任何延迟和中断。
移动配置总成
增强现实最常见的应用是在移动平台上开发的。Mobile AR使用视频透视显示,智能手机从嵌入式摄像头捕捉现实,并在LCD或LED屏幕上增强现实。通过注册和跟踪技术区分移动AR。移动AR应用程序中使用了两种注册和跟踪技术-
1) 基于传感器的AR(基于位置)
2) 基于计算机视觉的AR
在基于传感器的AR中,位置(GPS)和方向(加速度计、陀螺仪和磁强计)传感器用于跟踪用户的当前位置和移动。虚拟内容是以位置和方位信息为基础,在物理现实中进行注册的。位置传感器一般是GNSS(全球导航卫星系统)接收机。最受欢迎的GNSS接收机是由美国维护的GPS(全球定位系统)。其他已开发或正在开发的GNSS系统包括GLONASS(由俄罗斯维护)、Galileo(由欧洲开发,2020年发射)、北斗导航卫星系统(由中国开发,2020年发射)、印度星座导航(NAViC,印度正在开发)和日本正在开发的准天顶卫星系统。
使用基于传感器的AR的流行移动AR应用程序包括AR浏览器(通过感知用户位置和周围对象,可以显示周围事物的图形信息)、Pokémon GO(基于AR的游戏应用程序)和基于AR的导航应用程序。然而,当现实中的目标距离视线较远或现实中的目标不一定具有固定的地理位置时,基于传感器的AR技术并不十分成功。
移动AR中使用的另一种AR技术是基于计算机视觉的。在该技术中,利用图像处理技术来识别周围的物体,并在物体识别的基础上将虚拟内容注册到现实中。这可以是基于标记的,也可以是无标记的。像许多相机应用程序一样,使用基于标记的面部识别来标记人物,或将虚拟文本或图像添加到捕获的图像中。而一些基于AR的相机应用,如Snapchat,则使用无标记AR来识别人脸并叠加虚拟贴纸。
移动AR架构
移动AR应用程序的架构与任何其他移动应用程序类似。任何移动AR应用都有应用层、AR层和操作系统层。应用层处理虚拟内容的生成及其屏幕管理。AR层处理虚拟现实的注册和用户移动的跟踪。操作系统层提供了AR层与移动平台接口的工具和库。OS层不提供任何AR功能,但它使AR层能够在移动平台上工作。例如,AR层的显示模块只能通过OS层访问移动摄像机。
在android上,Google android API和JMonkey引擎构成了操作系统层。在IOS上,核心服务层为AR应用程序提供OS层。
AR应用程序的工作原理
使用视频透视的AR应用程序首先显示从摄像机访问的视频,并在屏幕上显示捕获的图像。捕捉到的视频的摄像机参数与虚拟空间的参数相匹配。然后,要么将传感器数据与视频参数相匹配,要么使用图像处理来识别捕获视频中的对象,以定位虚拟内容并将其叠加到已改变现实的固定位置。正确注册虚拟内容后,将跟踪用户移动以更改虚拟内容。在光学透视显示的情况下,唯一的区别仍然是只有虚拟内容呈现在屏幕上,尽管现实仍由相机捕捉。这是为移动平台、基于桌面的系统或配备紧凑型嵌入式电子设备的小工具开发的任何AR应用程序的主控制回路。该控制回路构成了移动AR应用程序的主要活动。该控制回路无限重复,直到AR应用程序运行。
基于计算机视觉的AR开发所需的电子元件主要是摄像机、能够运行操作系统的处理器和显示屏(如LCD、LED或透明OLED)。处理器和操作系统除了捕获视频和在显示屏上显示叠加的视频内容外,还必须能够实时呈现三维图像。在基于传感器的AR开发中,还需要加速度计、陀螺仪和磁强计等传感器。
智能手机配有嵌入式摄像头、高效处理器、足够的内存和存储空间、显示屏和多个传感器。因此,在移动平台上开发AR应用很容易。移动电话也是便携式的,因此在移动平台上开发AR应用程序的范围很广。虽然手机销量的指数增长为应用程序开发者提供了巨大的消费市场,但移动领域不断的软件开发,使得可以随时使用的库和软件开发工具在移动平台上放松和加快了AR应用程序的开发。
在桌面系统、网络摄像头和投影仪或显示器的帮助下,还可以在桌面平台上开发一些专用的AR应用程序。然而,这种基于桌面的AR应用程序开发需要定制的软件开发环境和从头开始编写几个核心模块和软件库。此外,对于基于传感器的AR开发,需要设计定制的电子模块,可以通过Wi-Fi、蓝牙或互联网与桌面计算系统接口。可以为家庭、办公室、教育和工业环境开发专用的基于桌面的AR应用程序。
对于开始AR应用程序开发,移动平台是最合适的,考虑到整个企业易于起步和商业回报的范围。桌面或嵌入式平台可以选择利基AR应用,可能需要专门的电子设置和完全不同的复杂软件开发。
自新型冠状病毒肺炎疫情爆发以来,传感器专家网一直密切关注疫情进展,根据国家及地方政府的最新调控与安排,为更好的服务相关企业,在疫情期间,传感器专家网免费发布企业相关文章,免费成为传感器专家网认证作者,请点击认证,大家同心协力,抗击疫情,为早日打赢这场防控攻坚战贡献自己的一份力量。