现在在畅谈人工智能,多半还是会联想到将终端装置的资料传送到远端服务器后再进行反应,不过在特定的情况这样的概念是不能够满足于当下的应用的,尤其像是考量到带宽、网络传输延迟、个人隐私以及部属远端 AI 可行性四点去考量,让端末具备 AI 能力是相当重要的。
像是在城市中大量部属监视器,若以即时串流的方式将影像传送到云主机虽是目前对于智慧城市的想法,但这样一来需要使用极大的带宽,且还有延迟问题,在实际的部属、尤其是在基础建设还未完成的新兴国家会遭遇相当大的问题,另外像是医疗应用,若需要将资料传送到远端服务器,可能也会有个人隐私方面的隐忧。
而 NVIDIA的 Jetson平台,可说是为了实现端末的 AI 能力所设计的高效能嵌入式平台,且由于采用 NVIDIA 的 Cuda 核心,可在人工智能开发与 NVIDIA 的 Tesla 加速器、 DGX-1 超级电脑拥有人工智能移植的一致性,可在后端高效能平台加速训练过程后,把成果移植到 Jetson 平台装置,而 Jetson 平台所搜集的资料又可传送到高效能平台继续训练。
稍早 NVIDIA也宣布两项可加速基于 Jetson 平台开发人工智能的计划,其一是 NVIDIA Robostics 参考设计,另一项则是 Isaac 虚拟机器人训练平台。 NVIDIA Robostics 参考设计就是提供开发工具与参考设计加速开发者进行终端装置的开发。
至于 Issac 则是透过虚拟化技术,在具备 NVIDIA 的 GPU 电脑平台下模拟 Jetson 平台,同时搭配基于 Unreal 4 引擎的虚拟环境中,可将机器人设计、预期开发与验证的机能等透过 Issac 进行虚拟培训,而在 Isaacc 环境中更可同时进行多个机器人的培训,并且使培训成果彼此交换加速培训,而后再将 Isaac 培训后的内容移植到实际的 Jetson 机器人中。
另一类终端 AI 的应用则是智慧城市应用,透过在具备机器视觉的终端装置中加入 AI 能力,能够使城市监控系统,巡逻等更具效率,并借此增加城市的安全性,同时在稍早所宣布的 Metropolis 也正是针对从云到端的影像识别技术。