通信世界网消息(CWW)GTC CHINA 2019大会如期而至,在GTC大会上,NVIDIA发布了一款突破性的推理软件——TensorRT 7、自动驾驶和机器人的高度先进的软件定义平台——NVIDIA DRIVE AGX Orin™,以及多项技术突破,利用先进的AI技术,在自动驾驶、自动化等领域引领行业潮流。
众所周知,NVIDIA在加速计算领域深耕25年,通过全栈优化,实现摩尔定律加速,NVIDIA创始人兼首席执行官黄仁勋表示,每个应用程序领域都需要特殊的数学内核、算法库和应用程序软件优化,而NVIDIA CUDA平台就具有丰富的库、工具和应用程序,仅在去年,NVIDIA发布了500多个SDK和库。截至目前,NVIDIA已经售出15亿块GPU,如今在使用的每块GPU都兼容CUDA·同一个架构。为提高用户已有GPU的性能·深度学习训练在3年内提升4倍,深度学习推理在1年内提升2倍。
突破性创新,实现最自然的AI人机交互
据Juniper Research估计,全世界有32.5亿个数字语音助理被应用于设备中。到2023年,该数字预计将达到80亿,多于当今全球人口总和。对此,黄仁勋表示,我们已进入到一个机器可以实时理解人类语言的AI新时代,同时,NVIDIA TensorRT™ 7使其成为可能。
据了解,TensorRT 7作为NVIDIA第七代推理软件开发套件,为实现更加智能的AI人机交互打开了新大门,从而能够实现与语音代理、聊天机器人和推荐引擎等应用,大幅减少推理延迟,有效地解决了真正交互式互动所存在的阻碍。
为何称TensorRT 7为突破性推理软件呢?TensorRT 7可以快速优化、验证并部署经过训练的神经网络,为超大型数据中心、嵌入式或汽车GPU平台提供推理能力。
在AI模块方面,TensorRT 7加快了AI模型的领域扩展。这些模型被用于预测使用递归循环结构(RNN)的时间序列、数据情景。除了用于会话式 AI语音网络之外,RNN还可以帮助规划汽车或卫星到达时间、预测电子病历中的异常情况预测金融资产和识别欺诈。但RNN配置和功能组合的爆炸式增长为快速部署可以满足实时性能标准的生产代码带来了挑战,由于开发者需要花费长达数月的时间创建手写代码优化,进而会话式AI仅局限在拥有必要专业人才的少数公司中。
此外,NVIDIA的推理平台,包括TensorRT以及多个NVIDIA CUDA-X AI™ 库和NVIDIA GPU,不仅为会话式AI提供低延迟、高吞吐量的推理能力,还可以在图像分类、欺诈识别、分割、目标检测和推荐引擎在内的其它应用提供低延迟、高吞吐量的推理能力。值得一提的是,该平台的各项能力已被一些世界领先的企业和消费技术公司广泛使用,其中包括阿里巴巴、美国运通(American Express)、百度、PayPal、Pinterest、Snap、腾讯和Twitter。
深耕图形、HPC和AI交汇领域
把不可能变为可能,是一种钻研精神,也是需要付诸长时间的坚持和努力。NVIDIA便是代表企业,专注于加速计算领域,致力于解决普通计算机无法解决的问题,在垂直市场中将GPU、深度专业知识、计算堆栈、算法和生态系统专业知识基于一提,且自足于一个架构,涉足游戏、汽车、医疗健康等多样化的市场。
在游戏领域,NVIDIA和腾讯游戏在今日宣布了将电脑游戏带入云端,以及成立一个游戏联合创新实验室的合作。其实,NVIDIA早已通过助力START平台不断扩大在云游戏领域的足迹。今年初,NVIDIA宣布与日本SoftBank和韩国LG U+公司合作开发云游戏解决方案。此外,NVIDIA还在北美和欧洲部分市场提供GeForce NOW™ 云游戏服务。
在汽车领域,NVIDIA于今日发布了用于自动驾驶和机器人的高度先进的软件定义平台——NVIDIA DRIVE AGX Orin™,Orin可处理在自动驾驶汽车和机器人中同时运行的大量应用和深度神经网络,并且达到了ISO 26262 ASIL-D等系统安全标准。此外,今日NVIDIA和滴滴出行宣布,滴滴将使用NVIDIA GPU和其他技术开发自动驾驶和云计算解决方案。滴滴将在数据中心使用NVIDIA®GPU训练机器学习算法,并采用NVIDIA DRIVE™为其L4级自动驾驶汽车提供推理能力。