快速上手TensorRT搭建高性能推理模型,听听英伟达专家怎么说

TensorRT 是 NVIDIA 推出的用于加速深度学习推理的开发工具。现已有大量的线上模型在它上面运行,实现了相比于原生框架最高近 10 倍的加速比,极大地提高了 GPU 的利用效率,降低了 GPU 的使用成本。不过,由于许多模型无法被原生框架彻底地转换到 TensorRT 上,需要手工搭建,所涉及的学习和时间成本让一些开发者望而却步,遗憾地失去了加速程序的机会。

为此,NVIDIA GPU 计算专家团队高级工程师季光博士将带来一场线上直播分享,面向对深度学习和编程语言有基本了解的深度学习开发者,通过一个典型的深度学习模型作为例子,深入讲解利用 NVIDIA TensorRT 自由搭建各种模型的实用技巧,希望可以帮助开发者可以快速上手 TensorRT,独立地利用它加速自己的模型,获得丰厚的收益。

通过本次在线上分享,您将了解以下内容:

  • 如何利用 NVIDIA TensorRT 自由搭建各种模型
  • 独立地利用 NVIDIA TensorRT 加速模型

本次线上分享详情如下:

主题:利用 TensorRT 自由搭建高性能推理模型

日期:2019 年 10 月 16 日,星期三

时间:20:00-21:30

演讲嘉宾

快速上手TensorRT搭建高性能推理模型,听听英伟达专家怎么说

季光 (Gary Ji)

NVIDIA GPU 计算专家团队高级工程师

季光博士毕业于中科院计算所,擅长领域为 GPU 加速的视频编解码以及深度学习模型推理。NVIDIA GPU 计算专家团队致力于为中国客户提供基于 GPU 系统的最快解决方案,工作内容涉及视频图像处理、语音识别和合成、自然语言处理、推荐系统等各个方面,通过代码优化、模型优化和 Pipeline 优化,提供端到端的解决方案。本团队开源了若干原型项目,帮助用户评估 GPU 可以带来的业务收益,并通过进一步开发集成,利用 GPU 为用户降低成本,提高效率。

Accelerating your future

NVIDIA GPU计算专家团队致力于为中国客户提供基于GPU系统的最快解决方案,工作内容涉及视频图像处理、语音识别和合成、自然语言处理、推荐系统等各个方面,通过代码优化、模型优化和Pipeline优化,提供端到端的解决方案。本团队开源了若干原型项目,帮助用户评估GPU可以带来的业务收益,并通过进一步开发集成,利用GPU为用户降低成本,提高效率。

主题测试文章,只做测试使用。发布者:觉鸟网,转转请注明出处:https://www.jueniao.cn/n/20551.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022年6月10日 18:47
下一篇 2022年6月10日 18:49

相关推荐

  • 起底Jetson“家族”,看英伟达的边缘计算布局

    自GPU发明以来,英伟达推动了PC游戏市场的增长,并在过去二十年重新定义了现代计算机图形、高性能计算和人工智能。英伟达也乘着AI的火热,股价一路飙升。现在的英伟达已经不仅仅是一家芯片公司,而是一家平台公司。 在今年11月份的GTC大会上,英伟达重磅发布了Jetson家族的新成员Jetson AGX Orin,再次掀起边缘计算的热潮。如今人工智能、物联网和5G…

    2022年6月13日
    2800
  • 调查组来了,比亚迪工厂“污染门”真相将浮出水面

    悲喜是一对冤家,刚戴上4月份的全国销冠,比亚迪很快陷入长沙工厂污染门事件的旋涡。 尽管比亚迪已紧急回应园区排放符合标准,引起流鼻血系恶意捏造关联,我们已报警,但随着百名儿童流鼻血事件的不断发酵,长沙市委、市政府已成立调查组,组织政府职能部门、第三方检测机构以及相关专家,进驻比亚迪雨花区工厂展开调查。 目前,虽然尚未有更进一步的官方消息披露,不过相信真相即将浮…

    2022年6月14日
    4300
  • 科普:地球自转突然加快,已不足24小时!会把1分钟缩短至59秒?

    最近大家有没有收到这样一则消息呀,中国科学家国家授时中心表示,从2020年的年中以来啊,地球自转的速度不断加快,一天完整的时间已经不足24小时了! 秒作为一个计时单位想必大家并不陌生,从小学就开始学,但是你知道1秒有多长吗? 日常生活中啊,我们所用到的与时间有关的设备,比如说手表、手机等,都统一用的是协调世界时(UTC),它通过原子钟产生的,也就是原子时,是…

    2022年6月21日
    4000
  • 8月1日起北京巡游出租车每运次加收1元燃油附加费

    新京报快讯(记者李玉坤)记者今天(7月30日)从北京市发展改革委了解到,按照《北京市出租汽车燃油附加费动态调整办法》,根据国内油价变动情况,经市交通委运输管理局测算申请,并报市政府批准,北京市自2018年8月1日起巡游出租车(不含电动车)每运次加收1元燃油附加费。据悉,这是北京自2015年1月15日按机制取消燃油附加费后,再次进行燃油附加费动态调整。 为何收…

    智能科技 2022年6月13日
    3100
  • 周末阅读|意大利语如何成为爱情专用语言?

    几百年里,作家和诗人从美感和发音出发,让意大利语的风格和词汇独具一格。 几天前这样的事又发生了。我走在美国家乡城市的大街上,听到一对情侣在说意大利语。我赶紧跟上去,保持着正好能听到他们说话的距离。从我听懂的内容来看,他们是在商量重新布置房子的事。虽然讨论的话题并不高雅,他们的语言听起来是那么美,美得让我流泪。 在佛罗伦萨待了两年后,我回到美国的家乡后也同样有…

    2022年6月25日
    3100

发表回复

您的电子邮箱地址不会被公开。

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信