318股票配资

章贡便民网

用户登录

股票配资

股票配资

期货配资

查看

腾讯优图开源深度学习推理框架TNN,助力AI开发降本增效

2020-06-11/ 章贡便民网/ 查看: 214/ 评论: 10

摘要原标题:腾讯优图开源深度学习推理框架TNN,助力AI开发降本增效来源:量子位存眷前沿科技允中发自凹非寺量子

原标题:腾讯优图开源深度学习推理框架TNN,助力AI开发降本增效 来源:量子位

存眷前沿科技 允中 发自 凹非寺量子位 编辑 | 公众号 QbitAI

允中 发自 凹非寺

318股票配资量子位 编辑 | 公众号 QbitAI

从学界到工业界,“开源”已经成为AI领域的一个要害词。

一方面,它以“授人以渔”的方式为AI构建了一个开放共进的生态情况,帮助行业加速AI应用落地;另一方面,在解决行业现实问题时连续更新和迭代,源源不停地给AI领域运送紧张的技能养料和创造力,可以说开源是AI落地和繁荣不可或缺的源动力。

318股票配资6月10日,腾讯优图实验室宣布正式开源新一代移动端深度学习推理框架TNN,通过底层技能优化实现在多个差别平台的轻量部署落地,性能优秀、简朴易用。

318股票配资基于TNN,开发者可以或许轻松将深度学习算法移植得手机端高效的执行,开发出人工智能APP,真正将AI带到指尖。

318股票配资轻量级部署,TNN助力深度学习提速增效

深度学习对算力的巨大需求一直制约着其更遍及的落地,尤其是在移动端,由于手机处置惩罚器性能弱、算力无法多机拓展、运算耗时长等因素经常导致发热和高功耗,直接影响到app等应用的用户体验。

318股票配资腾讯优图基于自身在深度学习方面的技能积累,并鉴戒业内主流框架优点,推出了针对手机端的高性能、轻量级移动端推理框架TNN。

318股票配资TNN在设计之初便将移动端高性能融入焦点理念,对2017年开源的ncnn框架举行了重构升级。通过GPU深度调优、ARM SIMD深入汇编指令调优、低精度计算等技能手段,在性能上取得了进一步提升。以下是MNN, ncnn, TNN框架在多款主流平台的实测性能:

△TNN在麒麟970、骁龙835、骁龙845,骁龙615平台实测性能数据

318股票配资注:纵轴单元:ms 测试分支:MNN:1.0.0(2020.05.07), ncnn:20200413, TNN: master(2020.06.10)

测试模子:https://github.com/alohali/benchmark-models

318股票配资低精度计算的运用对TNN的性能提升发挥了紧张作用。在神经网络计算中,浮点精度在许多研究和业务落地结果上都被证实存在一定冗余,而在计算、内存资源都极为紧张的移动端,消除这部门冗余极为须要。

318股票配资TNN引入了INT8、 FP16、 BFP16等多种计算低精度的支持,相比大部门仅提供INT8支持的框架,不仅能机动适配差别场景,还让计算性能大大提升。

318股票配资TNN通过接纳8bit整数取代float举行计算和存储,模子尺寸和内存消耗均减少至1/4,在计算性能上提升50%以上。同时引入arm平台BFP16的支持,相比浮点模子,BFP16使模子尺寸、内存消耗减少50%,在中低端机上的性能也提升约20%。骁龙615平台实测:

318股票配资通用、轻便是TNN框架的另一大亮点。恒久以来,差别框架间的模子转换都是AI项目应用落地的痛点。

318股票配资TNN设计了与平台无关的模子表示,为开发职员提供同一的模子描述文件和调用接口,支持主流安卓、iOS等操作体系,适配CPU、 GPU、NPU硬件平台。企业一套流程就能部署到位,简朴易用、省时省力。

同时, TNN通过ONNX可支持TensorFlow、PyTorch、MXNet、Caffe等多种训练框架,目前支持ONNX算子凌驾80个,笼罩主流CNN网络。TNN全部算子均为源码直接实现,不依赖任何第三方,接口易用,切换平台仅需修改调用参数即可。

开源文化兴起,AI底层技能助推产业发展

事实上,作为腾讯旗下顶级AI实验室,腾讯优图长期致力于AI基础设施的研发和推进。此前,腾讯优图已开发了Rapidnet 前向计算框架、RapidAIoT 边沿计算框架,实现了业界首个专注移动端的推断框架ncnn的开源,并在业界受到遍及推许。从2017年开源至今,ncnn在GitHub上star(8.9k)和 fork(2.3k)数均领先于其它各大推理框架。

318股票配资据悉,TNN已于3月中旬在腾讯内部开源,为腾讯QQ、QQ空间、腾讯微视、腾讯云、天天P图等多款产物和服务中连续提供技能能力,开释出更多效能。

318股票配资“TNN已在GitHub上开源,接待业界人士参与协同共建,配合打造更优的移动端推理框架。“腾讯优图实验室副总司理吴永坚先容,腾讯优图后续将在现有CV业务的基础上研发更多的AI推理模子,如语音、NLP等相干业务,同时开展针对CPU、GPU服务器端的服务,为业界公司提供更遍及的优化服务。

318股票配资“作为产业发展的高速公路,以深度学习框架、组件为代表的AI基础设施将是未来的主流趋势,腾讯优图也将以此为着力点,助推产业发展。”吴永坚表示,腾讯优图还将连续开发模子训练组件、模子压缩组件、基础算法组件,并择机开源,希望从框架到平台、到算法,打造一体化的AI基础设施,降低AI门槛,加速产业发展。

318股票配资随着以开源为代表的新代码文化的兴起,腾讯比年来在开源领域体现亮眼:在全球最大的代码托管平台GitHub上,腾讯公布的开源项目已经凌驾一百个,涵盖云原生、大数据、AI、云计算、宁静、硬件等多个热门的技能偏向。

318股票配资通过开源协同,腾讯将各个事业群最底层和共性的技能能力举行梳理和拉通,在业务实践和海量用户检验下,优质的内部开源项目不仅在公司层面推广复用,同时也对外孝敬整个开源社区。仅在Github上,腾讯的开源项目就收获了30w+star数,跻身国际上有影响力的开源企业之一。

在开源的门路上,腾讯不仅将内部优质项目连续对外开放,也积极与开源社区协同互助,发挥中国企业的科技气力,推动开源和开放进一步升级。

开源地址:https://github.com/Tencent/TNN

「数据库」系列公然课开启,快来免费报名!

6月17号第一期直播,腾讯云数据库副总司理--王义成将全面剖析全球数据库的发展历程,分享如何将云计算、新基建、数据库的能力举行融合创新。别的还将联合现实金融案例,详细先容腾讯云自研国产数据库TDSQL和TBase的产物焦点架构和最佳实践。

之后的课程中,来自海潮、蚂蚁集团的数据库业务卖力人也将带来精彩分享,干货满满,全程免费参与,接待扫码报名~

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技能和产物新动态

318股票配资喜爱就点「在看」吧 !

318股票配资(声明:本文仅代表作者观点,不代表新浪网态度。)

文章要害词: 网络文化

318股票配资用微信扫描二维码分享至挚友和朋友圈

318股票配资' + _substr(uids[i].name, 0, 14) + '

' + _substr(uids[i].v_reason, 0, 16) + '


鲜花

握手

雷人

路过

鸡蛋
收藏 分享 邀请
上一篇:暂无

最新评论

返回顶部

廊坊配资开户

信阳配资开户

衡阳股票开户

廊坊炒股网站

商丘股票手机开户

平顶山股票开户

天津手机炒股

驻马店股票手机开户

张家界炒股手机开户

新乡炒股配资