快讯|旷视天元MegEngine宣布支持CUDAINT4
2022-09-05 18:43:22 来源:
【网易科技9月5日报道】据悉,为了推动低比特量化技术的发展,旷视天元MegEngine 团队开源了 INT4的源码实现,这也让MegEngine成为首个开源CUDA INT4源码实现的深度学习框架。据介绍,MegEngine采用均匀线性量化方案,实现了非对称量化和对称量化两种INT4的数据类型,同时通过算子融合优化、kernel优化等方法,使得量化后的模型可以依然保持较高的精度以及良好的运行速度。自开源以来,MegEngine不断优化,已先后发布29个版本。(定西)
相关阅读
热门新闻
北京地铁全线支持手机刷卡乘车苹果等暂不支持
(原标题:北京地铁全线支持手机刷卡乘车 苹果等暂不支持) 8月14日消息,据北京青年报报道,今日起北京地铁将全线支持手机刷卡乘车。
2022-09-04 19:15
第六届广州AR&VR展会上,臻像科技全息光场打造裸眼3D式沉浸式体验
(原标题:第六届广州AR&VR展会上,臻像科技全息光场打造裸眼3D式沉浸式体验) 2022年8月10日,2022年第六届亚洲VR&AR博览会于广州隆
2022-09-04 10:16
中国2019世界集邮展精彩纷呈有邮票珍品还有最具影响力的邮票图稿
本次世界邮展规模为3500框,其中竞赛类2500框、非竞赛类1000框,将聚集世界各国邮品之精萃,令观众大饱眼福。 邮展期间,每天设一个主
2022-09-04 06:05