你好!欢迎来到深圳市品慧电子有限公司!
语言
当前位置:首页 >> 技术中心 >> 传感技术 >> 快讯|旷视天元MegEngine宣布支持CUDA INT4

快讯|旷视天元MegEngine宣布支持CUDA INT4


【网易科技9月5日报道】据悉,为了推动低比特量化技术的发展,旷视天元MegEngine 团队开源了 INT4的源码实现,这也让MegEngine成为首个开源 CUDA INT4源码实现的深度学习框架。据介绍,MegEngine采用均匀线性量化方案,实现了非对称量化和对称量化两种INT4的数据类型,同时通过算子融合优化、kernel优化等方法,使得量化后的模型可以依然保持较高的精度以及良好的运行速度。自开源以来,MegEngine不断优化,已先后发布29个版本。(定西)

相关文章

    用户评论

    发评论送积分,参与就有奖励!

    发表评论

    评论内容:发表评论不能请不要超过250字;发表评论请自觉遵守互联网相关政策法规。

    深圳市品慧电子有限公司