腾讯开源轻量级翻译模型Hy-MT2
腾讯开源了翻译模型Hy-MT2，采用自研1.25-bit极端量化技术，将1.8B参数压缩至440MB，可在低配Mac mini上本地运行。其推理速度比上一代快1.5倍，轻量版翻译质量超越微软和豆包的商业API，无需联网且免费。
全部文档 / 标签: 量化技术
1 篇
腾讯开源了翻译模型Hy-MT2，采用自研1.25-bit极端量化技术，将1.8B参数压缩至440MB，可在低配Mac mini上本地运行。其推理速度比上一代快1.5倍，轻量版翻译质量超越微软和豆包的商业API，无需联网且免费。
