如何快速部署Hy-MT1.5-1.8B-2bit10分钟实现设备端离线翻译【免费下载链接】Hy-MT1.5-1.8B-2bit项目地址: https://ai.gitcode.com/tencent_hunyuan/Hy-MT1.5-1.8B-2bitHy-MT1.5-1.8B-2bit是腾讯混元团队开发的超轻量级设备端离线翻译模型仅需574MB存储空间即可在手机等移动设备上实现高质量多语言翻译。本文将带你通过简单步骤完成部署让你的设备在无网络环境下也能即时翻译33种语言。 为什么选择Hy-MT1.5-1.8B-2bit这款模型凭借三大核心优势成为设备端翻译的理想选择 世界级翻译质量基于Hy-MT1.5-1.8B基础模型构建通过MT导向预训练、监督微调、策略蒸馏和强化学习的全流程训练 pipeline原生支持33种语言、5种方言/少数民族语言和1056个翻译方向。在仅1.8B参数规模下全面超越更大规模的开源模型如Tower-Plus-72B、Qwen3-32B和主流商业翻译API如Microsoft Translator、Doubao Translator。 极致压缩的2bit量化采用业界领先的Stretched Elastic Quantization (SEQ)技术将模型权重量化至{-1.5, -0.5, 0.5, 1.5}结合量化感知蒸馏将原始3.3GB FP16模型压缩至仅574MB同时保持接近无损的翻译质量。 完全离线的设备端部署针对支持Arm SME2的移动设备如Apple M4、vivo x300优化实现快速、完全离线的翻译功能。你的数据无需上传云端确保隐私安全。 模型性能概览在Flores-200中译外互译基准测试中Hy-MT1.5-1.8B-2bit展现了卓越的性能体积比注此处应有模型性能对比图表建议参考HY-MT1.5 Technical Report获取详细数据速度方面在SME2和Neon内核上的2bit模型速度对比显示设备端翻译响应迅速满足实时交互需求。 两种部署方式任选方法一直接安装Android演示应用推荐新手下载APK文件从项目仓库获取预编译的演示应用Hy-MT-demo.apk安装应用在Android设备上允许未知来源安装点击下载好的APK文件完成安装。开始使用应用支持两种翻译模式常规翻译模式直接输入文本进行翻译后台取词模式在任何应用中浏览邮件、网页或聊天消息时无需切换应用即可获得即时翻译注此处应有应用演示GIF展示翻译效果和后台取词功能方法二从源码部署适合开发者1. 克隆项目仓库git clone https://gitcode.com/tencent_hunyuan/Hy-MT1.5-1.8B-2bit cd Hy-MT1.5-1.8B-2bit2. 安装依赖确保已安装Python 3.8和必要依赖pip install transformers sentencepiece accelerate3. 加载模型进行推理使用以下代码加载模型和分词器from transformers import AutoModelForCausalLM, AutoTokenizer model AutoModelForCausalLM.from_pretrained(., device_mapauto) tokenizer AutoTokenizer.from_pretrained(.) # 翻译示例 inputs tokenizer(Hello world! 翻译成中文, return_tensorspt).to(cuda) outputs model.generate(**inputs, generation_configGenerationConfig.from_pretrained(.)) print(tokenizer.decode(outputs[0], skip_special_tokensTrue))⚙️ 配置文件说明模型配置文件config.json包含关键参数hidden_size: 2048 - 隐藏层维度num_attention_heads: 16 - 注意力头数量num_hidden_layers: 32 - 隐藏层数量vocab_size: 120818 - 词汇表大小生成配置文件generation_config.json可调整翻译效果temperature: 0.7 - 控制输出随机性top_p: 0.8 - 核采样参数repetition_penalty: 1.05 - 重复惩罚系数 模型下载链接2bit模型权重: model.safetensors分词器文件: tokenizer.json, tokenizer_config.json, special_tokens_map.json 技术报告与文档HY-MT1.5 Technical ReportAngelSlim Technical Report 许可证信息项目代码根据License.txt开源详情请查看许可证文件。通过以上步骤你已成功部署Hy-MT1.5-1.8B-2bit模型享受高效、安全的设备端离线翻译体验。无论是旅行、学习还是工作这款轻量级模型都能成为你的随身翻译助手【免费下载链接】Hy-MT1.5-1.8B-2bit项目地址: https://ai.gitcode.com/tencent_hunyuan/Hy-MT1.5-1.8B-2bit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
如何快速部署Hy-MT1.5-1.8B-2bit：10分钟实现设备端离线翻译
如何快速部署Hy-MT1.5-1.8B-2bit10分钟实现设备端离线翻译【免费下载链接】Hy-MT1.5-1.8B-2bit项目地址: https://ai.gitcode.com/tencent_hunyuan/Hy-MT1.5-1.8B-2bitHy-MT1.5-1.8B-2bit是腾讯混元团队开发的超轻量级设备端离线翻译模型仅需574MB存储空间即可在手机等移动设备上实现高质量多语言翻译。本文将带你通过简单步骤完成部署让你的设备在无网络环境下也能即时翻译33种语言。 为什么选择Hy-MT1.5-1.8B-2bit这款模型凭借三大核心优势成为设备端翻译的理想选择 世界级翻译质量基于Hy-MT1.5-1.8B基础模型构建通过MT导向预训练、监督微调、策略蒸馏和强化学习的全流程训练 pipeline原生支持33种语言、5种方言/少数民族语言和1056个翻译方向。在仅1.8B参数规模下全面超越更大规模的开源模型如Tower-Plus-72B、Qwen3-32B和主流商业翻译API如Microsoft Translator、Doubao Translator。 极致压缩的2bit量化采用业界领先的Stretched Elastic Quantization (SEQ)技术将模型权重量化至{-1.5, -0.5, 0.5, 1.5}结合量化感知蒸馏将原始3.3GB FP16模型压缩至仅574MB同时保持接近无损的翻译质量。 完全离线的设备端部署针对支持Arm SME2的移动设备如Apple M4、vivo x300优化实现快速、完全离线的翻译功能。你的数据无需上传云端确保隐私安全。 模型性能概览在Flores-200中译外互译基准测试中Hy-MT1.5-1.8B-2bit展现了卓越的性能体积比注此处应有模型性能对比图表建议参考HY-MT1.5 Technical Report获取详细数据速度方面在SME2和Neon内核上的2bit模型速度对比显示设备端翻译响应迅速满足实时交互需求。 两种部署方式任选方法一直接安装Android演示应用推荐新手下载APK文件从项目仓库获取预编译的演示应用Hy-MT-demo.apk安装应用在Android设备上允许未知来源安装点击下载好的APK文件完成安装。开始使用应用支持两种翻译模式常规翻译模式直接输入文本进行翻译后台取词模式在任何应用中浏览邮件、网页或聊天消息时无需切换应用即可获得即时翻译注此处应有应用演示GIF展示翻译效果和后台取词功能方法二从源码部署适合开发者1. 克隆项目仓库git clone https://gitcode.com/tencent_hunyuan/Hy-MT1.5-1.8B-2bit cd Hy-MT1.5-1.8B-2bit2. 安装依赖确保已安装Python 3.8和必要依赖pip install transformers sentencepiece accelerate3. 加载模型进行推理使用以下代码加载模型和分词器from transformers import AutoModelForCausalLM, AutoTokenizer model AutoModelForCausalLM.from_pretrained(., device_mapauto) tokenizer AutoTokenizer.from_pretrained(.) # 翻译示例 inputs tokenizer(Hello world! 翻译成中文, return_tensorspt).to(cuda) outputs model.generate(**inputs, generation_configGenerationConfig.from_pretrained(.)) print(tokenizer.decode(outputs[0], skip_special_tokensTrue))⚙️ 配置文件说明模型配置文件config.json包含关键参数hidden_size: 2048 - 隐藏层维度num_attention_heads: 16 - 注意力头数量num_hidden_layers: 32 - 隐藏层数量vocab_size: 120818 - 词汇表大小生成配置文件generation_config.json可调整翻译效果temperature: 0.7 - 控制输出随机性top_p: 0.8 - 核采样参数repetition_penalty: 1.05 - 重复惩罚系数 模型下载链接2bit模型权重: model.safetensors分词器文件: tokenizer.json, tokenizer_config.json, special_tokens_map.json 技术报告与文档HY-MT1.5 Technical ReportAngelSlim Technical Report 许可证信息项目代码根据License.txt开源详情请查看许可证文件。通过以上步骤你已成功部署Hy-MT1.5-1.8B-2bit模型享受高效、安全的设备端离线翻译体验。无论是旅行、学习还是工作这款轻量级模型都能成为你的随身翻译助手【免费下载链接】Hy-MT1.5-1.8B-2bit项目地址: https://ai.gitcode.com/tencent_hunyuan/Hy-MT1.5-1.8B-2bit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
