华硕旗下台智云在今年 5 月台湾 AI 超算年会,以开源大型语言模型 BLOOM 为基础推出「福尔摩沙大语言模型」(FFM-176B 和 FFM-7B),现在进一步全球首发「繁体中文强化版 FFM-Llama 2 大语言模型」。
台智云 FFM-Llama 2 以 Meta 旗下开源的 Llama 2 模型为基础,包括参数量 70B、13B、7B 全系列,支援 Code Llama 程式开发与 Embedding 增强语意搜寻模型,提供云端、地端以及 AI PC 等多模态大型语言模型,还有完整 AFS(AI Foundry Service)服务。
藉由 AIHPC(AI and High Performance Computing)、高效平行运算环境以及大型语言模型切割技术,台智云 FFM-Llama 2 训练大量台湾在地语料,大幅提升其繁体中文能力。全系列模型可进行微调、部署、推论,企业用户也能以自订系统提示词,让 AI 模型思考更在地化、更精准回应企业需求。
▲ 台智云 FFM-Llama 2 使用大量繁中语料进行训练,中文能力更好。
台智云 AFS 推出全参数和高效率模型微调(Parameter-Efficient Fine-Tuning,PEFT)功能,在 GPTQ 4-bit 高性能压缩技术支持下,提供经济实惠的云端或地端模型推论方案。
值得一提的是,「福尔摩沙大模型」发布至今已服务超过 70 个大型企业,电信业者如台湾大哥大便将智能客服导入生成式 AI 应用,未来可望扩展至集团不同产业面,以精进客服效率。
「台智云以开放模式提供可信赖大型语言模型,累积 AI 超算功能和完整 AI 工具平台,降低企业进入门槛,加速 AI 2.0 应用」,华硕云端暨台智云总经理吴汉章表示,期待华硕能与合作夥伴延续台湾产业优势,实现普惠 AI、发展以人为本的智慧科技。
(首图为华硕云端暨台智云总经理吴汉章,图片来源:华硕)