中兴通讯AiCube智算一体机文心4.5开源实现全系列模型适配

AI资讯2个月前发布
10 0

7月7日最新消息显示,百度于6月30日正式开源文心大模型4.5系列的全部10款模型,涵盖从47B激活参数的混合专家(MoE)到轻量化0.3B稠密型模型,全面支持文本处理、多模态等多种任务场景。值得一提的是,中兴通讯旗下AiCube智算一体机在文心4.5开源当天即完成了全系列模型的深度适配。

中兴通讯AiCube智算一体机文心4.5开源实现全系列模型适配

据官方介绍,AiCube智算一体机在文心4.5开源的同时,已实现对包括ERNIE-4.5-300B-A47B在内的全系列模型的深度适配。这一突破性进展主要得益于AiCube开放式的智算基座架构设计,支持可选配昆仑芯P800 AI加速卡,并原生兼容文心4.5系列模型。此外,设备内置的一站式模型迁移工具极大简化了部署流程:用户无需修改代码,即可通过可视化界面快速完成部署配置,将传统数周级的部署周期缩短至小时级别。

借助昆仑芯P800的强大显存资源,AiCube成功实现了文心4.5全系列模型的单机部署能力。在多模态任务处理方面,通过软硬件协同优化和深度整合,确保了各组件间的高效协作;同时采用创新性的动态资源调度技术和缓存优化方法,有效缓解I/O瓶颈问题,并显著提升了GPU利用率。这些多维度的技术优化充分释放了算力潜能,为大模型的性能表现提供了坚实保障。

值得注意的是,AiCube不仅深度支持文心系列模型,还实现了对Qwen3、DeepSeek等主流开源大模型的全面兼容。其底层架构采用模块化设计,前瞻性地满足未来多模态模型部署需求,同时无缝适配PyTorch、TensorFlow等主流AI框架。这种灵活的设计理念旨在为当前及未来的多样化模型应用场景提供统一解决方案,打造”一机多模”的大模型统一底座,从而降低企业应用不同AI技术的门槛。

中兴通讯AiCube智算一体机文心4.5开源实现全系列模型适配

▲ 图源:中兴官网 | 中兴通讯 AiCube 训推一体机
© 版权声明

相关文章