群联联手Maingear于GDC2024展示革命性aiDaptiv+硬件平台
Gushan
2024-03-27
群联电子在NVIDIA GDC2024大会上携手Maingear共同揭示了全新aiDaptiv+硬件解决方案,旨在有效解决中小企业在进行AI模型微调训练时面临的经济和技术难题。该方案针对云服务高昂费用及潜在的数据安全风险,以及本地部署所需的复杂架构与高额电力消耗等问题,提出了一种极具创新性的应对策略。
群联的aiDaptiv+平台整合了超耐用型aiDAPTIVCache固态硬盘技术,显著扩展系统内存资源,进而承载更大的AI模型,同时简化了操作流程,提高了易用性。该平台的核心在于一套创新的中间件软件,能智能化管理GPU显存,将AI模型中未激活的层切片转移到aiDAPTIVCache缓存SSD中,实现GPU显存与外部存储之间的高效数据交换,且无需对原有AI应用代码做出任何改动。
群联进一步强调,利用这一方案,只需一个配备4块显卡的工作站平台即可完成对Llama 70b模型的微调训练,其内存容量扩大至原显存总量的7倍以上,展现出前所未有的高效能力。
为支撑如此高强度的显存外数据存储与高速读写需求,配套推出的aiDAPTIVCache系列固态硬盘——ai100E,采用SLC闪存技术,单盘容量达到2TB,并具备五年内每天整盘写入100次(100DWPD)的卓越耐久性能,充分保证了在高负载AI训练场景下的长期稳定使用。这一举措无疑为中小企业在AI领域的实践开辟了更为经济、便捷且安全的新路径。