在AI技术驱动产业变革的浪潮中,星网锐捷积极拥抱人工智能发展趋势,全面推进AI战略建设。经过多年的数字化深耕,已积累了丰富的数据主机与多元算力设备资源,覆盖国产/非国产算力卡、本地/云端等多类型算力资源。
然而,伴随AI建设的深入推进,碎片化、多元化的数据与算力资源管理问题日益凸显。构建高效统一的算力管理体系,成为集团突破发展瓶颈、释放AI潜力的关键所在。
星网锐捷推出自研星巢智算管理平台,实现对不同城市推理及推训设备的跨区域纳管。平台基于各城市数据主机构建知识库,并与推理集群的大模型关联,进而能够跨区域提供应用服务 —— 为算力集群外的应用主机提供基于大模型二次开发的接口,实现不同区域数据与算力资源的整合,向其他区域用户输出服务。
多元异构,算力调度
星巢智算管理平台破解AI算力困局
星巢智算管理平台StarNest针对多元异构算力,包括通算、智算、超算、公有云、私有云、混合云、裸金属、虚机和容器等,通过整合“算力门户”、“算力接入”、“算力调度”、“算力运营”和“算力监控”等功能,以直观的界面和智能化的调度功能,帮助用户轻松管理多元算力资源,实现资源的高效利用和精准分配;通过为算力供给方、算力消费方和算力运营方提供一站式解决方案,实现全局算力资源“看得清”、“说得明”、“管得住”,推动算力产业生态的发展,助力企业智能化转型。
星巢智算管理平台监控视图
算力资源集中管理、统一调度,规避资源浪费风险
通过算力管理平台对企业内部各类算力设备实施统一管理,各子公司及部门可根据实际需求申请使用算力设备,有效规避因信息不对称、需求分散等因素造成的重复建设问题,避免算力资源闲置与浪费现象的发生。
内核级精准算力切分,灵活分配算力资源
通过算力管理平台,提供1%细粒度的算力切分能力,将单卡分割为多个虚拟实例,供不同任务按需调用,打破传统 “整卡独占” 的粗粒度模式,实现资源的动态分配,GPU利用率最高提升70%。
兼容国产与非国产生态,系统灵活更替
算力管理平台兼容主流的国产和非国产算力设备和操作系统,在国际贸易环境中算力芯片面临断供风险的情形下,可实现算力设备与操作系统的灵活更替,且上层大模型应用无需进行重复适配,有效降低适配工作及平台迁移过程中的人力成本投入。
统一发布软件功能,内外协同避免重复研发
在集团协同创新体系下,子公司完成某一功能研发后,可通过平台构建标准化服务模块,对内实现全集团高效复用,对外统一进行市场发布。有效避免重复研发,实现算力、数据等资源的集约化管理,加速技术创新与产业升级。
通过星巢智算管理平台的助力,星网锐捷在算力资源管理层面实现重要突破,显著降低了年度算力成本。星网锐捷积极构建自主可控的算力生态,为企业降本增效和数字化转型提供具有示范意义的”智慧大脑“ ;更以智能化算力底座为支撑,为数字经济高质量发展注入动能。
AI星网锐捷“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)