在日前举行的中国国际大学生创新大赛(2024)总决赛上,上海对外经贸大学统计与信息学院的参赛项目“智械伴侣——首创多模态智能交互桌面机器人”(以下简称“智械伴侣”项目)获高教主赛道研究生创意组银奖。据项目负责人介绍,因为涉及多所高校之间的跨学科合作,会用到端云协同多模态交互技术,因此选择了上海电信算力服务,让团队能根据项目需求灵活调整算力资源。
据介绍,学院以往所面临的痛点、难点,以及对未来的考量主要有以下几点:一是算力需求是弹性的,比如大模型的训练阶段、多个项目并发时需要更多计算资源,在推理阶段则相对较少;二是算力使用有时是急需的,对应显卡的成本、规格选择、购买限制、使用方式和租赁方式,往往也会形成制约;再如算力的分散性、驱动器不兼容、高峰低谷算力的不足与闲置的有效平衡调度、运维等问题,而算力在对外提供接口服务时,因为内部网络原因会增加一定的延迟。
选择租赁弹性算力方案后,学校能够对一些紧急和短期项目进行快速推进和验证,从而减少资源闲置,降低成本。弹性算力方案由专业的服务提供管理,意味着校方可以减少在硬件维护和升级上的投入,专注于科研和教学工作。此外,该方案在“智械伴侣”项目中解决了本校及合作院校的学生出校比赛时的网络延迟问题,让算力的端云协同呈现出更好的效果。据悉,较之于校园网络,上海电信公共算力服务为该团队降低了40%—50%的网络延迟。
据介绍,上海电信于上月正式推出公共算力服务门户——算力超市。在功能方面,算力超市汇聚各类算力服务,支持算力在线磋商、算力交易,以公共普惠的算力供给,算、存、运一体的综合算力服务模式,促进算力资源有效疏通,此外也支持广大算力供应商入驻。值得一提的是,算力超市的算力规格多样,各品牌算力资源,多种算力规格,高校或者企业可以一站搜索所需算力资源,轻松实现算力资源选购、下单等操作。 孙永会