公司已经采购了GPU服务器,但工程师开始工作前,仍要先找管理员确认哪台设备可用,再安装训练框架、配置依赖、上传数据。同事有的只做代码调试,有的需要持续训练,却可能都按整卡占用,上一轮实验结束后,环境和资源没有及时释放,新任务又只能继续等待。设备已经有了,找资源、配环境和等分配却仍在消耗研发时间。
如何便捷高效地使用已有算力?衍生智算系统将服务器统一纳管,让成员在权限和配额范围内提交申请,复用已准备好的镜像与数据;针对轻量实验和持续训练,分别通过GPU共享与调度安排资源,再结合运行监控和用后归还,减少重复准备与不必要的占用,让已有算力更顺畅地服务研发任务。
统一管理与申请,让已有算力更容易用起来
设备分散在不同部门或实验室,配置、账号和使用情况各不相同。研发人员启动一个任务,往往先询问哪里有空闲GPU,再找管理员确认权限和使用时间,管理员则需要反复核对资源,处理各团队不断增加的需求。
衍生智算支持服务器节点纳管与资源规格管理,集中展示设备配置、GPU型号、运行状态、所属集群和资源归属。通过组织、项目组与角色权限管理成员,再按用户或项目组配置资源额度,让团队清楚可以进行哪些操作、申请多少资源。
成员通过统一入口申请服务器、容器或共享云盘,填写规格、数量和使用时间,并查看处理进度。资源审核与创建完成后,即可进入分配的环境开展工作。已有算力统一管理与资源申请衔接起来,减少逐台找设备、反复问进度的沟通成本。
复用环境与数据,减少算力使用前的重复准备
拿到服务器后,安装框架、配置依赖和整理数据仍然需要时间。同一项目的成员分别搭建环境,还容易出现版本不一致、代码运行结果不同等问题,让研发工作停留在准备阶段。
衍生智算支持镜像管理与容器环境复用。团队将验证过的软件和依赖配置保存为镜像,作为可重复使用的环境模板。后续创建容器时选择对应镜像,并提前配置云盘挂载、端口、启动命令和环境变量,减少重复安装和多次调整。
用户进入环境后,可通过远程终端与文件操作开展研发。新成员加入、实验重复开展或项目继续迭代时,都能复用已有准备。对于需要进入业务的模型,还可通过AI工具链部署为服务,供应用通过接口调用,让已有算力从研发环境延伸到业务应用。
按需共享与调度,让有限GPU资源服务更多任务
代码调试、小规模实验和持续训练的资源需求不同。如果轻量任务也长期独占整张GPU,其他成员可能一直等待,多个高负载任务集中提交时,又需要明确分配顺序,避免各团队反复协调。
衍生智算支持GPU共享管理与资源配额配置。管理员针对适配共享的设备和任务设置共享模式,让轻量任务按需使用资源,需要独占资源的训练任务,则按相应规格申请。结合GPU、显存、CPU和内存额度,明确各团队的资源使用范围。
当需求超过当前可用资源时,管理员可通过调度队列、优先级与等待时长掌握需求,结合资源情况安排分配。通过共享与排队分工,让不同任务采用合适的资源组织方式,减少轻量任务过度占用和集中申请带来的无序等待,提高存量算力的利用效率。
持续监控与用后归还,让已有算力有效周转
任务运行变慢或异常退出后,如果只能等待管理员逐台排查,已经分配的算力也难以有效产出。项目结束后仍保留不再使用的环境,则会继续占用后续任务需要的资源。
衍生智算提供资源监控、告警与日志查询,支持查看GPU、显存、CPU、内存等指标,并结合节点和容器日志定位异常。管理人员可以围绕具体资源开展排查,减少跨工具查找和反复确认。
任务完成后,成员先保存代码、数据与必要的环境,再按流程申请归还。审核处理并完成归还后,释放资源、恢复相应配额。管理员结合实际负载、资源使用趋势与配额明细,识别长期占用、负载偏低或需求集中的情况,持续优化算力分配,让已有设备在不同任务之间有序周转。
关于像衍科技与衍生智算系统
杭州像衍科技有限公司打造了“异构分布式智算操作系统+AI工具链/模型库+具身智能”的全栈工具软件平台,以创造具身智能大脑与数字人智能体为使命,推进跨越时空的信息交流与精准交互操作。
旗下衍生智算系统是一套异构分布式智算操作系统,向下连接异构计算设备的统一纳管与调度,向上提供数据集、模型和智能体研发管理工具,打通计算资源与AI应用之间的使用流程。
公司核心团队具备图形视觉、混合现实、云计算、边缘计算与人工智能等领域背景:
创始人鲍虎军:浙江大学求是特聘教授、博士生导师,国家杰青、教育部长江学者,主要从事图形与视觉计算、混合现实研究及系统开发。
董事长周晓巍:浙江大学“百人计划”研究员、博士生导师,主要从事三维视觉与混合现实研究,负责三维人体建模及渲染技术研发。
CTO崔广章:浙江大学博士,《深入理解边缘计算》作者,多个知名开源项目技术委员会委员,专注云计算、边缘计算与人工智能,全面负责公司研发。
对于已经拥有计算设备的企业、高校和科研机构,用好已有算力,需要同时减少使用者的准备工作和管理者的协调负担。衍生智算将统一申请、环境复用、共享调度与用后归还连接起来,让研发人员更专注任务,让管理人员更方便地统筹资源,让已有算力更充分地服务团队与业务。