开云(中国大陆官方网站)Kaiyun科技股份有限公司 - 领先的GPU计算与AI算力解决方案

关闭菜单
027-83317177
当前位置: 首页 > 新闻资讯 > 公司新闻

常州机电与苏州司南GPU显存池化专利加速GPU资源分配提升效率

2025-11-06 10:50:47 小编

  

常州机电与苏州司南GPU显存池化专利加速GPU资源分配提升效率

  国家知识产权局最新信息显示,常州机电职业技术学院与苏州司南传感科技有限公司联合申请了一项名为“一种快速池化显存分配的方法、装置及设备”的专利,专利申请日期为2025年07月,公开号为CN120892190A。该专利的出现,预示着在

  GPU作为现代计算的核心,其显存管理效率直接影响着整体性能。尤其是在多任务并行处理的环境下,如何快速、合理地分配GPU显存,避免资源浪费,是提升计算效率的关键。常州机电与苏州司南的这项专利,正是针对这一痛点,提出了创新的解决方案。

  该专利的核心在于其快速的GPU池化显存分配方法。具体而言,调度服务会持续监控各个服务及GPU的状态,在首次启动时主动询问各个服务占用GPU显存的情况。当系统内发生新的任务请求时,系统会首先评估现有的显存分配方案是否能够满足该任务的显存需求。如果满足,则直接调度到满足条件且空余显存空间最小的GPU上,实现快速分配。若无法满足,则进一步判断是否存在满足所有任务GPU显存需求的方案,若不存在则放弃调度新服务,启动显存重新规划流程;若存在则按照调度方案执行步骤迁移操作,从而最大化GPU显存的利用率,避免资源碎片化。

  目前,市场上已有一些关于GPU资源管理的方案,例如CUDA等框架提供的显存管理机制。但这些方案在处理多任务、动态负载变化时,可能存在一定的延迟和资源浪费。而常州机电与苏州司南的这项专利,通过调度服务和智能评估机制,有望实现更快速、更精细的显存分配,从而提升整体计算效率。这对于需要处理大量并行任务的应用,如AI模型训练、科学计算等,具有重要的意义。

  值得关注的是,在GPU资源管理领域,各家企业都在积极布局。根据网易新闻2025年8月9日的报道,苏州元脑智能科技有限公司也申请了“共享内存资源池”的相关专利,旨在实现内存资源的动态分配和高效共享。此外,魔门塔(苏州)科技有限公司也申请了关于图形处理器资源管理的专利,以减少资源碎片。这些专利的出现,反映了行业对于提升计算资源利用率的共同追求。

  GPU池化技术的发展,有望进一步推动AI、高性能计算等领域的发展。随着GPU算力的不断提升,如何高效地利用GPU资源,将成为决定计算效率的关键因素。常州机电与苏州司南的这项专利,为我们展示了在GPU显存管理方面的一种新的可能性。那么,未来,这类快速显存分配技术是否会成为GPU服务器的标配?在AI模型日益复杂、数据量持续增长的背景下,高效的显存管理将扮演怎样的角色?欢迎在评论区留下你的看法!

联系专业的商务顾问,制定方案,专业设计,一对一咨询及其报价详情
服务热线服务热线 027-83317177
咨询kaiyun全站解决方案 马上咨询
免费获取技术咨询服务
姓名图标
电话图标
QQ图标

联系我们 contact us
027-83317177