当前位置: 首页 > news >正文

获奖方案|趋动科技:资源池化释放AI算力价值

“据统计,GPU的平均利用率不超过30%,会产生巨大的算力资源浪费。我们用软件定义的方式通常可以把用户GPU的利用率提升3-8倍,甚至可以到10倍。”

这是算力池化软件公司趋动科技援引行业报告数据并结合自身企业最佳实践经验给出的最新数据。通过自研的猎户座OrionX AI算力资源池化软件,趋动科技可以帮助客户构建数据中心级 AI 算力资源池,客户无需修改应用就能使用数据中心内任一台服务器的 AI 算力,并通过大幅优化应用部署,提升用户的资源利用率,为AI产业带来全新的算力供给模式。

重新定义AI算力资源

在第二届光合组织AI解决方案大赛上,趋动科技基于与海光硬件产品底座的适配和优化,打造的“信创全栈自主可控异构AI算力资源池”(以下简称“AI算力资源池”)方案,获得了本届大赛一等奖。

趋动科技生态运营总监文禹翔介绍,AI算力资源池方案主要针对当前异构算力使用方式粗放、跨厂商异构算力资源难以统一管理调度等问题。方案将物理异构算力资源进行池化管理,实现按需调度异构算力资源及跨厂商异构算力资源精细化管理。

方案架构图

方案中的基础设施层,依托于海光服务器的性能优势,可以实现两大跃升;在操作系统层,AI算力资源池基于银河麒麟服务器操作系统,借助海光CPU、DCU平台优势,对内核安全、RAS特性、I/O性能、虚拟化和国产硬件、驱动支持等方面进一步优化增强;在虚拟化层,趋动科技OrionX将AI算力资源抽象为虚拟资源,最终实现AI算力资源的软件定义。

“目前,应用部署中资源直连独占,造成算力资源浪费和使用不灵活等问题,让算力用户的成本负担持续加重,已经在一定程度上阻碍了AI技术的进一步大发展。我们希望过去看起来‘阳春白雪’的算力,能够真正成为一种普惠大众的资源,就像水电一样按需随用随取、灵活便捷且便宜高效”文禹翔表示。

让生态飞轮加速旋转

最近由人民银行主管的期刊《金融电子化》中,刊登了一篇华夏银行CIO署名文章题为《人工智能GPU算力资源池化应用研究》的文章。该文章详细论述了异构算力资源池化软件在信创领域的应用价值,进一步验证了趋动科技OrionX异构算力池化软件方案的可行性,同时也对海光加速卡等国产硬件性能给予了肯定。

“信创领域的算力资源池建设需要链接国产软硬件厂商共同推动,海光在国产芯片行业处于领先梯队,为我们提供了很大的支撑。”文禹翔表示,通过与海光合作,趋动科技实现了池化软件异构算力多元化,进一步满足了信创市场的应用需求。

事实上,自加入光合组织以来,趋动科技与海光等产业链上下游伙伴开展了一系列生态合作。在趋动科技看来,用户需要的是完整的解决方案,而单一厂商很难提供从底层架构到前端应用的一整套产品,在此背景下,生态力量的整合非常关键。

“光合组织为AI产业的生态对接提供了一个很好的平台。”文禹翔指出,基于光合组织大赛,趋动科技不仅与伙伴深化了产品技术合作、展示了方案成果,同时也广泛联动更多产业力量,逐渐形成生态的“飞轮”,在市场赋能、项目引进等领域逐渐跑出了加速度。

“我相信,随着飞轮的转速不断加快,未来,算力池化方案将触达更多业务应用场景,AI算力会释放出更大的价值。”文禹翔表示。

http://www.lryc.cn/news/425677.html

相关文章:

  • Gin框架接入pyroscope完美替代pprof实现检测内存泄露
  • 记录一个lombok和mybatisplus的问题,@Data注解失效
  • React学习-初始化react项目
  • ubuntu查看CPU、内存、硬盘
  • 第5章 使用Intent和IntentFilter通信
  • AI产品经理需要了解的算法知识
  • OD C卷 - 结对编程
  • AcWing 723. PUM
  • 编译安装php7.4.33正确开启opcache,不只是去掉opcache.enable=1前面的分号
  • ComfyUI - 在服务器中部署 AIGC 绘画的 ComfyUI 工具 教程
  • MySQL中的distinct和group by哪个效率更高?
  • STM32F103C8T6单片机原理图设计(PCB板)
  • Qt自定义控件:关于大佬“飞扬青云“的自定义UI控件的使用教程(MinGw,MSVC)
  • 关于RCE
  • 深入理解npm:从入门到精通
  • Docker入门教程:10分钟掌握基础
  • NLP实验-基于预训练模型的文本分类
  • Table API SQL的概念和通用API
  • 【网络】UDP和TCP之间的差别和回显服务器
  • Electron:摄像头录制和屏幕录制
  • 【uniapp】vue3+vite配置tailwindcss
  • 从源码到应用:医疗陪诊系统与在线问诊小程序开发详解
  • mysql数据库中decimal数据类型比较大小
  • 掌控库存,简化管理 — InvenTree 开源库存管理系统
  • Linux---项目自动化构建工具-make/Makefile
  • 嘉立创EDA个人学习笔记1(PCB板介绍)
  • (转)Restful接口设计(1)
  • Python进阶之3D图形
  • 机器学习深度学习中的搜索算法浅谈
  • 基于IMX8M_plus+FPGA+AI监护仪解决方案