中科曙光胡晓东:AI根本举动办法成长趋势指向低能耗计算 将关注开拓情形迁移需求|直击WAIC 2024_曙光_模子
“AI持续火爆,今年(WAIC)跟去年比较,明显感想熏染到AI进入到了多元化的运用阶段”。中科曙光智能打算产品奇迹部副总经理胡晓东在WAIC举行期间,接管了《科创板日报》的专访。胡晓东表示,之前AI的To B端运用间隔个人生活很远,现在各大厂商参与进来,AI生动并深入到了社会生活的方方面面,比如根本教诲、机器智能的发展等。
据胡晓东先容,在本届WAIC,中科曙光展台的展出亮点包括从硬件到软件的整体办理方案,比如硬件做事器及整机等各种产品,涵盖了从端侧到中央侧、再到云侧的不同运用体系,同时中科曙光今年也带来了丰富的软件产品。
在胡晓东看来,AI运用爆发的一个显著特色是,AI大模型数量增多、模型参数量增长,因此对底层的硬件根本举动步伐需求量增长。英伟达CEO黄仁勋曾经说过,AI的尽头是光伏和储能,其意即当下应关注低能耗算力的发展和培植。
胡晓东也表示,AI根本举动步伐技能发展,首先要办理的便是低能耗打算的发展哀求。
“这次的WAIC上,中科曙光带来液冷事情站、液冷根本做事器、液冷整机柜和整套液冷数据中央方案,能够通过对新型液冷技能的引入,提升AI等数字技能的整体能源利用效率,并发展新型的绿色算力根本举动步伐,在有限能源范围之内,更好供应算力、更好做事上层不同的运用平台。”胡晓东如是称。
在硬件举动步伐之外,打算中央的软件生态也是助力大模型运用发展的主要环节。“现在很多AI开拓者都在切换国产化开拓环境,很多人关心迁移本钱的问题,关心能否短韶光内对不同国产卡进行迁移,以及在业务系统迁移完成后,是否能够建立稳定、高效、持续的运营。”
据胡晓东先容,中科曙光在平台层,也在考试测验为开拓者办理此类后顾之忧,实现对不同品牌的算力卡和资源池进行统一纳管,从底层硬件、根本软件栈,到开拓中台、信息化工具,供应整套软件办理方案。
胡晓东认为,从去年国产大模型厂商冲击根本模型的参数量,到今年,各家大模型已经到了在各个垂直领域深化发展的阶段,“这对底层的软硬件都提出了更高的需求,对中科曙光而言,须要供应更多上层做事”。
“曙光在传统硬件业务之外,也在针对软件开拓和模型运用供应不同工具套件和开拓支持”。胡晓东表示,曙光正在与企业客户一同互助,整合国产算力平台、根本硬件模型、行业数据,帮助大模型在不同行业实现向深化运用和顺利落地的超过。
本文系作者个人观点,不代表本站立场,转载请注明出处!