Deprecated: Creation of dynamic property db::$querynum is deprecated in /www/wwwroot/116net.com/inc/func.php on line 1413

Deprecated: Creation of dynamic property db::$database is deprecated in /www/wwwroot/116net.com/inc/func.php on line 1414

Deprecated: Creation of dynamic property db::$Stmt is deprecated in /www/wwwroot/116net.com/inc/func.php on line 1453

Deprecated: Creation of dynamic property db::$Sql is deprecated in /www/wwwroot/116net.com/inc/func.php on line 1454
租赁价格低至2元时!英伟达A800不香了?算力租赁市场格局生变_hth华体会最新网站_HTH华体会体育|华体会最新地址
咨询热线:4008-6044-55 | OA | E-mail
租赁价格低至2元时!英伟达A800不香了?算力租赁市场格局生变
日期:2024-09-01 11:02:52 | 作者:华体会最新地址

  

租赁价格低至2元时!英伟达A800不香了?算力租赁市场格局生变

  A800的租赁价格仅需2元/时,同时在经过去年服务器租赁价格暴涨后,今年不一样的规格产品价格会出现一定幅度下降。

  多家算力租赁行业企业的人说,今年一季度算力租赁供需仍然紧张。另有业内人士分析称,算力租赁市场供需结构正在慢慢地调整,对于有AI计算需求的中小企业及研究机构来说,成本投入将得到改善。

  近日,在某社交平台用户发帖称,市场行情报价超10万元的英伟达A800人工智能训卡,在某平台租赁价格仅需2元/时,引发关注。

  据帖文称,按调试训练一个大模型平均要1个月计算,每月2元/时租赁A800训练成本单卡仅需不到1440元,该价格仅为购买A800这款AI显卡价格的1/69,并且无需承担运营数据中心、电费等成本。

  有评论表示,A800单卡线块确实是“骨折价”了。也有评论称,这样的价格“有促销既视感,不知道跟进卷的还有哪家”。

  《科创板日报》记者登录帖文指向的SCNet国家超算互联网官网,看到一款服务器配备8个英伟达A800加速卡、显存为80GB,处理器为2个Intel8458P 44C,其价格为2元/时。

  据了解,SCNet国家超算互联网是一家以互联网思维运营超算,并连接产业生态中的算力供给、应用开发、运营服务、用户等各方,构建一体化超算算力网络和服务平台。该平台于2023年4月成立工作推进组、总体专家组以及超算互联网联合体,并于去年11月启动公测。

  《科创板日报》记者今日(4月2日)以企业人员身份与平台客服取得联系,该客服表示,按照平台规则,单张A800卡租赁价格确实是2元/时,但单人可申请卡的最大数量和单作业运行时间有一定限制,不过已基本能满足90%以上用户AI计算需求。

  “租赁AI卡用户,超90%的都是对已成熟大模型进行‘微调’,13B参数量级别的大模型有一两张A800卡几天时间就可完成微调。”该客服进一步表示,若用户需要长时间租赁大量AI算力进行“全参数微调”,平台也有充足国产AI卡支持并行计算需求,并会给到一个合适的价格。

  算力卡租赁真成“白菜价”了吗?对此,有产业人士提醒,线上AI训练相比实机运算效率可能会有轻微降低, 但相比直接购买英伟达专业显卡所需的高额成本,以租赁形式满足算力需求,仍是许多中小企业及研究机构当前的更为经济的选择。

  一名业内人士向《科创板日报》记者表示,现阶段看,购买AI算力设施企业和租赁AI企业规模其实是不一样的。直接买A800卡的大部分都是头部企业,追求的是领先创造新兴事物的能力。而租赁AI卡企业,则是希望在细分AI赛道取得一定进展,或是高校研究机构进行实验。

  另一家算力租赁服务企业人士告诉《科创板日报》记者,一台搭载8卡A800的服务器月均价在4.6万元左右,A100的租赁价格会更便宜一些。对比润六尺类似配置的A800服务器,一年期价格在88000/月/台。

  “因为人工智能比较火,这样的价格在行业内相对算是很有性价比了。”上述人士称,“今年市场对算力租赁的需求依然很高。”

  AI的火热让算力租赁在过去一年里成为一项热门生意。与通用云计算服务相比,算力租赁具备配置灵活度高、成本低等优势。去年开始,多家上市企业购置专业算力显卡布局算力租赁业务,服务价格也水涨船高。

  在2023年,据不完全统计,已有中贝通信、汇纳科技、恒润股份、鸿博股份、真视通、青云科技等多家A股公司大规模采购GPU并开展对外算力服务器租赁业务。

  “目前来看,服务器租赁供需还是比较紧张。”中贝通信证券部工作人员表示,该公司去年签订多份AI算力服务订单,现在算力中心已经有部分在投入到正常的使用中了。“去年公司服务器有一部分在涨价,但是在依据市场供需以及客户情况调整,报价也是一客一议”。

  另一家提供算力服务的上市公司人士也向《科创板日报》记者表示,目前算力服务价格和价格趋势都不便透露,但从市场供需关系来看,整个市场降价的可能性都不大。

  不过随着供需结构逐步调整、厂商对大模型训练成熟,仍有部分市场慢慢的出现松动。

  一家中等规模的算力服务企业人士向《科创板日报》记者表示,近期跟今年年初相比,服务器平均租赁价格确实会降低。“去年价格涨得确实比较高了,今年我们机房集群会根据行情陆续采购,或者就现有规模做资源规划,价格还是看之后的供需。”

  另有产业界人士称,去年AI产业概念持续火爆,2024年春节后AI卡租赁市场行情相比年初却有微降。这源于两方面,首先是拥有大量算力的平台正逐渐完备服务能力,增加算力供给,其次是伴随众多大模型开源,已让不少企业选择在成熟模型基础上进行“微调”训练,阶段性降低了算力需求。

  算力租赁火热,某些特定的程度受限于外部市场外因。专精特新企业高水平质量的发展促进工程执行主任袁帅表示,如果市场之间的竞争加剧,或者技术进步导致投入制造成本降低,那么专业卡的降价空间可能会进一步增大。

  未来如何避免产业资源空耗、进一步提升投入产出比,国内算力租赁需考虑向更高的附加价值的运营服务方向转型。中泰证券研报认为,算力租赁基于硬件资源的按需租赁和按量付费模式,面对激烈算力租赁竞争,多元算力融合成为关键,算力市场将更加重视辅助运营服务,从提供硬件资源逐步转变为提供算力服务。


在线留言

在线客服