你的位置:首页 > 博大动态 > 行业新闻

AI大模型对算力的需求

2024/10/12 9:20:04      点击:
      AI大模型对算力的需求

随着AI技术的不断发展,尤其是大模型的广泛应用,对算力的需求呈现出爆炸性增长——这并不是对未来的预测,而是现在进行时。最近几个月,我国整个智算需求其实已经发生了巨大的变化,尤其2024年5月15日整个市场大模型API开始大幅调价以来,我国大模型的tokens调用了出现了明显的增长,已经从当时的700多亿增长到如今近1500亿的规模。

随着大模型成本降低和能力的增强,正在加速智算需求的快速增长。另外还有一个比较明显的迹象,当前围绕大模型商业化,下半年迸发出了数百个从几十万到上千万不等的招标项目,大量隐藏在业务当中的,深度融合的大模型应用场景正在加速涌现,也就是推理需求已经开始不断增多。

而这一现象的出现带来了一个新的变化,从当前的市场趋势来看,大量大模型落地的场景都是依赖多模型视觉模型,而视觉模型会大量消耗算力,当然也同步带来大量的数据存储需求,而这背后正是对智算中心的建设需求量的大幅提升。

因此,可以明确的说,当前的大模型企业,是智算中心最具价值和前景的客户。

9月27日,以“探索AI边界重构数字场景”为主题2024数字开物大会将在北京正式召开。

会议聚焦大模型发展以及AI赋能产业数字化转型,将邀请超过30位大模型、产业数字化领域专家到场,并吸引数百名来自大模型企业、数字化转型方案企业的观众参与。

届时,大会也将邀请算力产业知名专家与企业,共同探讨如何推进大模型的落地应用,赋能我国数字经济高质量发展。

点击将有更多机房选择