AI算力紧张又一良方?边缘计算呼声渐涨 兼具时延、安全等优势
《科创板日报》3月24日讯 一款ChatGPT激起AI千层浪,全球各路兵马争相投身,类ChatGPT应用快速铺开,算力需求愈发高涨。ChatGPT之前一度因访问量激增导致官网瘫痪,GPT-4推出之后也已多次下调付费用户访问限制,券商推测目前AI大模型的算力水平已显著供不应求。不难预见,随着这场AI热潮逐步扩张,算力短缺已成为悬在参与者头顶的一把达摩克利斯之剑。英伟达也指出,为了有效运用算力达成AI应用目标,大规模数据中心势必要增加资本支出以扩大云端运算效能,同时也将带动边缘装置销售。
《科创板日报》3月24日讯(编辑 郑远方)一款ChatGPT激起AI千层浪,全球各路兵马争相投身,类ChatGPT应用快速铺开,算力需求愈发高涨。
ChatGPT之前一度因访问量激增导致官网瘫痪,GPT-4推出之后也已多次下调付费用户访问限制,券商推测目前AI大模型的算力水平已显著供不应求。不难预见,随着这场AI热潮逐步扩张,算力短缺已成为悬在参与者头顶的一把达摩克利斯之剑。
如果说CPO是传输层面的优化、Chiplet是芯片层面的办法,那么边缘计算或许就能称得上是网络架构层面的良药――翻阅近期多家券商研报可以看到,边缘算力有望成为AI算力的重要组成部分,更可能成为推理主体。

英伟达也指出,为了有效运用算力达成AI应用目标,大规模数据中心势必要增加资本支出以扩大云端运算效能,同时也将带动边缘装置销售。