当前位置:周记财经 > 资讯 > 正文内容

ChatGPT每月运营费70万美元!微软暗自研发AI芯片降成本

更新时间:2026-06-28 00:07:59 资讯3年前 (2023-04-21)52
  运行成本高昂   Patel和他的同事Afzal Ahmad称,虽然训练ChatGPT的大型语言模型可能要花费上亿美元,但当这些工具合理部署之后,其运营费可能远远超过了训练成本。该公司首席执行官Nick Walton表示,在2021年,运行AI模型的费用以及向亚马逊AWS服务器所付的费用,加起来每月就要花费20万美元。  微软秘密研制新芯片   据the Information率先报道,两位知情人士透露,微软正在开发一款名为Athena的人工智能芯片,旨在降低运行生成式人工智能模型的成本。  据悉,微软有300多名员工正在研发这款芯片。知情人士透露,该芯片最早可能于明年发布,供微软和OpenAI内部使用。

  财联社4月21日讯(编辑 周子意)半导体研究公司SemiAnalysis的首席分析师Dylan Patel近日在接受采访时透露,OpenAI每天的运作可能要花费高达70万美元,因为人工智能(AI)运行所依赖的计算基础设施价格昂贵。

  ChatGPT自去年底发布以来一直受到用户的青睐,它可以用来写求职信、制定课程计划和约会方案等等,不过ChatGPT对用户的回复,往往需要大量的算力。

ChatGPT每月运营费70万美元!微软暗自研发AI芯片降成本

  Patel称,他的初步估计是基于OpenAI公司的GPT-3模型,而如今最新模型GPT-4已经推出,所以其运行成本可能会更高。

  运行成本高昂

  Patel和他的同事Afzal Ahmad称,虽然训练ChatGPT的大型语言模型可能要花费上亿美元,但当这些工具合理部署之后,其运营费可能远远超过了训练成本。

  多年来,使用大型语言模型的公司一直在付出高昂的代价。

  例如,初创公司Latitude开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官Nick Walton表示,在2021年,运行AI模型的费用以及向亚马逊AWS服务器所付的费用,加起来每月就要花费20万美元。

  Walton开玩笑道,“我们每个月在自己员工和人工智能上花的钱差不多”。

  微软秘密研制新芯片

  据the Information率先报道,两位知情人士透露,微软正在开发一款名为Athena的人工智能芯片,旨在降低运行生成式人工智能模型的成本。

  该芯片项目于2019年启动,这一年也恰好是微软对 OpenAI 进行首次投资的时间,当时的注资要求OpenAI只在微软的Azure云服务器上运行其模型。

  Athena项目背后的原因有二:其一,微软高管意识到,他们在自主研发芯片方面落后于谷歌和亚马逊;其二,微软正在寻找更便宜的替代品,该公司目前的人工智能模型是在英伟达的图形处理单元芯片上运行的。

  目前来看,英伟达是这个领域的最大玩家,单片价值1万美元的 A100 芯片占据了数据中心 GPU 市场 90% 以上的份额,主要用于训练和运行 AI。英伟达还已发布一款更先进的芯片——H100 ,据称该芯片的训练性能应该是其之前 AI 训练芯片的 9 倍,上月有报道称,OpenAI已使用H100芯片对其人工智能模型进行训练和运行。

  据悉,微软有300多名员工正在研发这款芯片。知情人士透露,该芯片最早可能于明年发布,供微软和OpenAI内部使用。

相关文章

217009股票:一家潜力无限的科技公司

217009股票:一家潜力无限的科技公司

217009股票是一家专注于智能化、互联网、大数据、人工智能等领域的科技公司,该公司在多个领域拥有自主研发和创新能力,其未来发展潜力巨大,备受市场关注,首先,217009股票在智能化领域拥有较强的技术...

270007股票:了解这只股票的投资机会和风险

270007股票:了解这只股票的投资机会和风险

270007股票是一家中国科技公司的股票代码,该公司主要从事智能硬件、互联网和人工智能等领域的研究和开发,旨在为全球客户提供更好的产品和服务,如果你正在考虑投资这只股票,本文将为你提供更多的信息,帮助...

300015股票:一家以数据为驱动的人工智能企业

300015股票:一家以数据为驱动的人工智能企业

300015股票是一家专注于人工智能技术和应用开发的企业,公司以数据为驱动,通过深度学习、机器学习等技术手段,为客户提供全方位的人工智能解决方案,在人工智能领域,公司已经积累了丰富的经验和技术优势,成...

云股票:投资新时代的到来

云股票:投资新时代的到来

随着科技的不断发展,云计算技术的应用逐渐普及,云股票成为了投资市场的新宠,云股票是指通过互联网将股票交易信息进行集中管理,实现股票交易的电子化、网络化和智能化,它不仅可以提高股票交易的效率,还可以为投...

了解123002股票的投资机会和风险分析

了解123002股票的投资机会和风险分析

123002股票是一种新兴的股票,它是指中国证监会公布的证券代码为123002的股票,在过去几年中,这种股票的表现一直非常出色,吸引了越来越多的投资者的关注,但是,与任何其他股票一样,投资123002...

000021股票:对这只股票的全面解析及投资建议

000021股票:对这只股票的全面解析及投资建议

000021股票是指深圳中科云网科技股份有限公司的股票,是一家从事云计算、大数据、人工智能等领域的科技公司,截至2021年6月30日,公司总股本为8.5亿股,总市值约为95亿元人民币,公司股票代码为0...