仅仅运行ChatGPT就使OpenAI每天花费惊人的金额
2023-04-25 17:45:11行业资讯

WechatIMG3116.jpeg

不可思议的维护

据报道,ChatGPT的巨大人气和强大的维护成本令人眼花缭乱,根据研究数据,OpenAI每天要支付高达70万美元的费用来保持其强大的基础设施运行。

该公司首席分析师迪伦·帕特尔说:“大部分成本都是基于他们所需的昂贵服务器。”

帕特尔在后续采访中告诉我们,现在的成本可能会更高,因为这些估计是基于GPT-3,这是以前的型号,为旧的、现在免费的ChatGPT版本提供动力。

根据Patel的说法,OpenAI的最新型号GPT-4的运行成本将更高。

雅典娜崛起

这并不是ChatGPT独有的问题,因为人工智能,特别是兼作搜索引擎的对话型人工智能,运行成本高得令人难以置信,因为它们背后昂贵的专用芯片非常耗电。

这正是微软--在OpenAI上投资了数十亿美元--正在准备自己的专有人工智能芯片的原因。

据报道,该软件内部被称为“雅典娜”,自2019年以来一直在开发中,现在只有少数微软和OpenAI员工可以使用。

在部署该芯片时,微软希望取代目前使用的NVIDIA图形处理器,以支持更高效的处理器,从而降低运行成本。

简单地说,潜在的节省可能是巨大的。

帕特尔说,如果雅典娜具有竞争力,与NVIDIA的产品相比,每个芯片的成本可以降低三分之一。

尽管这将标志着微软首次涉足人工智能硬件领域--它落后于竞争对手谷歌和亚马逊,这两家公司都拥有自己的内部芯片--但该公司可能不会寻求全面取代NVIDIA的人工智能芯片,因为双方最近都同意了长达一年的人工智能合作。

恰到好处

然而,如果雅典娜真的是谣言所说的那样,那么它肯定不会来得太快。

上周,OpenAI首席执行官萨姆·奥尔特曼表示,随着像ChatGPT这样的大型语言模型从其庞大的规模中获得越来越少的回报,“我们已经走到了”巨型人工智能模型“的时代的尽头。”

根据OpenAI自己的分析,据报道,OpenAI的最新GPT-4模型的大小超过1万亿个参数,可能已经接近实际可伸缩性的极限。

虽然更大的尺寸通常意味着更大的能力和更大的能力,对于人工智能来说,如果帕特尔的分析是正确的,那么所有这些增加的膨胀都会推高成本。

但考虑到ChatGPT的巨大成功,OpenAI可能并不缺钱。