IT之家 6 月 5 日音问,像 OpenAI 的 ChatGPT、谷歌的 Gemini Ultra 这么的高等 AI 模子,西席它们经常需要数百万好意思元的用度九游会J9,且该资本还在马上上升。
![](https://n.sinaimg.cn/spider20240605/487/w550h737/20240605/90e0-0e41393b8a02e3675989c61107e883ae.png)
跟着筹备需求的加多,西席它们所需的筹备才调的用度也在飙升。为此,AI 公司正在再行探究怎么西席这些生成式 AI 系统。在许厚情况下,这些政策包括在面前的增长轨迹下镌汰筹备资本。
西席资本是怎么细主义?
斯坦福大学与估量公司 Epoch AI 互助,凭据云筹备房钱估算了 AI 模子的西席资本。两边所分析的枢纽要素包括模子的西席时长、硬件的欺诈率和西席硬件的价值。
尽管很多东说念主想到,西席 AI 模子的资本变得越来越高,但零落全面的数据来撑捏这些说法。而斯坦福大学发布的《2024 年 AI 指数讲演》恰是撑捏这些说法的目生开首之一。
不休扩张的西席资本
下表展示了自 2017 年以来,经通胀调治后的主要 AI 模子的培训资本:
![](https://n.sinaimg.cn/spider20240605/713/w550h163/20240605/ef0b-1abe3f977894f0709eb749189f0b309b.png)
客岁,OpenAI 的 GPT-4 培训资本忖度为 7840 万好意思元,远高于谷歌 PaLM (540B) 的西席资本。谷歌 PaLM 较 GPT-4 仅早一年推出,但西席资本为 1240 万好意思元。
比拟之下,2017 年建设的早期 AI 模子 Transformer 的西席资本为 930 好意思元。该模子在塑造面前所使用的很多大型谈话模子的体紧缚构方面起着基础性作用。
谷歌的 AI 模子 Gemini Ultra 的西席成更高,达到了惊东说念主的 1.91 亿好意思元。终了 2024 年头,该模子在几个方针上王人跨越了 GPT-4,最引东说念主瞩主义是在“大范围多任务谈话倡导”(MMLU)基准测试中胜出。这一基准是量度大型谈话模子才调的重要标尺。举例,它以评估 57 个学科规模的常识和惩办问题的熟谙进度而着名。
西席以前的 AI 模子
鉴于这些挑战,AI 公司正在寻找新的惩办决策来西席谈话模子,以搪塞不休高涨的资本。
其中的法子有多种,比如创建用于实施特定任务的较小模子,而其他一些公司正在磨真金不怕火创建自家的合成数据来“投喂”AI 系统。但到现在为止,这方面还莫得赢得明确的糟塌。
举例,使用合成数据的 AI 模子偶然会“妄言连篇”,激发所谓的“模子崩溃”。
告白声明:文内含有的对外跳转勾通(包括不限于超勾通、二维码、口令等表情),用于传递更多信息九游会J9,省俭甄选时期,成果仅供参考,IT之家总共著述均包含本声明。
声明:新浪网独家稿件,未经授权隔断转载。 -->