一个能沉默OpenAI的问题:人工智能究竟有多耗能?_人工智能_模子
有专家表示,这些数字只是人工智能总花费量的一小部分。这是由于机器学习模型是非常可变的,能够以极大地改变其功耗的办法进行配置。此外,Meta、微软和OpenAI等公司根本不愿分享干系信息。
演习大模型须要大量的能源,比传统的数据中央活动花费更多的电力。例如,演习像GPT-3这样的大型措辞模型,估计要利用不到1300兆瓦时(MWh)的电力;大约相称于130个美国家庭每年花费的电量。比较之下,流媒体一小时须要大约0.8千瓦时(0.0008兆瓦时)的电力。这意味着你必须不雅观看162.5万小时才能花费与演习GPT-3相同的能量。
但很难说这样的数字如何适用于当前最前辈的系统。能源花费可能会更大,由于人工智能模型的规模多年来一贯在稳步上升,而更大的模型须要更多的能源。另一方面,公司可能会利用一些经由验证的方法使这些系统更节能,这将抑制能源本钱的上升趋势。
人工智能不是免费的
人工智能公司hug Face的研究员Sasha Luccioni表示,随着人工智能变得有利可图,很多公司变得更加保密。回到几年前,像OpenAI这样的公司会公布他们演习制度的细节——什么硬件,多永劫光。但Luccioni说,ChatGPT和GPT-4等最新型号根本不存在同样的信息。
Luccioni认为这种保密部分是由于公司之间的竞争,另一部分是为了转移批评。人工智能的能源利用统计数据——尤其是它最无聊的用例——自然会让人把它与加密货币的摧残浪费蹂躏进行比较。“人们越来越意识到,所有这些都不是免费的,”她说。
去年12月,Luccioni和同事考试测验对各种人工智能模型的推理能耗做出评估。他们在88个不同的模型上进行了测试,涵盖了一系列用例,从回答问题到识别物体和天生图像。在每种情形下,他们都运行了1000次任务,并估计了能量花费。他们测试的大多数任务利用少量的能量,比如0.002千瓦时用于分类书面样本,0.047千瓦时用于天生文本。
如果我们用我们在Netflix上不雅观看一个小时的流媒体作为比较,它们分别相称于不雅观看9秒或3.5分钟所花费的能量。图像天生模型的数据明显更大,每1000个推论均匀利用2.907千瓦时。智好手机的均匀充电花费0.012千瓦时,因此利用人工智能天生一张图像所花费的能量险些与给智好手机充电所花费的能量一样多。
Luccioni和她的同事测试了十种不同的系统,从天生64 x 64像素的微型图像的小型模型到天生4K图像的大型模型。研究职员还对所利用的硬件进行了标准化,以便更好地比较不同的人工智能模型。但实际上,软件和硬件常日都是针对能源效率进行优化的。
Luccioni说:“这当然不能代表每个人的用例,但现在至少我们有了一些数字。”
天生式人工智能革命的环球本钱
这项研究供应了有用的相对数据,只管不是绝对数字。它表明,人工智能模型在天生输出时须要比对输入进行分类时更多的功率。它还解释,任何涉及图像的东西都比文本更耗能。Luccioni说,只管这些数据的有时性可能令人失落望,但这本身就解释了一个问题。
她说:“人工智能革命带来的环球本钱是我们完备不知道的,对我来说,这种蔓延尤其具有指示性。”“真正的缘故原由是我们不知道。”
如果我们想更好地理解地球的本钱,还有其他方法可以采纳。如果我们不是专注于模型推理,而是缩小范围呢?
这是阿姆斯特丹自由大学(VU Amsterdam)的博士候选人亚历克斯·德弗里斯(Alex de Vries)的方法,他在自己的博客Digiconomist上开始打算比特币的能源花费,并利用Nvidia gpu(人工智能硬件的黄金标准)来估计该行业的环球能源利用情形。正如德弗里斯去年在《焦耳》(Joule)杂志上揭橥的评论中所阐明的那样,英伟达霸占了人工智能市场大约95%的发卖额。
该公司还发布了硬件的能源规格和发卖预测,综合这些数据,德弗里斯打算出,到2027年,人工智能行业每年可能花费85至134太瓦时,这与荷兰每年的能源需求大致相同。
德弗里斯说,“到2027年,人工智能的用电量可能占环球用电量的0.5%。”这是一个相称主要的数字。
国际能源署最近的一份报告也供应了类似的估计,表明由于人工智能和加密货币的需求,数据中央的用电量将在不久的将来大幅增加。该机构表示,目前数据中央的能源利用量在2022年约为460太瓦时,到2026年可能会增加到620至1050太瓦时,分别相称于瑞典或德国的能源需求。
但德弗里斯说,把这些数字放在背景中是很主要的。他指出,在2010年至2018年期间,数据中央的能源利用量相称稳定,约占环球能耗的1%至2%。德弗里斯说,在这段韶光里,需求肯定是上升的,但硬件的效率提高了,从而抵消了需求的增长。
大模型越做越大
他担心的是,人工智能的情形可能会有所不同,由于企业方向于在任何任务中大略地投入更大的模型和更多的数据。一旦模型或硬件变得更高效,它们就会把这些模型做得更大。
效率的提高能否抵消不断增长的需求和利用量,这个问题是无法回答的。和卢奇奥尼一样,德弗里斯对缺少可用数据表示遗憾。
一些搞人工智能的公司声称,技能可以帮助办理这些问题。普里斯特代表微软表示,人工智能“将成为推进可持续发展办理方案的有力工具”,并强调微软正在努力实现“到2030年实现碳负、水正和零摧残浪费蹂躏的可持续发展目标”。
但一家公司的目标永久不可能涵盖全体行业的全部需求。可能须要其他方法。
Luccioni说,她希望看到公司为人工智能模型引入能源之星评级,让消费者可以像比较电器一样比较能源效率。对付德弗里斯来说,我们的方法该当更基本:我们是否须要用人工智能来完成特定的任务?他说:“由于考虑到人工智能的局限性,它可能在很多地方都不是精确的办理方案,我们将摧残浪费蹂躏大量的韶光和资源来找出这个困难的方法。”
本文系作者个人观点,不代表本站立场,转载请注明出处!