维贾伊·加德帕利是麻省理工学院林肯实验室的高级工作人员,他在林肯实验室超级计算中心(LLSC)领导了许多项目,旨在提高计算平台和运行在其上的人工智能系统的效率。在这里,Gadepally讨论了在日常工具中越来越多地使用生成人工智能,其隐藏的环境影响,以及林肯实验室和更大的人工智能社区可以减少排放以实现更绿色未来的一些方法。
问:就生成式人工智能在计算领域的应用而言,你看到了什么趋势?
答:生成式人工智能使用机器学习(ML)来创建新的内容,如图像和文本,基于输入到ML系统中的数据。在LLSC,我们设计和构建了一些世界上最大的学术计算平台,在过去的几年里,我们看到需要访问生成人工智能的高性能计算的项目数量呈爆炸式增长。我们也看到了生成式人工智能是如何改变各种领域和领域的——例如,ChatGPT已经在课堂和工作场所产生了影响,其速度似乎超过了法规的步伐。
我们可以想象,在未来十年左右的时间里,生成式人工智能会有各种各样的用途,比如为高性能的虚拟助手提供动力,开发新的药物和材料,甚至提高我们对基础科学的理解。我们无法预测生成式人工智能的所有用途,但我可以肯定地说,随着算法越来越复杂,它们的计算、能源和气候影响将继续快速增长。
问:LLSC采用什么策略来减轻这种气候影响?
答:我们一直在寻找提高计算效率的方法,因为这样做可以帮助我们的数据中心充分利用其资源,并允许我们的科学同事以尽可能高效的方式推动他们的领域向前发展。
举个例子,我们一直在通过做一些简单的改变来减少硬件消耗的电量,比如在你离开房间时调暗或关灯。在一个实验中,我们将一组图形处理单元的能耗降低了20%到30%,对其性能的影响最小,通过实施功率上限。这项技术还降低了硬件工作温度,使gpu更容易冷却,使用寿命更长。
另一个策略是改变我们的行为,让我们更有气候意识。在家里,我们中的一些人可能会选择使用可再生能源或智能调度。我们在LLSC也在使用类似的技术——比如在气温较低或当地电网能源需求较低的时候训练人工智能模型。
我们还意识到,花在计算上的大量能源经常被浪费,就像漏水增加了你的账单,但对你的家没有任何好处。我们开发了一些新技术,使我们能够在计算工作负载运行时监视它们,然后终止那些不太可能产生良好结果的工作负载。令人惊讶的是,在许多情况下,我们发现大多数计算可以在不影响最终结果的情况下提前终止。
问:你做过的减少生成式人工智能程序能量输出的项目有哪些?
答:我们最近开发了一个气候感知计算机视觉工具。计算机视觉是一个专注于将人工智能应用于图像的领域;因此,在图像中区分猫和狗,在图像中正确标记物体,或者在图像中寻找感兴趣的组件。
在我们的工具中,我们包含了实时碳遥测,它可以在模型运行时产生有关本地电网排放了多少碳的信息。根据这些信息,我们的系统将自动切换到一个更节能的模型版本,在高碳强度时期,它通常具有更少的参数,或者在低碳强度时期,模型的一个更高保真度的版本。
通过这样做,我们看到在一到两天的时间内碳排放量减少了近80%。我们最近将这个想法扩展到其他生成AI任务,如文本摘要,并发现了相同的结果。有趣的是,使用我们的技术后,性能有时会有所提高!
问:作为生成式人工智能的消费者,我们能做些什么来帮助减轻其对气候的影响?
答:作为消费者,我们可以要求我们的人工智能提供商提供更大的透明度。例如,在谷歌Flights上,我可以看到显示特定航班碳足迹的各种选项。我们应该从生成式人工智能工具中获得类似的测量结果,这样我们就可以根据我们的优先级有意识地决定使用哪个产品或平台。
我们还可以努力更多地了解人工智能的生成排放。我们中的许多人都熟悉汽车排放,以比较的方式谈论生成式人工智能排放可以有所帮助。例如,人们可能会惊讶地发现,一个图像生成任务大致相当于驾驶一辆汽油车行驶4英里,或者为一辆电动汽车充电所消耗的能量与生成大约1500个文本摘要所消耗的能量相同。
在许多情况下,如果客户知道这种权衡的影响,他们会很乐意做出权衡。
问:你对未来有什么看法?
答:减轻生成式人工智能对气候的影响是全世界人们都在努力解决的问题之一,并且有着相似的目标。我们在林肯实验室做了很多工作,但只是在表面上摸索。从长远来看,数据中心、人工智能开发人员和能源网络将需要共同努力,提供“能源审计”,以发现我们可以提高计算效率的其他独特方法。我们需要更多的伙伴关系,更多的合作,才能前进。
作者:安妮·麦戈文/麻省理工学院林肯实验室
链接:https://news.mit.edu/2025/qa-vijay-gadepally-climate-impact-generative-ai-0113
著作权归作者所有。
声明:海森大数据刊发或者转载此文只是出于传递、分享更多信息之目的,并不意味认同其观点或证实其描述。若有来源标注错误或侵犯了您的合法权益,请作者与本网联系,我们将及时更正、删除,谢谢。电话:152 6451 3609,邮箱:1027830374@qq.com
2025-01-14 08:23:55
安妮·麦戈文/麻省理工学院林肯实验室