多管齐下让人工智能更节能
世界经济论坛官网近日报道指出,多管为让人工智能(AI)发挥其变革潜力、齐下提高生产力水平及社会福祉,让人惠州市某某文化传媒售后客服中心人类必须确保它可持续地发展。工智这一愿景面临的多管核心难题在于,随着算力和性能的齐下不断提升,能耗也在快速增长。让人
AI生态系统,工智从硬件、多管训练协议到操作技术,齐下都会耗费大量能源。让人惠州市某某文化传媒售后客服中心鉴于此,工智科学家正在设法让其更节能。多管措施包括改变AI的齐下运行策略、研制更节能的让人算法和芯片等。
能源“吞金兽”
AI是能源密集型技术。它究竟有多耗能?数据给出了答案。
据法国《回声报》网站报道,AI平台“抱抱脸”研究员兼环境问题主管萨沙·卢乔尼表示,Midjourney或Dall-E等AI算法生成一张图片消耗的电力,相当于给一部智能手机充满电。一块英伟达H100型图形处理单元一年消耗的电量,比一个中等规模的美国家庭一年所耗的电量还要多。
美国《哈佛杂志》网站提出,大语言模型在生成类似人类、连贯且符合上下文逻辑的文本方面做得更好。但这种改进也有代价,训练GPT-3消耗的能源相当于120个美国家庭一年消耗的能源。美国《纽约时报》的报道更是惊人,ChatGPT每天要响应大约2亿个请求,这一过程中消耗超过50万度电。
世界经济论坛的数据显示,运行AI任务所需的能源消耗,年增长率介于26%至36%之间。这意味着到2027年,AI行业消耗的能源堪比冰岛或荷兰等国家一年的能耗。
改变运行策略
让AI更节能势在必行。
首先是调整AI运行策略。世界经济论坛官网指出,AI运行一般分两个主要阶段:训练阶段和推理阶段。在训练阶段,模型通过消化大量数据来学习和开发;经过训练后,它们进入推理阶段,用于解决使用者提出的问题。在这两个阶段限制能耗,可将AI运行总能耗降低12%到15%。
美国俄勒冈州立大学电气工程与计算机科学学院托马斯·迪特瑞克教授指出,另一个有效的策略是优化调度以节省能源。例如,在夜间运行轻量级的任务,或在寒冷的月份运行更大的项目等,也可节省大量能源。此外,将AI处理转移到数据中心也有助于减少其碳排放,因为数据中心的运行效率非常高,其中有些运行使用了绿色能源。
从长远看,促进AI与新兴量子技术的协同也是引导AI走向可持续发展的重要战略。传统计算能耗随计算需求增加呈指数级增长,而量子计算和能耗之间呈线性增长。
此外,量子技术可使AI模型更紧凑、学习效率更高并可改善其整体功能。
新模型和新器件
AI公司之间竞争的一个驱动力是相信越大越好,这也意味着参数越来越多,能耗越来越大。例如,GPT-4拥有1.8万亿个参数,而其“前身”GPT-3拥有1750亿个参数。因此,为让AI更节能,不少科学家正在尝试找出不需要那么多参数的算法。
HawAI.tech公司使用了新型电子元器件和基于概率论的AI技术来节省能耗。在相同时段和能耗下,新器件运算速度是英伟达Jeston芯片的6.4倍。该公司联合创始人兼首席执行官拉斐尔·弗里施表示,结合概率论和更优化的电子元器件,他们的解决方案所用的数据和能源会更少。
此外,模拟人脑功能的神经形态芯片也有望提升AI的效率。近日,英特尔公司发布了名为Hala Point的大型神经拟态系统。其内置1152个基于Intel四制程的Loihi 2处理器,支持多达11.5亿个神经元和1280亿个突触,每秒可处理超过380万亿个8位突触和超过240万亿个神经元操作。它独特的功能可实现未来AI应用的实时持续学习,如解决科学和工程问题、物流、智能城市基础设施管理、大语言模型和AI代理等。
(责任编辑:探索)
-
12月26日,针对此前美国宣布大规模对中国台湾地区军售,外交部公布关于对美国军工相关企业及高级管理人员采取反制措施的决定,涵盖20家企业、10名高管。相关举措正当、合理、必要,充分彰显中国捍卫国家
...[详细]
-
死亡之组收官日,领先了97分钟的克罗地亚,在胜利大逃亡行将上演的当口,猝然抛锚。当扎卡尼的弧线球从全无反应的利瓦科维奇身边飞入球网时,整场都在奋力奔跑、争顶和对抗的格子军团,瞬间被定了格。而此前被换下
...[详细]
-
来源:参考消息 [解放军装备机器狗,美国会无法接受……]据台湾“中时新闻网”6月23日报道,在上周美国国会关于年度国防授权法案的讨论中,众议院议员突然提到中国大陆正在部署“携带自动步枪的机器狗”
...[详细]
-
6月24日,湖南长沙各区县普降大暴雨。长沙市气象局从当天11时起将气象灾害暴雨)Ⅲ级应急响应提升为Ⅱ级,随后,岳麓山、橘子洲和桃花岭景区临时闭园。13时许,游客许女士乘坐高铁抵达长沙南站,她向南都记者
...[详细]
-
小米也涨价了!内存压力传导至手机厂商,业界称终端再不涨明年必定亏损
存储芯片涨价已经波及到了智能手机。12月25日晚,小米最新发布了旗舰手机17 Ultra,由于存储芯片价格上涨等因素,小米上调了17 Ultra全系列价格。其中,起步存储配置调整为12GB+512GB
...[详细]
-
河南一考生706分,理综294分只扣了6分,家长:高中没补过课
随着2024年高考成绩出炉,考生们是读985、211还是普通本科高校?查了成绩,知道本省的录取分数线之后,就会逐渐清晰。为了实现大学梦,三年寒窗苦读,1000多个日日夜夜,得知成绩的那一刻,有的人激动
...[详细]
-
中国基金报记者 文夕 6月25日,A股三大股指均创本轮调整新低。其中,从5月21日A股调整以来至今,沪指已经累计下跌6.97%。这一背景下,众多上市公司“坐不住”了。据记者不完全统
...[详细]
-
刚刚!新疆维吾尔自治区公布2024年普通高校招生各批次最低投档控制分数线,如下:自治区教育考试院提醒广大考生及家长,6月26日上午12时开通自治区2024年普通高考志愿填报系统。本科提前批次网上填报志
...[详细]
-
据中国地震台网正式测定:12月27日23时05分在台湾宜兰县海域北纬24.67度,东经122.06度)发生6.6级地震,震源深度60千米。 据台湾“中央社”报道,台当局气象部门报告,台湾东部海域
...[详细]
-
关注“在线学习”获取更多资讯!从6月23日开始,全国多地陆续公布2024年高考成绩。高考分数线也随之出炉——山东分数线普通类一段线444分,二段线150分,特殊类型招生控制线521分。湖北分数线本科批
...[详细]

华策克顿:不惜创作心血、制作成本去做历史正剧