原创 iNED 新经济发展研究院
「举世瞩目的围棋人机对决尘埃落定,AlphaGo 以 4:1 战胜韩国棋手李世石,完成历史性的跨越。」
然而,这场人工智能的胜利也并没有那么出彩,这本就不是一场公平的较量——AlphaGo 下一盘棋大约需要耗电 20,000W,但李世石的大脑功耗只需 20W,相差 1,000 倍。
AI 的能源消耗似乎是一个老生常谈的话题了,在 2023 这一大模型爆火之年,它又被重新推上讨论的热点。
AlphaGO 与李世石对弈
OpenAI 曾在其《AI and Compute》分析报告中指出,自 2012 年以来,AI 训练应用的电力需求每 3 个月到 4 个月就会翻一倍。根据华为 AI 首席科学家田奇给出的数据,AI 算力在过去 10 年至少增长了 40 万倍。
其中,拉高AI大模型能耗的一大要因,就是参数训练集的规模。即使在运行阶段,人们在操作 ChatGPT 时耗电量很小,但由于全球每天可能发生十亿次,累积之下,也可能使其成为第二大碳排放来源。
Cloud Carbon Footprint 列出了 Azure 数据中心中 A100 GPU 的最低功耗 46W 和最高 407W,由于很可能没有多少 ChatGPT 处理器处于闲置状态,以该范围的顶端消耗计算,每天的电力能耗将达到 11,870kWh。
而根据加州大学河滨分校研究员 Shaolei Ren 估测,用户每向 ChatGPT 提出 5-50 条提示词或问题,ChatGPT 就会消耗掉 500 毫升的水(具体数字取决于基础设施所在位置和季节气候)。这一估算还未包含未经测量的间接用水,例如数据中心冷却电力所对应的发电耗水。
数据中心运作示例
01
混合式AI,高能耗的解决路径
大部分 AI 任务都是在云端的大型数据中心进行处理,这需要大量的能源供应和数据传输,导致能源消耗增加,无疑会将成本转嫁在用户本身。
根据微软自己的价格估算,具有 8K 上下文的 GPT-4 等模型的提示成本高达 0.03美元/1,000 tokens,完成成本为 0.06 美元/1,000 tokens。
同时,越来越多的用户对云端计算的隐私和安全风险感到担忧,防止商业与个人数据通过互联网泄露,也对离线计算有较高的呼声。一系列问题都导致了服务商对新商业模式的重新思考。
随着 AI 终端设备(如智能手机、智能摄像头、边缘计算设备等)的发展,终端算力也不同往日——根据中国电信研究院首发的“终端智能算力发展指数”,仅手机终端这一终端设备,其智能算力渗透率持续快速增长,从 2018 年的 25% 快速增长至 2022 年的 82%,2022 年新增智能算力规模超 3,100 EOPS。
截至2023年2月,国内存量手机终端智能算力总规模超 7,100 EOPS,是我国数据中心算力总规模 12 倍以上,相当于近 1,000,000 片英伟达 H100 芯片算力。越来越多的 AI 处理可以在设备本身完成,而不必依赖云端。
这种在设备端进行 AI 处理的趋势可以减少数据传输到云端的需求,从而降低能源消耗。AI 终端可以执行诸如语音识别、图像处理和其他 AI 任务,无需将所有数据发送到云端进行处理。
手机智能算力发展指数——存量总算力指数(来源:通信世界)
此外,不同类型 AI 任务对底层算力资源的要求有所不同,使算力负载向端侧的下放成为可能。AI 终端通常采用优化的硬件架构和算法,以在较小的设备上实现高效的 AI 处理。通常会以高效低耗特性的 NPU (一种专门用于进行人工神经网络计算的芯片)为性能支撑,广泛用于加速 AI 任务。
这种优化可以使得在边缘设备上运行 AI 任务时所需的能源更少,相比于在云端进行处理,能源消耗更为有效。AI 大模型下游应用的规模化与商业化需要充分利用端侧 AI 处理能力,手机、平板、笔记本电脑的 AI 化将成为行业的大势所趋。
AI 处理的中心正在向边缘转移(来源:高通)
PC 作为终端设备中发展时间长、技术成熟、扩展性强的品类,在终端 AI 化中一马当先。AI PC(处理器集成 AI 引擎的个人电脑),能够对语音和图像信息进行 AI 感知,运行各种 AI 应用,如 AI 搜索、内容生成、智能推荐等,并且提供 AI 计算能力。
自 Apple 以 ARM 架构开发的 CPU + GPU + NPU 三合一 M 系列芯片在市场上取得一定成功后,代表 x86 架构的 Intel 和 AMD 两大厂商也在 2023 年下半年推出了 CPU + GPU + NPU 三合一处理器,进一步推动了 AI 应用的生态发展。
02
AI PC 引发一系列场景变革
据 Moor Insights & Strategy 和 IDC 的数据显示,PC 市场在过去几年受到了全球疫情、芯片短缺、经济低迷等多重因素的影响,全球 PC 出货量在 2023 年第一季度达到了最低点。
AI PC 能够在不影响电池寿命、安全性和隐私的前提下,提高工作效率,为开发者提供本地的高性能和高效的 AI 计算,解决了纯云端 AI 应用所面临的挑战,也促进了 AI 应用的整体增长。
AI PC 不仅是下一代 PC 平台的引领者,也是重新定义 PC 工作方式的力量。人们在购买电脑时,已经会把“人工智能硬件能力”作为一个重要的考虑因素。IDC 预计,AI PC 在中国 PC 市场中的装机率将在未来几年迅速上升,到 2027 年将达到 85%,成为 PC 市场的主流。
表一 中国PC市场新机装配量与比例预测(来源:IDC,湘财证券研究所)
在上游处理器厂商先行推进下,搭载酷睿 Ultra 和锐龙 8040 系列处理器的相关笔记本产品也将在 2024 年陆续上市,包括宏碁、华硕、戴尔、惠普、雷蛇等知名厂商;微软也预计在明年下半年推出 Windows 12,AI 将会深度参与到性能调配、操作辅助等多项工作中,助力 AI PC 发展。
AI PC 潮流在未来的移动办公、内容产出、游戏娱乐等一系列工作与生活场景中带来更多的可能性。
高速计算处理:高速运行图像识别、语音识别、自然语言处理等AI算法,让用户在工作和娱乐方面更加高效和享受;
扩展AI应用:可支持 ISV 开发和提供 NPU 应用程序,让用户在现有的软件中使用 AI 功能;
新型用例开发:可创造新的业务场景和服务,例如医疗诊断、自动驾驶等领域,让用户拥有更多的选择和可能性;
优化用户体验:通过语音、手势等交互方式,以及AI 个性化辅助和高级安全保护,让用户感受到更贴心和安全的服务。
正如 Intel CEO 帕特·基辛格直言,“AI PC是技术创新的一次巨变”,随着技术发展与产品落地,等待软件充分释放 AI 潜力之时,PC 销量将会迎来一次飞跃,而 2024 年将是 PC 史上极为关键的一年,原因就是 AI。
在此背景下,AI PC 将成为下一个风口,良好的市场预期也将带动手机、XR 头显等一系列终端产品的 AI 化趋势。消费电子行业的新爆发点也将直接为结构件、存储、代工及系统集成等上下游产业链板块带来增长机会,强烈的市场需求也无疑是对 PC 和 AI 应用生态国产化的一剂外部强心针。
- END -
原标题:《人工智能,费水又费电》
阅读原文