bobty2024

bobty2024

“因为GPT-3有1750亿个参数，训练用到了1024张英伟达A100芯片，所以业内将其称为‘千卡千参’。”商汤科技智能产业研究院院长田丰说，目前GPT-4、GPT-5等大模型都达到了“万卡万参”的规模，且训练模型所用芯片也从英伟达A100更新到英伟达H100、B200，“参数量的激增将导致能耗显著增加”。

张云泉表示，首先，可以设计AI模型训练的专用芯片，其效率相较GPU(图形处理器，现常用于AI计算)提升了10倍以上；其次，可以优化AI模型的参数bobty2024，很多小模型仅有几十亿的参数量，但已经实现了和大模型一样的效果；此外，还可以通过对推理过程进行优化压缩，设计专用推理芯片，进一步降低AI推理阶段的能耗。

在能源供应方面，诉诸多样化的新能源供给、依靠国家进行宏观调控与规划等举措，将有助于解决AI能耗问题。天使投资人、资深人工智能专家郭涛对记者表示，当前，新能源，包括太阳能、风能、水能等可再生能源，正逐渐成为数据中心的最佳能源选择。“如果没有足够的可再生能源来满足AI能耗的增长，可能会导致对化石燃料的依赖加剧，从而对环境造成负面影响。此外bobty2024，数据中心还可以通过智能算法来优化能源使用效率，实现AI与电网的协同发展。”

国家能源局的数据显示，2023年，我国可再生能源新增装机3.05亿千瓦，占全国新增发电装机的82.7%，占全球新增装机的一半；全国可再生能源发电量近3万亿千瓦时，接近全社会用电量的1/3。目前，我国已建成全球规模最大的电力供应系统和清洁发电体系，其中青海、内蒙古、宁夏等西北部地区则是清洁能源的“富矿”。

“大模型时代，‘东数西算’工程将对全国的电力需求和算力需求起到重要的宏观调控作用。”张云泉预计，未来将会有越来越多的大型算力中心或智算中心选址我国西部地区，“东数西训”(即东部地区的AI大模型，在西部地区进行训练——记者注)将成为AI与新能源协调发展的典型场景。但他强调，推动新能源更好地赋能AI发展bobty2024，储能是一个需要解决的问题。

此外，王鹏还认为要重新思考“数据网”和“电力网”的分布式联动与微观布局协同。他指出，为满足短期内快速增长的人工智能推理算力需求，除了在西部可再生能源丰富的地区布局大型算力中心，实现“东数西算”；也需要考虑在东部需求侧的数据中心和算力中心附近，积极布局分布式可再生能源，如与城乡建筑、农业设施等结合的分布式BIPV(光伏建筑一体化)、光储直柔一体化等。“而且还要‘源网荷储’一体化考虑，尽可能通过微电网实现就地峰谷平衡，减少弃风弃光。”

＠联系我们
-应用内反馈:「我」-「右上角菜单」-「设置」-「反馈与帮助」
客户24小时在线服务

运用全新的功能，让使用更加安全便捷