发布人工智能算力评测标准，建立算力评测基准

针对人工智能服务器测试基准缺失的问题，人工智能分委会已发布CESA 1169团体标准、IEEE P2937国际标准，目前正在推动相关国标立项工作。Nvidia、Intel、华为、浪潮等16家国内外主流AI服务器系统及部件生产商和AI应用生产商均参与了标准的研制工作。在研《人工智能服务器系统性能测试规范》国家标准规定了人工智能服务器系统（含AI服务器、AI服务器集群、AIHPC计算设施等）的性能测试方法。本标准适用于AI服务器系统（含AI服务器、AI服务器集群、AIHPC计算设施等）的性能评估。

开展人工智能算力评测工作4次，测试以服务器形式开展，以服务器整体性能为测试样本，其中AI加速卡为主要被测组件。AI服务器暂定可分为训练服务器、推理服务器与边缘服务器，由参与测试的厂商进行提供。

工作纪实

全国信标委人工智能分委会正在开展《人工智能 服务器系统性能测试规范》（20221794-T-469）国家标准研制工作。本标准对人工智能服务器的训练、推理两种工作模式分别进行要求。对性能测试的测试过程、测试规则以及测试场景进行了标准化设计，保证了数据集、测试工具、测试指标、测试结果的公平性与科学性，为人工智能服务器系统性能测试提供了技术保障。适用于AI服务器系统（含AI服务器、AI服务器集群、AI高性能计算设施等）的性能评估。

人工智能分委会同步开发配套检测工具，检测工具能够在多种AI加速卡、深度学习框架、操作系统环境的组合上获取AI服务器的性能数据。测试方法和流程与国际先进测试方保持一致，并根据产业发展及时更新。在研标准与检测工具为人工智能行业提供完备的服务器算力评测流程与方法，对行业内用户选购服务器提供了选型依据，极大地助推人工智能行业算力底座的夯实。

2023年12月人工智能分委会成立AISBench（人工智能系统性能基准）工作组，先后部署麒麟、Ubuntu 国内外主流Linux操作系统，基本完成全量兼容适配验证，完成华为、曙光、浪潮、长城、同方、商汤、英特尔等主流AI服务器，及华为、寒武纪、海光、英伟达、英特尔等主流AI加速卡测试，实现120万元经济价值，咨询企业达十余家。

经验启示

人工智能分委会需推动人工智能重点、热点技术快速转化为标准，促进人工智能产业技术创新攻关力度的增加，布局一批前沿方向。在生成式人工智能、通用人工智能等关键领域，构建从基础软硬件到算法框架到行业应用的全栈式产业链，高品质牵引人工智能关键技术转化为标准。人工智能分委会需要依托工信部新一代人工智能标准与应用重点实验室，开展人工智能领域产品、服务、平台等方面的标准符合性测试及认证评估工作，并在AI基础软硬件、算法模型、计算机视觉、智能语音、机器翻译、自动驾驶等应用场景开展通用技术、生态系统、检验检测技术研究，检测工具配置开发，以及应用示范推广。同时，与重点企业、高校联合搭建人工智能标准符合性测试公共服务平台，面向全行业开展评测及咨询服务。