12月12日,MLCommons在加州宣布了MLPerf Client基准测试0.5版本的正式发布,这是衡量个人电脑AI性能的新标准。这一里程碑式的成果,得益于AMD、英特尔、微软、英伟达、高通以及顶级PC制造商等合作伙伴的共同努力和资源共享。
MLPerf Client基准测试0.5版本采用Meta提供的Llama 2 7B大型语言模型(LLM),覆盖了内容生成、创意写作以及两种不同长度文本的摘要等四项AI任务。目前,该测试支持DirectML ONNX和专为英特尔GPU设计的OpenVINO两种加速路径。
在硬件支持方面,MLPerf Client基准测试0.5版本初步支持Windows x86-64系统,包括以下配置:
-
AMD Radeon RX 7900系列独立显卡;
-
至少8GB显存的英特尔Arc独立显卡;
-
至少12GB显存的英伟达GeForce RTX 4000系列独立显卡;
-
AMD Ryzen AI 9系列处理器(至少32GB内存);
-
内置英特尔Arc GPU的Intel Core Ultra 200系列处理器(至少16GB内存)。
MLCommons透露,未来MLPerf Client将扩展对macOS和Windows on Arm设备的支持,并计划引入更多硬件加速路径,以及包含多种AI模型的更广泛的测试场景。
欲了解更多信息,可访问MLPerf Client v0.5的官方网站:
-
https://mlcommons.org/benchmarks/client/