最新报道，UL Solution公司于12月9日宣布，他们推出了一款名为Procyon AI的文本生成基准测试工具，旨在评估AI加速器硬件在文本生成任务中的表现。这款工具通过调用不同参数规模的大型语言AI模型，全面衡量AI加速器的性能。
Procyon AI文本生成基准测试支持通过DirectML这一通用API接口，实现对本地英伟达、AMD、英特尔GPU的调用，同时，它也能通过英特尔的OpenVINO技术，对其自家GPU进行调用（包括独立和集成显卡，但需注意显存/内存容量的要求不同）。
目前，该基准测试涵盖了四种不同参数规模的模型，分别为Phi-3.5-mini、Mistral-7B、Llama-3.1-8B和Llama-2-13B，这些模型能够让用户对AI GPU在处理多样化的大型语言模型文本生成任务时的性能进行公正的比较。
UL Solution强调，Procyon AI文本生成基准测试在操作上非常便捷，相较于直接运行完整AI模型的测试，它大大减少了安装包的大小，同时能够详细展示系统资源在运行文本生成任务时的使用情况，为用户提供了更加直观的性能评估。
