678CHAT AI资讯 全国高校第一个!东南大学上线阿里QwQ-32B,能用消费级显卡本地部署

全国高校第一个!东南大学上线阿里QwQ-32B,能用消费级显卡本地部署

3月10日,据东南大学官方微信公众号消息,该校正式接入阿里开源的QwQ-32B模型,成为全国首个上线该服务的高校,这一举措标志着高校在人工智能领域的前沿探索又迈出了重要一步。

全国高校第一个!东南大学上线阿里QwQ-32B,能用消费级显卡本地部署插图

QwQ-32B模型虽然仅有32B参数,但凭借其大规模强化学习训练,展现出强大的性能。在数学推理(AIME24评测)、代码生成(LiveCodeBench)和工具调用(BFCL测试)等关键任务中,其表现与拥有671B参数的DeepSeek-R1相当,甚至在部分指标上实现了超越。这一成果不仅令人瞩目,也充分证明了QwQ-32B模型在效率与性能上的卓越平衡。

上图展示了QwQ-32B与其他领先模型在数学推理(AIME24评测)、代码生成(LiveCodeBench)、工具调用(BFCL测试)中的性能对比,QwQ-32B表现与DeepSeek-R1相当,远胜于o1-mini及相同尺寸的R1蒸馏模型。
全国高校第一个!东南大学上线阿里QwQ-32B,能用消费级显卡本地部署插图1

东南大学此次接入QwQ-32B模型,不仅看重其出色的性能,更在于其对硬件门槛的大幅降低。该模型支持消费级显卡本地部署,适配昇腾平台的高效算力资源,为师生的科研工作提供了极大的便利。这意味着,即使在有限的硬件条件下,师生们也能快速实现AI推理需求,加速科研进程。

此外,QwQ-32B模型还具备集成工具调用与动态推理能力,能够根据环境反馈调整策略。这一特性使其在复杂任务处理中表现出色,如数据分析、实验模拟等科研场景。东南大学的师生们可以借助这一模型,在各自的科研领域中探索更多可能性,推动学术研究的深入发展。

此次东南大学与阿里开源模型的合作,不仅是技术层面的突破,更是高校与科技企业深度合作的典范。它为高校科研提供了新的思路和工具,也为人工智能技术在教育领域的应用开辟了更广阔的空间。未来,随着更多高校和科研机构的加入,人工智能有望在更多领域发挥其强大的潜力,为社会的发展注入新的动力。

本文来自网络,不代表678CHAT立场,转载请注明出处:https://www.678chat.com/ai/10950.html

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

返回顶部