3月12日，全球知名半导体设计公司Arm宣布了一项重大进展，其AI推理性能优化软件库Kleidi正式进军汽车领域。借助Kleidi，合作伙伴能够充分挖掘下一代特定应用AI模型在汽车中的潜力，并加速其部署进程。
据了解，Kleidi软件库于2024年首次亮相，一经推出便凭借其卓越的性能优化能力受到广泛关注。开发人员无需进行额外工作，即可利用Kleidi为在Arm CPU上运行的AI推理工作负载实现软件性能优化。此前，该软件库已在移动设备、云服务和数据中心等关键领域得到广泛应用，积累了丰富的实践经验和技术优势。
值得关注的是，通过与Corellium联合开发的虚拟平台，亚马逊AWS利用Kleidi为SDV软件定义汽车打造了一款全新的概念验证AI聊天机器人。这一创新应用让驾驶员能够直接与汽车进行互动，通过语音或文字提出问题或询问仪表板警报，无需再翻阅繁琐的汽车用户手册，极大地提升了驾驶体验的便捷性和智能化程度。
得益于Kleidi的助力，AWS在开发过程中实现了显著的性能提升。使用了集成KleidiAI的最新版Llama.cpp进行开发，聊天机器人的响应时间被缩短至1~3秒，性能提升高达10倍。同时，Kleidi软件库还为开发人员节省了6周的底层软件优化时间，大幅提高了开发效率。
Arm车用事业部产品与解决方案副总裁Suraj Gajendra在接受采访时表示：“在汽车产业中，AI常常被视为自动驾驶汽车的核心技术，给人一种未来感十足的印象，似乎距离大规模量产上路还有很长的路要走。但实际上，当下许多新车型中的应用和功能，如自适应巡航控制、个性化车载信息娱乐系统以及驾驶和乘客监控系统等，都已经开始广泛运用AI技术。这些特定应用的模型和工作负载在Arm平台上运行得非常高效，这主要得益于Arm运算平台的灵活性、性能、效率和可扩展性。这些优势使得Arm平台成为了整个汽车行业中开发人员的首选平台。”
