在今日的科技界,Mistral公司宣布了一项重大突破,推出了两款全新的AI模型——Ministral 3B和Ministral 8B。这两款模型的问世,标志着AI技术在个人设备上的独立运行能力得到了显著提升,无需依赖云服务器的支持。Mistral公司自豪地宣称,这些模型代表了“全球顶尖的边缘计算能力”。
随着数据安全和即时响应需求的日益增长,Mistral公司洞察到企业对于在本地设备上运行AI模型的迫切需求。Ministral 3B和Ministral 8B两款模型的推出,正是为了满足这一市场需求,它们能够在没有网络连接的情况下,提供包括翻译、数据分析以及机器人交互在内的多种智能服务。
这两款AI模型均配备了128K的上下文窗口,这意味着它们能够一次性处理相当于50页的文档量。Ministral 8B的定价为每百万个tokens 0.1美元,而3B版本则更为经济,每百万个tokens仅需0.04美元,非常适合小型项目或初创企业的开发需求。Ministral 8B特别采用了创新的交错滑动窗口注意力机制,这一技术优化了模型在推理过程中的速度和内存使用效率。
为了更直观地展示这两款模型的性能,Mistral公司还提供了详细的性能图表,以供比较和参考。这些图表不仅展示了Ministral 3B和Ministral 8B在不同场景下的表现,也进一步证明了Mistral公司在AI领域的领先地位。