法国公司 Mistral AI最近正式推出了其最新的开源推理模型 ——Magistral Small1.2。这款模型拥有令人瞩目的24B 参数,并且以 Apache2.0的开源许可方式发布,充分展示了 Mistral 在 AI 技术创新上的雄心与实力。
新版本 Magistral Small1.2不仅支持高达128k 的上下文处理,能够处理多种语言和视觉输入,还引入了一个全新的创新特性 ——[THINK] 特殊 token。这一特殊 token 的设计目的在于包裹推理过程,从而提升模型的表现力和灵活性。相较于前一版本1.1,Magistral Small1.2增加了视觉编码器,使得它在处理图像和文本的综合任务上更具优势。
此外,Magistral Small1.2还内置了多种推理模板,兼容了当前流行的框架,比如 vLLM、Transformers 和 llama.cpp 等,用户可以即刻上手,无需繁琐配置。同时,该模型还提供了 GGUF 量化版本以及 Unsloth 微调示例,为开发者提供了更多便利。
企业版的 Magistral Medium1.2也进行了同步升级,依然通过 Le Chat 平台为用户提供对话服务,其 API 已经上线到 La Plateforme 平台,进一步拓宽了应用场景。
Mistral 的这一系列新举措,标志着其在开源 AI 领域迈出了重要的一步,为开发者和企业带来了更为强大和灵活的工具,助力他们在快速发展的 AI 市场中取得成功。无论是研究人员还是企业用户,都可以借助这一新模型来提升自身的工作效率和技术水平。