端侧AI迎来新突破：Mistral推出Minstral 3B/8B，号称全球最佳边缘模型

近日消息，Mistral 公司发布了其最新的两款AI模型——Ministral 3B 和 Ministral 8B。这两款模型专为提高笔记本电脑和智能手机等设备的本地化AI体验而设计，无需依赖云服务器即可运行。

Mistral 官方宣称它们是“世界上最好的边缘计算模型”，这一声明反映了该公司在推动边缘计算技术进步方面所取得的重大进展。通过这些创新，Mistral 旨在让更多的用户能够享受到高效且便捷的人工智能服务。

Mistral 公司表示越来越多的企业希望能够在个人设备上运行 AI 模型，一方面确保安全的数据处理，另一方面也提高响应速度。

上述两个模型可在没有互联网接入的情况下，执行翻译服务、本地分析和机器人等多项服务。

这两个 AI 模型的上下文窗口均为 128K，相当于一次可以处理 50 页文档。

Ministral 8B 的价格为每百万个 tokens 售价 0.1 美元，而 3B 版本则为 0.04 美元，适合小规模操作或初创开发者。Ministral 8B 采用了特殊的交错滑动窗口注意力机制，这种设计可以在推理时更快且节省内存。

Mistral AI发布创新工具，赋能用户自定义优化与构建智能代理

近日消息，Mistral AI公司近期动作频频，不仅推出了全新开发者平台La Plateforme，还揭晓了Agents平台，并对SDK进行了重要更新。

这些举措聚焦于强化与优化AI模型的开发工具链，为开发者和用户带来了更为强大和灵活的解决方案，助力他们在AI应用领域实现更深层次的创新与定制。

Mistral表示，他们的模型终于可以通过La Plateforme进行微调，让用户可以更好地利用自己的数据进行优化。

同时，Agents平台则可以帮助用户对模型进行详细调整，构建出更加智能的Agents。

Mistral AI还更新了其SDK，新版本支持Python和Typescript两种主流编程语言。这一更新为开发者提供了更多的选择和灵活性，使得在不同的开发环境中集成和使用Mistral AI的模型变得更加便捷。

行业影响和用户反响 这一系列新工具的推出，在AI开发社区引起了广泛关注。用户和开发者对Mistral AI的这些新功能表现出极大的兴趣和期待。这些工具不仅提高了Mistral AI模型的可用性，也为AI技术的个性化应用开辟了新的可能性。

Mistral Large 2旗舰AI模型震撼发布，携1230亿参数支持超80种编程语言

近日消息，随着AI领域的竞争持续白热化，Meta公司紧随其Llama 3.1模型开源之后，法国Mistral这家人工智能新秀企业也不甘示弱，宣布了其最新的旗舰模型——Mistral Large 2，进一步加剧了高端AI模型市场的竞逐态势。

模型简介

该模型共有 1230 亿个参数，在代码生成、数学和推理方面比其前身功能更强大，并提供更强大的多语言支持和高级函数调用功能。

Mistral Large 2 拥有 128k 的上下文窗口，支持包括中文在内的数十种语言以及 80 多种编码语言。该模型在 MMLU 上的准确度达到了 84.0%，并在代码生成、推理和多语言支持方面有非常明显的改进。

Mistral 公司表示，训练的重点之一是尽量减少模型的幻觉问题。该公司称，Large 2 接受的训练让它的反应更具辨别力，当它不知道某些事情时，它会承认自己不知道，而不是编造一些看似合理的事情。

开放方式

援引官方新闻稿，该 AI 模型的关注点之一，在于“授权开放”非商业研究用途，包括开放权重、支持第三方根据其喜好进行微调（fine-tune）等等。

如果商业 / 企业想要使用 Mistral Large 2，需要从 Mistral 公司购买单独的许可和使用协议。

性能

与 Llama 3.1 的 4050 亿个参数（即指导其性能的内部模型设置）相比，它的参数数量较少，但性能仍接近前者。

Mistral Large 2 可在公司的主平台上使用，也可通过云合作伙伴使用，它建立在原有 Large 模型的基础上，带来了先进的多语言功能，并提高了推理、代码生成和数学方面的性能。

官方称其为 GPT-4 级模型，在多项基准测试中的性能非常接近 GPT-4o、Llama 3.1-405 和 Anthropic 的 Claude 3.5 Sonnet。

Mistral 指出，该产品将继续“推动成本效益、速度和性能的发展”，同时为用户提供新的功能，包括高级函数调用和检索，以构建高性能的人工智能应用。