圆海博客-探寻心灵的宁静

您现在的位置是:首页 > 博客 > 正文

博客

Mistral 推出精细调整工具,使定制化模型更加简单快捷

2024-06-06 09:50:04博客
法国开源人工智能模型提供商Mistral近日推出了新的定制化功能,以降低精细调整的成本并降低进入门槛。这家公司在过去的14个月里迅速崛起,即将达到60亿美元的估值。今年2月……

法国开源人工智能模型提供商 Mistral 近日推出了新的定制化功能,以降低精细调整的成本并降低进入门槛。这家公司在过去的14个月里迅速崛起,即将达到60亿美元的估值。

精细调整对于改善大型语言模型(LLM)的输出并将其定制到特定的企业需求中至关重要。当精细调整做得正确时,可以得到更准确和有用的模型响应,使组织能够从其生成式人工智能应用程序中获得更多的价值和精确性。

Mistral 以在开源许可下发布几个强大的 LLM 而闻名,这意味着可以自由地接受和调整这些模型,不收费用。然而,该公司也提供付费工具,如 API 和开发平台 “La Plateforme”,以便于那些希望在其模型之上进行开发的用户。通过使用 API 调用,用户可以构建自己的 Mistral 应用,而不是在自己的服务器上部署 Mistral 的版本。

Mistra产品入口:https://top.aibase.com/tool/mistral

除了构建在现有模型之上,用户现在还可以在 La Plateforme 上定制 Mistral 模型,或者通过 Mistral 在 Github 上提供的开源代码在自己的基础设施上进行定制。此外,对于那些希望在自己的基础设施上工作的开发人员,Mistral 今天发布了轻量级的代码库 mistral-finetune,它基于 LoRA 范式,可以减少模型所需的可训练参数的数量。

Mistral 在其博客文章中写道:“使用 mistral-finetune,您可以在自己的基础设施上对我们所有的开源模型进行精细调整,而无需牺牲性能或内存效率。” 同时,Mistral 还提供了适用于无服务器精细调整的新服务,利用了公司通过研发不断优化的技术。Mistral 表示,底层的 LoRA 适配器可以防止模型遗忘基本模型的知识,同时实现高效的服务。

此外,Mistral 还提供定制培训服务,根据客户的特定应用使用专有数据对 Mistral AI 模型进行精细调整。该公司通常会提出先期持续训练等先进技术,以在模型权重中包含专有知识,从而为特定领域创建高度专业化和优化的模型。

与今天的发布相配套,Mistral 启动了一场 AI 精细调整黑客马拉松。该比赛将持续到6月30日,让开发人员可以尝试使用该创业公司的新的精细调整 API。

Mistral 自成立以来一直在不断加速创新,并获得大量资金支持。该公司于2023年4月由前谷歌 DeepMind 和 Meta 员工 Arthur Mensch、Guillaume Lample 和 Timothée Lacroix 创立,成立仅14个月就进行了创纪录的1.18亿美元的种子轮融资,据说是欧洲历史上最大的一笔。成立几个月后,Mistral 与 IBM 等公司建立了合作伙伴关系。今年2月,Mistral 通过与微软的合作,通过 Azure 云提供了 Mistral Large。