OpenAI发布全新微调API :ChatGPT支持更详细可视化微调啦!

AI最新资讯2个月前发布 tree
42 0 0

今日应用


今日话题


OpenAI发布全新微调APIChatGPT支持更详细可视化微调啦!
OpenAI发布全新微调API :ChatGPT支持更详细可视化微调啦!
 

重点标签 AIGCLLM微调APIChatGPT开发者

文章摘要


OpenAI在其官网宣布新增6个微调API功能,旨在帮助企业和开发人员构建特定领域的ChatGPT应用。这些功能包括基于Epoch的检查点创建、Playground新功能、第三方集成、全面验证指标、超参数配置和微调仪表板改进。这些新功能适用于GPT-4/Turbo、GPT-3.5等模型。

2023年8月,OpenAI首次推出基于GPT-3.5 Turbo的微调API功能,使企业能够利用自己的数据构建专属ChatGPT。此后,全球数千个组织通过微调API功能训练了数十万个自定义模型,如招聘平台IndEEd通过微调实现了个性化推荐,每月发送的消息从不到100万条增加到约2000万条。

微调API的6个新功能详细介绍如下:
1. 基于Epoch的检查点创建:在训练过程中,系统会在每个Epoch结束或特定间隔保存模型状态,以便在训练中断时从最后保存的状态恢复。
2. Playground:新增并排UI,用于比较不同模型质量和性能,并允许对多个模型输出进行人工评估或微调。
3. 第三方集成:支持与第三方平台集成,共享详细的微调数据。
4. 全面验证指标:计算整个验证数据集的损失和准确性等指标,以更好地了解模型质量。
5. 微调仪表板改进:包括配置超参数、查看详细训练指标等功能。
6. 超参数配置:允许从仪表板配置可用的超参数。

微调(Fine-tuning)是在预训练大模型基础上进一步优化和调整参数的技术,使模型适应特定业务场景。主要流程包括初始化、添加输出层、微调训练。例如,使用法律数据集对GPT-3.5模型进行微调,提高其在法律业务上的表现。

进行微调的步骤包括准备数据、上传文件、创建微调作业、使用微调模型。开发者可以列出现有作业、检索作业状态或取消作业。微调作业完成后,模型可投入使用,但可能需要几分钟准备时间。

文章来源


原文地址: 点我阅读全文
原文作者: AIGC开放社区

© 版权声明

相关文章

暂无评论

暂无评论...