性能超ChatGPT-3.5,专用金融分析的多模态大语言模型

AI最新资讯1个月前发布 tree
37 0 0

今日应用


今日话题


性能超ChatGPT-3.5,专用金融分析的多模态大语言模型
性能超ChatGPT-3.5,专用金融分析的多模态大语言模型
 

重点标签 AIGC金融分析大语言模型FinTral多模态数据处理

文章摘要


研究人员来自不列颠哥伦比亚大学和Invertible AI联合推出了FinTral,一款专注于金融分析大语言模型FinTral不仅支持文本提示,还支持图表、图片的多模态专业金融分析。用户只需输入某只股票近期动态,FinTral就能提供该公司相关背景及中短期内股价走势的详细预测报告。在9个主要金融任务和25个数据集的广泛评测中,FinTral的性能超过ChatGPT-3.5,有4项能力超过GPT-4,整体性能超过其他开源大模型。

FinTral基于知名开源大模型Mistral-7B,并针对金融领域内容进行大规模预训练。研发团队收集了2000亿tokens文本语料数据,构建了FinSet预训练语料库,覆盖各类货币、证券、企业财报等专业术语。FinTral采用LoRA算法进行预训练,学习能力得以深入优化。

FinTral的特色功能包括多模态数据处理,能够处理文本、数字、表格和图像数据。文本处理能力涵盖公司的财务指标、经济数据和市场趋势等。表格数据处理可处理金融文档中的表格数据,如财务报表、市场数据表格等。图像数据处理可用于处理金融文档中的图像内容,例如公司财报中的图表、趋势图等。通过将图像编码为向量,FinTral可以将图像数据与文本数据进行关联和综合分析。

为了提高模型在金融领域的性能,FinTral进行了指导微调,使其能够更好地适应金融文档的特点和需求。FinTral使用了一种直接策略优化方法,通过与GPT-4生成的响应进行对齐,优化模型的生成能力和表达能力。这种方法提高了模型在金融领域任务中的表现,并减少了幻觉现象。

文章来源


原文地址: 点我阅读全文
原文作者: AIGC开放社区

© 版权声明

相关文章

暂无评论

暂无评论...