性能超ChatGPT-3.5，专用金融分析的多模态大语言模型

今日应用

歌者AI写PPT

歌者AI，让描述变成接地气风格的PPT，轻松打造个性化演示文稿。

今日话题

性能超ChatGPT-3.5，专用金融分析的多模态大语言模型

 

重点标签 AIGC、金融分析、大语言模型、FinTral、多模态数据处理

文章摘要

研究人员来自不列颠哥伦比亚大学和Invertible AI联合推出了FinTral，一款专注于金融分析的大语言模型。FinTral不仅支持文本提示，还支持图表、图片的多模态专业金融分析。用户只需输入某只股票近期动态，FinTral就能提供该公司相关背景及中短期内股价走势的详细预测报告。在9个主要金融任务和25个数据集的广泛评测中，FinTral的性能超过ChatGPT-3.5，有4项能力超过GPT-4，整体性能超过其他开源大模型。

FinTral基于知名开源大模型Mistral-7B，并针对金融领域内容进行大规模预训练。研发团队收集了2000亿tokens文本语料数据，构建了FinSet预训练语料库，覆盖各类货币、证券、企业财报等专业术语。FinTral采用LoRA算法进行预训练，学习能力得以深入优化。

FinTral的特色功能包括多模态数据处理，能够处理文本、数字、表格和图像数据。文本处理能力涵盖公司的财务指标、经济数据和市场趋势等。表格数据处理可处理金融文档中的表格数据，如财务报表、市场数据表格等。图像数据处理可用于处理金融文档中的图像内容，例如公司财报中的图表、趋势图等。通过将图像编码为向量，FinTral可以将图像数据与文本数据进行关联和综合分析。

为了提高模型在金融领域的性能，FinTral进行了指导微调，使其能够更好地适应金融文档的特点和需求。FinTral使用了一种直接策略优化方法，通过与GPT-4生成的响应进行对齐，优化模型的生成能力和表达能力。这种方法提高了模型在金融领域任务中的表现，并减少了幻觉现象。

文章来源

原文地址: 点我阅读全文
原文作者: AIGC开放社区