蚂蚁自研知识增强大模型服务框架KAG，可显著提升知识推理准确率

今日应用

AI卡通头像生成器

AI卡通头像生成器 - 万能在线编辑器，支持多格式，一键修改、智能抠图、添加水印文字，打造属于您的独特卡通头像！

今日话题

蚂蚁自研知识增强大模型服务框架KAG，可显著提升知识推理准确率

 

重点标签 知识图谱、大模型、AI、图计算、蚂蚁集团

文章摘要

蚂蚁集团的知识图谱负责人梁磊在2024 Inclusion・外滩大会上分享了构建知识增强的专业智能体的相关工作，并介绍了知识图谱与大模型结合的最新研发成果——知识增强大模型服务框架KAG。KAG框架通过图谱逻辑符号引导决策和检索，显著提升了垂直领域决策的精准性和逻辑严谨性。支付宝最新推出的AI原生App“支小宝”采用这套框架，在政务问答场景的准确率提升到了91%，医疗问答垂直的指标解读准确率可达90%以上。KAG框架会进一步向社区开放，并在开源框架OpenSPG中原生支持。

梁磊强调，可信是大语言模型真正落地应用的前提。大语言模型在垂直领域的应用存在不懂领域知识、做不了复杂决策、不可靠等问题。KAG框架基于开源系统OpenSPG升级，并结合了蚂蚁自研的图数据库TuGraph-DB的能力。KAG框架针对大语言模型和图谱的结合做了五方面的增强：知识表示的增强、图结构与文本互索引、符号引导的拆解和推理、基于概念的知识对齐、KAG Model。

KAG模型旨在降低大型语言模型（LLMs）与知识图谱（KGs）结合的成本，利用指令合成技术使较小模型在性能上接近更大模型。为构建知识图谱，蚂蚁集团注重知识点的文本可解释性，要求附带描述信息、关联原始文本段。知识图谱的结构化特性有助于生成高质量指令，通过逻辑拆解和语义关系合成提升大语言模型的自然语言理解和推理能力。

蚂蚁集团和浙江大学成立了知识图谱联合实验室，联合实验室已发布了大模型抽取框架OneKE，下一步还将构建增强语言模型的OneGraph。蚂蚁集团希望真正融合知识图谱的符号计算和向量检索的优势，利用大型语言模型的理解和生成能力，构建一个知识增强的大语言模型生成系统。

文章来源

原文地址: 点我阅读全文
原文作者: 机器之心