开发者狂喜!Meta最新发布的LLM Compiler,实现77%自动调优效率

AI最新资讯2周前发布 tree
10 0 0

今日应用


今日话题


开发者狂喜!Meta最新发布的LLM Compiler,实现77%自动调优效率
开发者狂喜!Meta最新发布的LLM Compiler,实现77%自动调优效率
 

重点标签 MetaAI技术编程工具编译器优化开源模型

文章摘要


Meta公司近期推出了一项创新的人工智能技术——LLM Compiler,旨在帮助程序员更高效地编写代码。这一开源模型通过优化代码,有潜力彻底改变编译器的设计。在自动调优搜索方面,LLM Compiler的优化潜力达到了77%,显著减少了编译时间并提高了代码效率。此外,LLM Compiler在反汇编方面的成功率为45%,对于逆向工程和旧代码维护具有重要价值。

LLM Compiler的训练基于5460亿个标记的LLVM-IR和汇编代码的大型语料库,使其能够理解编译器中间表示、汇编语言和优化技术。模型的增强理解能力使其能够执行之前只有人类专家或专业工具才能完成的任务。在代码大小优化方面,LLM Compiler的优化潜力显著,减少了编译时间并提升了应用的代码效率。

为了构建对汇编代码和编译器IR有良好理解的LLM,研究团队使用Code Llama的权重初始化LLM Compiler模型,并在以编译器为中心的数据集上进行了大量训练。此外,研究团队还对模型进行了指令微调,以模拟编译器优化,生成大量示例,并训练模型预测优化生成的代码和代码大小。

LLM Compiler在标志调优和反汇编任务上的表现尤为出色。在标志调优任务中,模型通过预测标志来最小化未见程序的代码大小。而在反汇编任务中,模型学习了汇编代码和编译器IR之间的关系,提升了代码从汇编语言到更高层次结构的能力。

尽管LLM Compiler在编译器优化任务上表现出色,但仍存在一些局限性,如输入的有限序列长度和模型输出的准确性问题。为了解决这些问题,研究人员正在采用不断增加的上下文窗口,并建议用户使用特定于编译器的评估基准来评估模型的性能。

总结
Meta的LLM Compiler是一项突破性的AI技术,它通过优化代码和改变编译器设计,为开发者提供了更高效、更快速的编程工具。尽管存在一些局限性,但其在自动调优搜索和反汇编方面的潜力,预示着AI在软件工程领域的广泛应用前景。

文章来源


原文地址: 点我阅读全文
原文作者: 机器之心

© 版权声明

相关文章

暂无评论

暂无评论...