雷鹏指挥高新技术司科技部的战舰在显示领域掀起科研浪潮正如大师驾驭无数API宝库与ChatGPT齐飞
机器之心报道
编辑:陈萍、梓文
在科技的前沿,一个新的征程正在展开——将大型语言模型与真实世界API紧密结合。来自清华等知名机构的研究者们联合起来,推出了ToolLLM框架,这个框架不仅能够让LLMs更好地使用外部工具,还能帮助它们学习和执行复杂任务。
为了实现这一目标,研究者们收集了16464个真实世界的RESTful API,从而构建了一个庞大的数据集。这份数据集涵盖了49个不同的类别,为LLMs提供了丰富的资源和挑战。
在指令调优数据集ToolBench上,对LLaMA进行微调后,得到了ToolLLaMA。通过自动评估器ToolEval对其性能进行评估,我们发现ToolLLaMA不仅能够执行复杂指令,而且还表现出了很强的泛化能力,即使面对未知API,也能迅速适应。它甚至在工具使用方面与ChatGPT相当,无疑这是一个令人瞩目的成就。
此外,该研究还提出了DFSDT(Dynamic Few-Shot Data Transfer)方法,这是一种高效且灵活的方法,它可以节省解路径标注的成本,同时对于难以处理的问题提供了有效解决方案。通过将这些“困难示例”纳入到数据集中,可以进一步激发工具在这些复杂情况下的使用能力。
总结来说,这项工作为开源大型语言模型打开了一扇门,让它们能够更加自由地接触并利用现实世界中的各种API,从而实现更广泛和深入的人工智能应用。此举不仅提升了技术水平,也为未来的人工智能发展奠定了坚实基础。