开源地址:https://github.com/modelscope/modelscope-agent/
借助ModelScope-Agent,所有开发者都可基于开源 LLM 搭建属于自己的智能体应用,最大限度释放想象力和创造力。ModelScope-Agent的代码现已开源。
众所周知,目前阶段的LLM存在能力边界,主要擅长处理文本任务。AI Agent将LLM与其他模型、软件等外部工具协同,便能处理真实世界中的各种复杂任务,比如接入视频生成模型,自主生产视频;接入外部软件,帮人类写邮件、订票、购物等等。
此前,魔搭已用这套框架在社区做了“打样”,搭建 ModeScopeGPT,它能通过自然语言与用户交互、接受用户指令,通过“中枢模型”通义千问调用社区的众多AI模型API,自主完成人类布置的任务。ModeScopeGPT的调用量已超过 25 万。
(ModelScope-Agent系统架构图)
ModelScope-Agent允许开发者自由选择智能体的“大脑”,适配百川、通义千问等各类开源模型。主流LLM能够做到“即插即用”,开发者如需专门训练LLM 以增强其工具调用能力,可以参考ModelScope-Agent开源的训练数据、训练方法、优化方案、评估方法。
ModelScope-Agent开发框架还包含记忆控制、工具使用等模块,记忆控制模块支持知识检索以及 prompt (提示词)管理,工具使用模块支持工具库、工具检索、工具定制。为了增强开源大模型工具调用能力,魔搭社区还自研了一个包含60w样本的MSAgent-Bench工具调用数据集。
大多数 AI Agent 开发框架需要手动添加工具,而ModelScope-Agent 通过调用魔搭社区上开源的文本向量模型,打造API 工具检索引擎,能让AI Agent根据用户指令自动检索相关工具。如果开发者想要新增外部工具/API,只需要在ModelScope-Agent上注册工具,即可直接调用。
开源正在成为很多头部大模型玩家的选择。未来,ModelScope-Agent 会适配更多新增的开源LLM,并将推出更多基于ModelScope-Agent开发的应用,如个人助理 Agent、Story Agent、Multi-Agent等。魔搭鼓励开发者用ModelScope-Agent探索工业制造、游戏开发、智能互联等行业的应用。
魔搭社区现已聚集20多家顶尖人工智能机构贡献的1000多个开源模型,模型下载量累计突破6000万。