-
提供第三方/开源大模型服务能力的MaaS -
提供算力租用为主的基础设施服务 -
提供大模型微调、训练、评测为主的模型开发服务 -
提供开发、测试与发布的大模型应用开发平台服务
-
百度:AppBuilder -
阿里:百炼 -
字节跳动:Coze -
小结
-
创建应用。要求AI帮助生成配置或者直接自己配置 -
应用配置。包含应用基本设定与能力设定两个主要部分:
-
基本设定:配置应用的图标、说明和Prompt指令,支持AI优化 -
能力设定:即Agent可以使用的组件(工具)、用来做RAG增强的知识库、开场白与推荐问题等。这里我们选择两个组件,文生图和天气查询。
-
通过SDK调用自己创建的应用 -
通过SDK直接开发RAG类应用 -
通过SDK直接使用组件广场的组件
-
Agent的配置功能较为全面。支持组件、知识库、检索策略、AI建议问题、思考与问答的大模型等 -
较为完整的知识库管理。包括多种来源的导入、切片的管理、命中测试等。 -
知识管理支持从URL自动更新。根据设定的频率从指定URL定期更新知识库,这非常方便。 -
SDK支持代码态创建RAG应用。 -
发布功能全面。支持快速发布成网页应用,对接多种渠道及API调用。 -
官方的工具组件较全面和强大,能够满足常见的LLM应用开发需求,特别是把一些AI能力包装成了组件(比如OCR识别、物体识别等)。 -
SDK暂时还不支持创建Agent应用。 -
暂不支持自定义组件。这限制了Agent与自有应用对接的能力。 -
暂不支持Agent工作流编排。完全依赖于LLM的规划与执行,在一些复杂场景下可能难以支持。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
||
|
|
|
|
||
|
||
|
||
|
||
|
||
|
||
|
-
智能体API创建,有两种方式: -
可视化创建:点击进入后默认是可视化配置Agent的方式;通过简单的应用配置与插件选择即可构建Agent。 -
Assistant API创建:通过官方的Assistant API用代码创建智能体 -
应用模版创建,目前看到两种模版: -
流程编排应用:通过画布做工作流编排,定义自己的LLM应用。 -
RAG应用:基于私有知识库构建增强的LLM问答应用。
-
开始结束节点:用于接受输入并定义输出信息 -
大模型:用于意图识别、闲聊输出,提取API参数 -
代码:对输出的JSON字符串处理并提取 -
判断节点:根据不同意图进行路由 -
API调用节点:使用问题中的参数调用API查询客户信息
-
灵活的开发方式选择。有零代码可视化配置、Assistant API开发、流程编排三种方式构建Agent。 -
支持自定义插件。方便接入企业自有应用与系统 -
一些特有功能。比如应用可以做对话干预配置,有助于做一些风控干预;比如知识库管理支持向量存储的配置 -
支持应用评测。可以自定义评测数据,创建评测任务等,有助于更好的评估应用质量与效果,帮助快速上线 -
Agent中不支持配置RAG。Agent开发中(无论哪种方式)不支持配置使用私有知识库。RAG应用必须独立创建 -
知识管理与维护相对简单。缺少知识导入分片的配置、管理、命中测试、URL导入等 -
应用仅支持API调用接入。如需接入公众号等渠道,较为麻烦 -
目前提供的官方插件不够丰富。仅提供了搜索、计算器、代码解释器等少数几个插件 -
一些常见的Agent配置缺失。比如推荐问题等。此外RAG应用也不支持常见的高级检索配置,如多路检索
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
-
Bots:就是AI应用。 -
插件:可基于API接口定义,也支持内置IDE开发。 -
工作流:这是Coze平台的工作流编排功能。但是与其他平台有所差异的是,Coze并不直接在应用中编排工作流,而是把工作流作为一种独立的“技能”(类似于一种更复杂的插件)进行独立配置,配置与测试完成后,可以在Bots的技能中进行引用或者在其他工作流中调用。 -
知识库:用来做RAG的私有知识库管理。 -
卡片:这也是Coze比较独特的功能。支持在Bot回复的时候使用表达形式更丰富的卡片进行回复,比如结合新闻标题/图片/描述的卡片,并且在点击时可以进行跳转。卡片的内容通常来自工作流或者插件的回复。
-
回答关于公司HR/行政制度的问题(RAG) -
使用自然语言查询某电话号码的客户信息 -
使用自然语言保存客户拜访记录并可翻阅
-
基于已有的API创建。自行开发部署API后,可以在此通过向导配置,或者直接导入OpenAPI接口协议等方式增加插件。 -
基于Coze的IDE创建。可以在Coze中借助内置的开发环境,直接开发插件与工具,支持NodeJS与Python语言开发。
-
Coze的各个模块的功能都较为完整,照顾到了多种实际使用场景与需求。一些留下较深印象的特有能力包括: -
支持简单的内置数据库功能,可以用自然语言进行交互 -
插件支持多种方式导入,且支持内置的IDE进行在线开发与托管 -
知识库管理支持更多的导入与更新方式,特别是基于API的知识同步 -
工作流以独立组件的方式进行编排,且可以互相调用,提高了重用性 -
直接支持语音输出 -
工作流与插件的输出支持卡片的形式,并提供了很多官方模板 -
支持创建团队实现团队开发,相关组件可以在团队内共享 -
丰富的Bot商店与插件商店的选择 -
一些还可以进一步提升的地方包括 -
开发的SDK/API提供 -
更多底层大模型的支持与选择 -
工作流编排中更多的内置组件,比如意图识别、参数提取等 -
应用评测功能,方便基于测试数据进行应用评估
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
– END –
报告下载
大佬观点