大家好,最近在探索 ChatGPT 和各种软件结合的功能时发现了一款开源低代码软件ILLA。
其中通过自然语言的输入构建可以运行的 SQL 语句让我比较印象深刻,虽然目前只是 Demo 演示,但是让我觉得效果非常有趣。
在过去写 SQL 对数据库进行增删改查虽然说是很多工程师的基础技能,但是这项工作很繁琐却不是很有挑战。写 SQL 去对数据库进行增删改查,更像一个程序员的体力活。而现在可以通过自然语言就能让机器快速输出一些含有不同逻辑的 SQL,让我一下对这款产品充满了兴趣。
ILLA GitHub:https://github.com/illacloud/illa-builder
低代码的价值就是通过预制或者封装这些基础代码,能通过 GUI 以及拖拉拽的方式,来快速帮开发者实现快速开发。现在通过接入 ChatGPT,可以让这个过程变得更高效,也让低代码的使用人群得到了更大的拓展。以往只有程序员会去使用低代码软件,而现在通过集成更加智能的 ChatGPT,可以让现有的低代码软件更有生产力。
随后我又体验了 ILLA 相关的一些功能,发现开源大模型平台 Hugging Face 也与 ILLA 建立了合作。之前经常在 Hugging Face 去看看各家开源上传的各式各样的模型,截止目前在 Hugging Face 平台上已经有 13 万个各式各样的模型。现在通过 ILLA 的产品,就可以快速的调用并且简单的调整模型参数,让在 Hugging Face 上的模型形成生产力,实现一些好玩的功能。下面我们就附上一份在 ILLA 创建并调用一个模型的操作手册,手把手学会这个技能。
如何在ILLA Builder中使用 Hugging Face?
步骤1 在ILLA Builder中,使用组件构建UI
基于您期望的使用场景,搭建前端界面。例如,如果您的产品是输入文字,输出生成图,那您可以使用输入组件和图片组件;如果您的产品时输入文字,输出生成的文字,那您可以使用输入组件或文本组件。
步骤2 创建一个 Hugging Face资源,并配置Action
点击Action列表的+ New
并选择 Hugging Face Inference API
通过完成下述表单,配置 Hugging Face 资源:
名称:由您自定义的该资源在 ILLA 中显示的名称;Token:注册并登陆 Hugging Face,通过Hugging Face的Profile settings
(https://huggingface.co/settings/tokens)页面获取;
配置 Action,首先确认 Hugging Face 中模型的连接信息:
前往 Hugging Face 的Model
(https://huggingface.co/models)页面,按需选择模型;
以luhua/chinese_pretrain_mrc_roberta_wwm_ext_large
模型为例,进入模型的详情页
(https://huggingface.co/luhua/chinese_pretrain_mrc_roberta_wwm_ext_large),点击右上方 Deploy,并选择 Inference API
“inputs”
参数后面的内容,即您需要在 ILLA 中配置的参数内容
回到 ILLA 的 Action 配置,需要填入 Model ID 和 Parameter。对于上图的 Model,输入是多个键值对的场景,我们提供了键值对输入和 JSON 输入两种方式,如下图:
此外,我们还支持输入文本和二进制文件,能够满足 Hugging Face 中现存模型的需求。
步骤3 连接Action和组件
将用户前端输入传给API的需求:使用 {{
获取组件里输入的数据,如 input2 组件用于输入question
,input1 组件用于输入context
,只需要在 Action 中这两个参数值的位置,填入相关信息即可。下面是使用 JSON 的示例代码:
{
"question": {{input2.value}},
"context": {{input1.value}}
}
在前端组件中展示Action的输出数据。首先需要确认不同模型的输出放在哪个字段。仍以luhua/chinese_pretrain_mrc_roberta_wwm_ext_large
模型为例,运行结果如下:
因此可以用{{ textQuestion.data[0].answer }}
来获取答案(其中,textQuestion
是action的名称),将{{ textQuestion.data[0].answer }}
填入用于展示结果的组件的属性配置即可。
当然ILLA作为一款开源软件,在本地部署的过程中也比较友好,按照Doc的指南,很快可以在本地Run起来。在构建内部工具这个场景下还是非常的便捷,也足够实现很多的功能。当然觉得本地部署的朋友可以使用ILLA Cloud的云版本,可以将构建好的工具一件部署到云端,最近已经在开始内测。可以通过ILLA的官网加入他们的社区来获取内测资格。
GitHub地址:https://github.com/illacloud/illa-builder
官方网站:https://www.illacloud.com/
– END –
线下活动
报告下载
大佬观点