文心一言&文心千帆的spring-boot-starter重构版本

经过了上次接入文心一言的starter,已经过去了半个月了,半个月来接受了好多同学的建议,之前代码问题也很多,没有很注重结构的设计,所以几乎相当于把这个starter重构了一遍。

上次由于刚开放没多久,模型数量非常有限,文心千帆API的能力也很有限....


不过这次更新很给力,不仅开放了30+模型,而且开放了作图能力,并且制作了一个体验站,欢迎大家体验。

(网站没做太多防护,所以大家不要攻击...)


体验站:http://mopen.cloud/

starter开源地址:https://github.com/rainveil/wenxin-starter

starter使用demo:https://github.com/rainveil/springboot-wenxin-demo

前端demo:https://github.com/MinaFluo/wenxin-vue3-fe


此次更新日志如下:

1. 适配webflux响应式风格,去除代码中的阻塞操作。

2. 重构客户端的实现方式,大幅增加了拓展性

3. 优化不同模型的URL配置名称(无感知)

4. 支持文字生成图片

5. 优化空值检测

6. 优化日志输出

7. 修复URL错乱问题

8. 优化导入/导出历史消息记录方法

9. 新增配置API-Key 和 Secret-Key自动获取access-Token,每次启动自动获取

10. 新增20+模型的API支持

11. 新增access-token的设置方法,优先级 setCustomAccessToken > extend and override > application.yaml


新增支持的开源模型:

Ernie-Bot-VilG、VisualGLM-6B、Llama-2、Linly-Chinese-LLaMA-2-7B、Linly-Chinese-LLaMA-2-13B、ChatGLM2-6B、RWKV-4-World、OpenLLaMA-7B、Falcon-7B、Dolly-12B、MPT-7B-Instruct、Stable-Diffusion-v1.5、RWKV-4-pile-14B、RWKV-5-World、RWKV-Raven-14B、Falcon-40B、MPT-30B-instruct、Flan-UL2、Cerebras-GPT-13B、Cerebras-GPT-6.7B、Pythia-12B、Pythia-6.9B、GPT-J-6B、GPT-NeoX-20B、OA-Pythia-12B-SFT-4、GPT4All-J、StableLM-Alpha-7B 、 StarCoder。


PC端界面:


移动端界面:


*注:

1. 由于starter基于SpringBoot 3.x与JDK17,所以记得项目的JDK版本选择JDK17以上。

2. 图片生成能力未开放个人申请,所以网站不支持图片生成...


欢迎各位star~

0个评论
点击登录,快来和大家讨论吧~
表情
图片
暂无评论
mynna
下载 APP