LangChain4J 理论概述

1、LangChain4J 是什么？

LangChain4j 的目标是简化将大型语言模型集成到 Java 应用中。

具体做法如下：

1. 统一API： LLM提供商（如OpenAI或Google Vertex AI）和嵌入（向量）存储器（如Pinecone或Milvus） 使用专有API。LangChain4j 提供了一个统一的 API，避免了为每个 API 学习和实现特定 API 的需求。 要尝试不同的大型语言模型或嵌入存储，你可以轻松切换，无需重写代码。 LangChain4j 目前支持 20+ 个热门大型语言模型提供商和 30+ 个嵌入存储。
2. 全面工具箱： 自2023年初以来，社区一直在构建大量基于LLM的应用程序， 识别常见的抽象、模式和技巧。LangChain4j 将这些内容优化成一个现成可用的软件包。 我们的工具箱包括从底层提示模板、聊天内存管理和函数调用等多种工具 到高级模式如代理和RAG。 对于每个抽象，我们都提供了一个接口，并基于通用技术提供了多种现成可用的实现。 无论你是在构建聊天机器人，还是开发一个从数据摄取到检索的完整流程的RAG， LangChain4j 提供多种选择。
3. 举个例子： 这些示例展示了如何开始创建各种基于LLM的应用， 提供灵感，帮助你快速开始建设。

LangChain4j 于 2023 年初在 ChatGPT 热潮中开始开发。 我们注意到缺少与众多Python和JavaScript大型语言模型库及框架相对应的Java对应工具， 我们必须解决这个问题！ 虽然“LangChain”出现在我们的名字里，但这个项目是LangChain、Haystack的理念和概念的融合。 LlamaIndex以及更广泛的社区，加入了我们自己的创新元素。

我们积极监控社区发展，力求快速引入新技术和集成， 确保你保持最新动态。 图书馆正在积极开发中。虽然部分功能仍在开发中， 核心功能已到位，让你现在就能开始构建基于LLM的应用！

为了更便捷的集成，LangChain4j 还支持与 Quarkus、Spring Boot、Helidon 和 Micronaut 的集成

2、LangChain4J 能干嘛？

• 与20+ LLM提供商的集成
• 与30+嵌入（向量）存储的集成
• 与20+嵌入模型的集成
• 与5+聊天存储存储的集成
• 与5+图像生成模型的集成
• 与5+评分（重新排序）模型的整合
• 与统一管理模型（OpenAI）的集成
• 支持文本和图像作为输入（多模态）
• AI 服务（高级 LLM API）
• 代理与智能人工智能
• 技能
• 提示模板
• 持久性和内存内聊天内存算法的实现：消息窗口和令牌窗口
• LLM响应的流式传输
• 常见 Java 类型和自定义 POJO 的输出解析器
• 工具（函数调用）
• 动态工具（动态生成的LLM代码执行）
• RAG（检索-增强生成）：
  • 摄入方式：
    • 从多个来源（文件系统、URL、GitHub、Azure Blob 存储、Amazon S3等）导入各种类型的文档（TXT、PDF、DOC、PPT、XLS等）
    • 使用多种拆分算法将文档拆分成更小的部分
    • 文档和分段的后处理
    • 使用嵌入模型进行段嵌入
    • 嵌入（向量）存储中的嵌入
  • 检索（简单和高级）：
    • 查询转换（扩展、压缩）
    • 查询路由
    • 从矢量商店和/或任何自定义来源获取
    • 重新排名
    • 互惠等级融合
    • RAG流程中每个步骤的定制化
• 文本分类
• 代币化和代币计数估计工具
• Kotlin 扩展：利用 Kotlin 协程功能进行异步非阻塞聊天交互处理。

LLM 大模型能干什么

LLM 大模型应用技术架构

3、LangChain4J 怎么用？

开发分类

定位