Java版本的LangChain

内容纲要

GitHub:
https://github.com/langchain4j/langchain4j
文档:docs.langchain4j.dev
教程:https://docs.langchain4j.dev/tutorials
Useful Materials: Useful Materials

LangChain4j 的目标是简化将 AI/LLM 功能集成到 Java 应用程序中的过程。

方法如下:

  • 统一 API:LLM提供商(如 OpenAI 或 Google Vertex AI)和嵌入(向量)商店(如 Pinecone 或 Vespa)使用专有 API。LangChain4j 提供了一个统一的 API,以避免为每个 API 学习和实现特定 API 的需要。若要试验不同的LLM存储或嵌入存储,可以轻松地在它们之间切换,而无需重写代码。LangChain4j 目前支持超过 10 个受欢迎的LLM提供商和超过 15 个嵌入商店。把它想象成一个休眠,但用于LLMs和嵌入商店。
  • 综合工具箱:在过去的一年里,社区一直在构建许多LLM强大的应用程序,识别常见的模式、抽象和技术。LangChain4j 已将这些内容提炼为实用代码。我们的工具箱包括各种工具,从低级提示模板、内存管理和输出解析到高级模式,如代理和 RAG。对于每个模式和抽象,我们提供了一个接口以及多个基于成熟技术的现成实现。无论您是在构建聊天机器人还是开发具有从数据摄取到检索的完整管道的 RAG,LangChain4j 都提供了多种选择。
  • 大量示例:这些示例展示了如何开始创建各种LLM支持的应用程序,提供灵感并使您能够快速开始构建。

LangChain4j 于 2023 年初在 ChatGPT 的炒作中开始开发。我们注意到许多 Python 和 JavaScript LLM 库和框架缺乏对应的 Java,我们必须解决这个问题!虽然“LangChain”是我们的名字,但这个项目融合了来自LangChain、Haystack、LlamaIndex和更广泛的社区的想法和概念,并加入了我们自己的创新。

为了更容易集成,LangChain4j 还包括与 Quarkus(扩展)和 Spring Boot(启动器)的集成。

代码示例

请看 langchain4j 如何在 langchain4j-examples 仓库中使用的例子:

库结构

LangChain4j采用模块化设计,包括:

  • 该 langchain4j-core 模块,用于定义核心抽象(如 ChatLanguageModel 和 EmbeddingStore )及其 API。
  • 主 langchain4j 模块,包含有用的工具,如 ChatMemory , OutputParser 以及高级功能,如 AiServices 。
  • 各种各样的 langchain4j-{integration} 模块,每个模块都提供与各种LLM提供商的集成,并将商店嵌入到LangChain4j中。您可以独立使用这些 langchain4j-{integration} 模块。对于其他功能,只需导入主 langchain4j 依赖项即可。

Leave a Comment

您的电子邮箱地址不会被公开。 必填项已用*标注

close
arrow_upward