AnythingLLM :可以与任何内容聊天的私人ChatGPT
AnythingLLM :可以与任何内容聊天的私人ChatGPT. 它能够把各种文档、资料或者内容转换成一种格式,让LLM(如ChatGPT)在聊天时可以引用这些内容。
然后你就可以用它来和各种文档、内容、资料聊天,支持多个用户同时使用,还可以设置谁能看或改哪些内容。
支持的多种LLM、嵌入器和向量数据库…
主要特点:
1.多用户支持和权限管理:允许多个用户同时使用,并可设置不同的权限。
2.支持多种文档类型:包括 PDF、TXT、DOCX 等。
3.简易的文档管理界面:通过用户界面管理向量数据库中的文档。
4.两种聊天模式:对话模式保留之前的问题和回答,查询模式则是简单的针对文档的问答。
5.聊天中的引用标注:链接到原始文档源和文本。
6.简单的技术栈,便于快速迭代。
7.100% 云部署就绪。
8.“自带你的 LLM”模式:可以选择使用商业或开源的 LLM。
9.高效的成本节约措施:对于大型文档,只需嵌入一次,比其他文档聊天机器人解决方案节省 90% 的成本。
10.完整的开发者 API:支持自定义集成。
支持的 LLM、嵌入器和向量数据库
•LLM:包括任何开源的 llama.cpp 兼容模型、OpenAI、Azure OpenAI、Anthropic ClaudeV2、LM Studio 和 LocalAi。
•嵌入器:AnythingLLM 原生嵌入器、OpenAI、Azure OpenAI、LM Studio 和 LocalAi。
•向量数据库:LanceDB(默认)、Pinecone、Chroma、Weaviate 和 QDrant。
技术概览
项目包含三个主要部分:
•collector:Python 工具,可快速将在线资源或本地文档转换为 LLM 可用格式。
•frontend:ViteJS + React 前端,用于创建和管理 LLM 可使用的所有内容。
•server:NodeJS + Express 服务器,处理所有向量数据库管理和 LLM 交互。
GitHub:https://github.com/Mintplex-Labs/anything-llm