| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| openai-cookbook | Examples and guides for using the OpenAI API | OpenAI API 官方使用指南 | |
| openai-python | The OpenAI Python library provides convenient access to the OpenAI API from applications written in the Python language. | OpenAI python 接口 | |
| OpenAI 插件开发 demo | Get a ChatGPT plugin up and running in under 5 minutes! | 5min 入门插件开发 | |
| OpenAI 插件开发官方文档 | - | - | - |
| Azure OpenAI Samples | The repository for all Azure OpenAI Samples complementing the OpenAI cookbook. | 微软 Azure OpenAI 服务使用示例 | |
| Best practices for prompt engineering with OpenAI API | - | OpenAI 官方教程,介绍了 Prompt 工程中最佳实践 | - |
| GPT best practices | - | OpenAI 官方教程,使用 GPT 的最佳实践 | - |
| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| 微软 guidance | A guidance language for controlling large language models. | 更好的控制大模型工具 | |
| 高质量导师提示词 Mr.-Ranedeer-AI-Tutor | A GPT-4 AI Tutor Prompt for customizable personalized learning experiences. | 极具参考价值的提示词 | |
| 结构化高质量提示词 LangGPT | LangGPT: Empowering everyone to become a prompt expert!🚀 Structured Prompt，结构化提示词。 | 使用结构化方式写高质量提示词 | |
| 吴恩达《面向开发者的 ChatGPT 提示词工程》 | - | DeepLearning.ai 创始人吴恩达与 OpenAI 开发者 Iza Fulford 联手推出了一门面向开发者的技术教程：《ChatGPT 提示工程》 | 《面向开发者的 ChatGPT 提示词工程》非官方版中英双语字幕 - 中文视频地址：面向开发者的 ChatGPT 提示词工程 - 英文原视频地址：ChatGPT Prompt Engineering for Developers |
| Prompt engineering techniques | - | 微软官方教程,介绍了 Prompt 设计和工程中的一些高级玩法，涵盖系统消息、少样本学习、非聊天场景等内容。 | - |
| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| langchain | Building applications with LLMs through composability | 开发自己的 ChatGPT 应用 | |
| langchain-aiplugin | - | langChain 插件 | |
| LangFlow | LangFlow is a UI for LangChain, designed with react-flow to provide an effortless way to experiment and prototype flows. | LangChain的一个UI | |
| langchain-tutorials | Overview and tutorial of the LangChain Library | LangChain 教程 | |
| LangChain 教程 | - | - | 吴恩达与 LangChain 开发者推出的教程，目前免费 |
| LangChain 的中文入门教程 | LangChain 的中文入门教程 | gitbook地址：https://liaokong.gitbook.io/llm-kai-fa-jiao-cheng/ | |
| langchain-ChatGLM | langchain-ChatGLM, local knowledge based ChatGLM with langchain | 基于本地知识库的 ChatGLM 问答 | |
| awesome-langchain | 😎 Awesome list of tools and projects with the awesome LangChain framework. | LangChain Awesome 资源列表。 |
如果说 ChatGPT 是 LLM 的处理核心，prompts 是 code，那么向量数据库就是 LLM 需要的存储。
| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| PineCone | - | Pinecone为向量数据提供了数据存储解决方案。 | 提供免费方案，目前注册火爆 |
| chroma | Chroma 是一个用于 Python / JavaScript LLM 应用程序的本地向量数据库，它具有内存快速访问的优势。 | 开源免费 | |
| qdrant | QDRANT AI应用程序矢量数据库，也提供云数据库: https://cloud.qdrant.io/ | 现在注册有 1G 的永久免费数据库 | |
| Milvus | Milvus 是一个开源矢量数据库，旨在为嵌入相似性搜索和 AI 应用程序提供支持。 除了向量，Milvus 还支持布尔型、整数、浮点数等数据类型。 Milvus 中的一个集合可以包含多个字段，用于容纳不同的数据特征或属性。 Milvus 将标量过滤与强大的向量相似性搜索相结合，为分析非结构化数据提供了一个现代、灵活的平台。 | 目前提供多种部署方式，支持docker, k8s, embed-milvus(pip install嵌入安装)，同时也有在线云服务。 | |
| weaviate | 开源的向量数据库，可以存储对象和向量，允许将向量搜索与结构化过滤相结合，并具有云原生数据库的容错性和可扩展性，可通过 GraphQL、REST 和各种语言客户端进行访问。 | - | |
| txtai | 用于语义搜索、LLM编排和语言模型工作流的一体化开源嵌入式数据库。 | 💡 All-in-one open-source embeddings database for semantic search, LLM orchestration and language model workflows |
| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| ChatGLM-6B | ChatGLM-6B: An Open Bilingual Dialogue Language Model | ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。 | |
| baichuan-7B | A large-scale 7B pretraining language model developed by Baichuan | baichuan-7B 是由百川智能开发的一个开源可商用的大规模预训练语言模型。基于 Transformer 结构，在大约1.2万亿 tokens 上训练的70亿参数模型，支持中英双语，上下文窗口长度为4096。在标准的中文和英文权威 benchmark（C-EVAL/MMLU）上均取得同尺寸最好的效果。 | |
| Huatuo-Llama-Med-Chinese | Repo for BenTsao [original name: HuaTuo (华驼)], Llama-7B tuned with Chinese medical knowledge. | 华佗——医疗领域中文大模型 | |
| ChatYuan | ChatYuan: Large Language Model for Dialogue in Chinese and English. | ChatYuan-large-v2是ChatYuan系列中以轻量化实现高质量效果的模型之一，用户可以在消费级显卡、 PC甚至手机上进行推理（INT4 最低只需 400M ）。 | |
| langchain-ChatGLM | langchain-ChatGLM, local knowledge based ChatGLM with langchain | 基于本地知识库的 ChatGLM 问答 | |
| wenda | 闻达：一个LLM调用平台。 | 多种大语言模型：目前支持离线部署模型有chatGLM-6B、chatRWKV、llama系列以及moss，在线API访问openai api和chatGLM-130b api |
| 名称 | 简介 | 备注 |
|---|---|---|
| Claude 官方文档 | OpenAI 前成员出走创立了Anthropic 公司旗下的大模型 Claude 开发官方文档。 | OpenAI 的强有力竞争对手 |
| Cohere | coherence 提供了前沿的语言处理技术 API 服务。 | - |
| AI21 | 以色列公司 A21 Labs 开发了一个名为 Jurassic-1 Jumbo 的模型。该模型大小与 1750 亿参数的 GPT-3 类似。该公司还围绕 Jurassic-1 Jumbo 逐渐构建起一系列产品，包括一个名为 AI21 Studio 的“AI-as-a-service”平台。该平台允许客户创建虚拟助手、聊天机器人、内容审核工具等。 | - |
| 智谱AI开放平台 | 中文大模型 API。 基于千亿基座模型 GLM-130B，注入代码预训练，通过有监督微调等技术实现人类意图对齐的中英双语大模型。 | - |
| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| gpt4free | decentralising the Ai Industry, just some language model api's... | 免费的 ChatGPT API | |
| gpt4free-ts | Providing a free OpenAI GPT-4 API ! This is a replication project for the typescript version of xtekky/gpt4free | typescript 版本的免费 ChatGPT API | |
| claude-to-chatgpt | This project converts the API of Anthropic's Claude model to the OpenAI Chat API format. | 将 Claude API格式转换为 ChatGPT API 格式 | |
| Bard-API | The unofficial python package that returns response of Google Bard through cookie value. | 谷歌 bard 网页版 API 封装 | |
| claude-in-slack-api | claude in slack api. | 通过 Slack API 来使用 Claude，保姆级教程 | |
| yiyan-api | - | 百度文心一言网页版 API |
| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| vercel-labs/ai | Build AI-powered applications with React, Svelte, and Vue. | 使用 Vercel 平台一键部署多种 AI，ChatGPT 应用。 | |
| ChatGPT-Next-Web | One-Click to deploy well-designed ChatGPT web UI on Vercel. | 一键拥有你自己的 ChatGPT 网页服务。 | |
| ChatGPT-Midjourney | Own your own ChatGPT+Midjourney web service with one click | 🎨 一键拥有你自己的 ChatGPT+Midjourney 网页服务 | |
| novel | Notion-style WYSIWYG editor with AI-powered autocompletions. | AI 驱动的 Notion 风格的所见即所得自动完成编辑器 | |
| ai-chatbot | A full-featured, hackable Next.js AI chatbot built by Vercel Labs. | 由Vercel Labs构建的全功能，可编程的Next.js AI聊天机器人 |
| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| instructor | structured outputs for llms. | 将大模型的输出结构化为 Python 的对象。推荐场景：在使用 API 调用大模型时，调用闭源模型时，使用该库。 | |
| outlines | Structured Text Generation. | 将大模型的输出结构化,从模型输出的 logits 层面限制。推荐场景：调用huggingface上的开源模型、本地部署模型时，使用该库。 |
| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| MinerU | A one-stop, open-source, high-quality data extraction tool, supports PDF/webpage/e-book extraction. | 一站式开源高质量数据提取工具，支持PDF/网页/多格式电子书提取。 | |
| gptpdf | Using GPT to parse PDF. | 使用 GPT-4o 的多模态能力解析pdf | |
| ragflow | RAGFlow is an open-source RAG (Retrieval-Augmented Generation) engine based on deep document understanding. | RAGFlow 是一款基于深度文档理解构建的开源 RAG（Retrieval-Augmented Generation）引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。 | |
| deepdoctection | A Repo For Document AI. | 文档处理 AI | |
| 360LayoutAnalysis | 360LayoutAnaylsis, a series Document Analysis Models and Datasets deleveped by 360 AI Research Institute. | 360 出品的文档版式分享工具 |
| 名称 | Stars | 简介 | 备注 |
|---|---|---|---|
| LlamaIndex |  |
Provides a central interface to connect your LLMs with external data. | 将llm与外部数据连接起来。 |
| dspy |  |
DSPy: The framework for programming—not prompting—foundation models. | 下一代 Agents 自优化开发框架 |
| llm-numbers | Numbers every LLM developer should know. | 大模型开发者必知数据 | |
| 《用ChatGPT API构建系统》课程 | - | DeepLearning.ai 创始人吴恩达和OpenAI合作的新的“使用ChatGPT API构建系统”的课程 | 课程链接（中英文字幕）: https://pan.baidu.com/s/1BgUKWwh5YSby3IVkGvLi_w?pwd=22b7 提取码: 22b7 |
| 开发指南：ChatGPT 插件开发 | - | 详细介绍了开发流程，并通过“待办事项列表(to-do list)插件”的案例开发过程进行了演示。 | - |
| gptcache | Semantic cache for LLMs. Fully integrated with LangChain and llama_index. | AIGC 应用程序的memcache,一个强大的缓存库，可用于加速和降低依赖 LLM 服务的聊天应用程序的成本，可用作 AIGC 应用程序的memcache，类似于 Redis 用于传统应用程序的方式。知乎简介：有效果实测图和基本介绍。 | |
| dify | One API for plugins and datasets, one interface for prompt engineering and visual operation, all for creating powerful AI applications. | 快速创建AI应用程序平台，网站 dify.ai | |
| OpenChat | Run and create custom ChatGPT-like bots with OpenChat, embed and share these bots anywhere, the open-source chatbot console. | 构建聊天机器人。 | |
| gptlink | - | 10分钟搭建自己可免费商用的ChatGPT环境，搭建简单，包含用户，订单，任务，付费等功能. | |
| readme-ai | Automated README.md files. | 使用 OpenAI 语言模型 API，为编写美观、结构化和信息丰富的 README.md 文件而设计的命令行工具。 | |
| dialoqbase | Create chatbots with ease. | 轻松创建聊天机器人 | |
| privateGPT | 基于 Llama 的本地私人文档助手 | - | |
| rebuff | Rebuff.ai - Prompt Injection Detector. | Prompt 攻击检测，内容检测 | |
| text-generation-webui | - | 一个用于运行大型语言模型(如LLaMA, LLaMA .cpp, GPT-J, Pythia, OPT和GALACTICA)的 web UI。 | |
| embedchain | embedchain is a framework to easily create LLM powered bots over any dataset. | Embedchain是一个框架，可轻松在任何数据集上创建LLM驱动的机器人。 | |
| aigc | - | 《构筑大语言模型应用：应用开发与架构设计》一本关于 LLM 在真实世界应用的开源电子书，介绍了大语言模型的基础知识和应用，以及如何构建自己的模型。其中包括Prompt的编写、开发和管理，探索最好的大语言模型能带来什么，以及LLM应用开发的模式和架构设计。 | |
| FLAML | A fast library for AutoML and tuning. Join our Discord: https://discord.gg/Cppx2vSPVP. | FLAML一个用于机器学习和人工智能操作的高效自动化的轻量级 python 库。它基于大型语言模型、机器学习模型等实现工作流自动化，并优化其性能。 | |
| LLMStack | No-code platform to build LLM Agents, workflows and applications with your data. | 无代码平台，利用您的数据构建 LLM 代理、工作流程和应用程序。 |