PrivateGPT – 在本地文档上离线运行 ChatGPT

您可以下载GPT模型并使用 Python 查询本地文件，而无需将任何数据发送到云端。

PrivateGPT是一个 python 脚本，用于使用开源大型语言模型GPT4ALL查询本地文件。设置起来非常简单：

• 克隆回购
• 下载LLM——大约 10GB——并将其放在一个名为“models”的新文件夹中。
• 将您要查询的文件放入 `source_documents` 文件夹——默认情况下，那里有美国最后一个联邦州的文本。
• 运行“ingest.py”脚本——这可能需要很长时间。不过在这台 MacBook M1 上是 2 分钟
• 运行 `privateGPT.py` 脚本，您会在终端中收到提示：

我问它美国总统对乌克兰局势有何看法，它给了我一个概要以及文件中信息的来源。

整洁的！

原文： https://christianheilmann.com/2023/05/27/privategpt-running-chatgpt-offline-on-local-documents/