MemGPT:构建具有自编辑记忆的LLM代理

MemGPT如何使聊天机器人通过智能记忆管理实现持续对话,及其本地和云端部署方法。
直达下载
回到上一页
clickgpt_line.png_noView
介绍

MemGPT是一个创新的系统,它能够智能管理大型语言模型(LLM)中的不同记忆层级,以有效扩展模型的上下文窗口。例如,MemGPT能够识别何时将关键信息推送至向量数据库,并在聊天过程中适时检索这些信息,实现持续对话。本文将详细介绍如何快速设置MemGPT,以及如何在本地运行和配置MemGPT。

github_ai_tool_memgpt_1

快速上手指南

  1. 加入Discord

    • 加入Discord服务器,并在#memgpt频道中与MemGPT机器人交互。
    • 运行以下命令:
      • /profile:创建您的个人档案。
      • /key:输入您的OpenAI密钥。
      • /create:创建一个MemGPT聊天机器人。
  2. 设置私隐设置

    确保在MemGPT的Discord服务器中开启直接消息设置,以便MemGPT机器人可以直接消息您。

    github_ai_tool_memgpt_2

  3. 使用命令

    在消息框输入/可以查看所有可用命令。

    github_ai_tool_memgpt_3

MemGPT的运行方式

  1. 本地安装
    • 安装MemGPT:pip install -U pymemgpt
    • 运行MemGPT并开始聊天:memgpt run
  2. 快速启动选项
    • OpenAI:如果您想使用OpenAI的模型(如GPT-4),请选择此选项。
    • MemGPT Free Endpoint:如果您想免费尝试顶级开放LLM(如Mixtral 8x7b),请选择此选项。

高级设置

重新配置MemGPT:

  • 可以通过运行memgpt configure来重新配置MemGPT的默认设置。

聊天中的命令

  • /exit:退出CLI。
  • /attach:附加已加载的数据源到代理。
  • /save:保存当前代理/对话状态的检查点。
  • /dump:查看当前消息日志(查看主上下文的内容)。
  • /memory:打印当前代理的记忆内容。
  • /pop:撤销对话中的最后一条消息。
  • /retry:撤销最后一个回答并尝试获取另一个。
  • /rethink <text>:将最后一条助手消息的内部对话替换为<text>,以帮助塑造对话。
  • /rewrite:用给定的文本替换最后一个助手回答,以纠正或强制答案。
  • /heartbeat:向代理发送心跳系统消息。
  • /memorywarning:向代理发送内存警告系统消息。

使用/exit退出CLI后,您可以通过指定代理名称在memgpt run --agent <NAME>中恢复与同一代理的聊天。

编程学习
编程学习 免费领取编程学习资料 进编程学习交流群
订阅号
视频号
公众号 关注公众号,回复关键字python领取大厂最新面试题
×
编程学习
免费领取编程学习资料 进编程学习交流群