LLM 记忆管理框架MemGPT

MemGPT(Memory-GPT)系统,智能地管理不同的内存层,以有效地在LLM的有限上下文窗口内提供扩展上下文,并利用中断来管理自身与用户之间的控制流。
MemGPT 的设计可以支持远超基础LLM上下文窗口的大型文档;多会话聊天领域,MemGPT可以创建能够通过与用户的长期互动记住、反思和动态发展的对话 Agents。
支持与 llama.cpp、vLLM、Ollama、LM Studio 等开源模型整合、以及与 AutoGen 等 MultiAgent 框架进行结合使用。
https://memgpt.readme.io/docs/local_llm
[Read More]

LLM 记忆管理框架MemGPT

Previous:

Next:

Leave a Reply

Please Login to Comment